login LOGIN
CHIUDI chiudi
Il mio profilo

mostra
Hai dimenticato la password?
Inserisci l'indirizzo email di registrazione per reimpostare la password.
Segui le istruzioni che ti abbiamo inviato per posta elettronica.

Assistenti vocali, le aziende analizzano i nostri comandi

Da Alexa a Google Home: sono tante le aziende che monitorano le conversazioni private tra gli utenti e i loro assistenti digitali. Ecco perché

assistenti vocali

Ha fatto molto discutere un recente rapporto pubblicato su Bloomberg. L'indagine ha rivelato l'esistenza di attività controverse all'interno degli uffici di Amazon: secondo indicazioni arrivate dai piani alti, i dipendenti starebbero ascoltando le registrazioni vocali fatte dagli utenti su Amazon Alexa. Il colosso dell'e-commerce non è l'unica azienda al centro di questo ciclone. Esistono altre importanti realtà che ascoltano o leggono i messaggi privati o i comandi vocali pronunciati dagli utenti. Questo avviene con Siri, ma anche con Google Home e altri assistenti personali.

Secondo il report, le aziende ascolterebbero costantemente le conversazioni effettuate con gli assistenti digitali, ma non solo. Alcune società registrano anche le note vocali. Quest'ultimo caso è quello di Evernote, che legge le note delle persone. Nel gennaio 2017 l'azienda ha dato ai dipendenti la possibilità di leggere le note degli utenti per migliorare la loro esperienza d'uso. Tuttavia, quando questa attività è stata resa nota, molti hanno abbandonato l'app, altri hanno richiesto l'integrazione di queste informazioni all'interno dell'informativa sulla privacy, o hanno intimato l'azienda a bloccare subito queste attività, pretendendo che le note rimanessero private. Ma perché le aziende ascoltano messaggi e richieste ad assistenti vocali e altri sistemi di intelligenza artificiale? I motivi sono diversi e più complessi di ciò che si immagina.

Le aziende ascoltano le conversazioni degli utenti: minacce alla sicurezza

assistenti vocali

Innanzitutto, non si deve pensare che questa sia una pratica rara: le aziende ascoltano e archiviano conversazioni private per una marea di motivi. Purtroppo, in molti casi si oltrepassa il terreno del lecito. Ed è qui che sorgono i veri problemi, che minano la credibilità dell'intero processo. Esistono alcuni casi gravi che hanno coinvolto diverse aziende nel mondo.

Google, per esempio, ha licenziato un suo dipendente per aver effettuato l'accesso ai server aziendali in modo da spiare diversi minori, arrivando addirittura a curiosare tra i registri delle chiamate Google Voice per trovare numeri di telefono da contattare. Purtroppo, ingegneri e sviluppatori hanno accesso ad una marea di dati su più livelli e questo mette a repentaglio la sicurezza degli utenti. Spesso abusano di questo potere, proprio come è successo anche a Facebook. Nel 2018 l'azienda di Mark Zuckerberg ha licenziato un ingegnere della sicurezza che ha sfruttato il suo potere sulla piattaforma per controllare le donne online. Molti altri dipendenti sono stati licenziati perché hanno perseguitato le loro ex o stalkerato conoscenti.

Relazione tra privacy e cloud

google home

Anche i servizi in cloud nascondono dei lati oscuri. Infatti, quando si caricano foto online su uno dei tanti servizi disponibili, è come se si dessero i propri dati in mano all'azienda che li gestisce.

Non si sa bene come tali società utilizzano i dati degli utenti, ma questo tipo di gestione delle informazioni è accettabile per gli utenti. Ciò che è più difficile da digerire è che i dipendenti delle aziende ascoltino le registrazioni vocali e le conversazioni private conservate online.

Forse si pensa che i dati siano troppi e i dipendenti non riescano o possano esaminarle tutte in modo approfondito o che ci siano delle leggi che impediscono alle aziende di guardare questi dati. In realtà negli Stati Uniti non c'è alcuna legge specifica che impedisca alle aziende di guardare tali dati. Le società che vogliono farlo devono realizzare un documento pubblico in cui avvisano tutti gli utenti. Purtroppo, spesso la liberatoria non viene letta, e quindi le reali azioni di un'azienda non sono conosciute neanche dai clienti.

Amazon non è l'unica che ascolta ciò che i consumatori dicono ai propri assistenti vocali. Come afferma Bloomberg, anche Apple conta dei team interni che hanno il compito di ascoltare le registrazioni di Siri, e migliorare così le sue capacità di comprensione e i tempi di risposta. Quindi il compito degli esseri umani è quello di addestrare le intelligenze artificiali. Lo stesso obiettivo è condiviso dai revisori di Google.

Perché le aziende analizzano i dati degli utenti?

smart speaker

Esistono alcune ragioni per cui un dipendente di un'azienda potrebbero guardare i dati degli utenti:

  • Richieste da parte del Governo: a seguito di un mandato inviato dall'autorità, ogni azienda ha l'obbligo di esaminare i dati per trovare qualcosa di rilevante. E in quest'ultimo caso li consegna al Governo.
  • Algoritmi di addestramento: le intelligenze artificiali sono in grado di incrementare le proprie capacità di comprensione e risposta, grazie al miglioramento degli algoritmi interni. Per raggiungere tali obiettivi, hanno bisogno di un processo di addestramento, un input eseguito da un umano. Per tale motivo, molti dipendenti Apple sono impegnati ad ascoltare le conversazioni con Alexa, così come quelli di Evernote leggono le note private degli utenti.
  • Garanzia di qualità: le aziende potrebbero esaminare registrazioni e altri dati per scoprire come funziona il loro servizio. Nello specifico, lo fanno per capire se offrono un servizio di qualità, funzionante, eccellente oppure no.
  • Assistenza clienti: una compagnia potrebbe dover rivedere i tuoi dati e le conversazioni per offrire un supporto migliore. Naturalmente la compagnia dovrebbe lavorare in questo modo solo dopo aver ottenuto il permesso degli utenti.
  • Report violazioni: una compagnia potrebbe dare uno sguardo ai dati in caso vi siano delle eventuali violazioni da controllare. Per esempio, se all'interno di una conversazione privata emerge che uno dei due interlocutori ha affermato qualcosa di pericoloso, contradditorio o che viola i termini del social network, l'altra persona potrebbe segnalare l'utente e quindi l'azienda potrebbe essere portata ad effettuare controlli sulla conversazione. Questo è lo stesso meccanismo che funziona anche sui post pubblici di Facebook.

 

Difendersi con la crittografia end-to-end

Nonostante tutti i discorsi sulla privacy e la protezione dei dati, l'unica assicurazione per gli utenti è la crittografia end-to-end, un sistema utilizzato per rendere illeggibili i dati degli utenti.

La comunicazione si basa su due chiavi crittografiche, che servono per cifrare i messaggi che partono dal mittente e arrivano al server e poi decifrarli quando escono e arrivano al destinatario. La condivisione di queste chiavi avviene solo tra i due interlocutori, quindi solo loro possono conoscere il contenuto di un messaggio.

La crittografia end-to-end è quindi una vera e propria garanzia per evitare che i messaggi vengano violati e letti da terze parti, sia per evitare che un'azienda o un dipendente possa tracciarli e guardarli all'insaputa di un utente.

 

27 giugno 2019

A cura di Cultur-e
Addestramento IA non consentito: É assolutamente vietato l’utilizzo del contenuto di questa pubblicazione, in qualsiasi forma o modalità, per addestrare sistemi e piattaforme di intelligenza artificiale generativa. I contenuti sono coperti da copyright.
Fda
Prompt engineering
Immagine principale del blocco
Prompt engineering
Fda gratis svg
Come interrogare le intelligenze artificiali
Iscriviti al corso gratuito

Iscriviti
all'area personale

Per ricevere Newsletter, scaricare eBook, creare playlist vocali e accedere ai corsi della Fastweb Digital Academy a te dedicati.