Genitori segnalati come pedofili da Google dopo aver mandato una foto del loro bambino nudo al dottore per una diagnosi
Un recente articolo del New York Times mostra quali possono essere gli effetti spiacevoli della scansione dei dati degli utenti con algoritmi che cercano contenuto illegale.
L'articolo riporta la storia di una coppia di genitori che hanno inviato alcune foto del proprio bambino nudo al medico pediatra, per avere la diagnosi di un'infezione al pene.
I genitori erano stati sollecitati dallo stesso medico ad inviare le foto, per evitare contatti personali nel periodo della pandemia da Covid-19, e avevano utilizzato un cellulare Android per inviarle.
Due mesi dopo, il papà del bambino ha ricevuto una notifica da Google con la quale gli si comunicava la disattivazione del suo account a causa di una violazione delle policy del servizio per pornografia minorile.
L'uomo è stato segnalato alla polizia a cui Google ha trasmesso tutti i suoi dati. La polizia ha indagato sul fatto ed ha concluso che l'uomo non ha commesso alcun reato, quindi il caso è stato archiviato.
Nonostante la comprovata innocenza dell'uomo, Google si rifiuta di ridare al genitore l'accesso ai suoi dati, tagliandolo fuori dalla sua vita digitale, senza accesso a mail, contatti e calendari che usa anche per scopo lavorativo.
Google si ostina a non riattivare l'account del genitore in quanto ritiene che l'uomo abbia violato la policy del servizio.
L'articolo del NYT in seguito fa riferimento ad altre storie simili, tutte accadute negli Stati Uniti.
In che modo Google scansiona i contenuti degli utenti
Google scansiona i contenuti che gli utenti caricano sul cloud con degli algoritmi che cercano contenuto illegale, in particolare pornografia minorile. Questo vale anche per le foto caricate su Google Foto, un servizio utilizzato dalla maggior parte degli utenti Android, che permette di archiviare foto personali sul cloud. Questi algoritmi possono sbagliare, segnalando erroneamente foto di bambini in spiaggia o foto di bambini che fanno il bagnetto.
Google fa riferimento alla scansione dei dati degli utenti alla ricerca di contenuti illegali nella sua Privacy Policy:
Utilizziamo diverse tecnologie per elaborare le tue informazioni per i fini indicati. Utilizziamo sistemi automatizzati che analizzano i tuoi contenuti per fornirti ad esempio i risultati di ricerca su misura per te, gli annunci personalizzati o altre funzionalità modellate in base a come utilizzi i nostri servizi. Inoltre analizziamo i tuoi contenuti per riuscire a rilevare i comportamenti illeciti quali spam, malware e contenuti illegali. Usiamo anche algoritmi per individuare eventuali modelli nei dati. Ad esempio, Google Traduttore aiuta le persone a comunicare in più lingue rilevando i modelli del linguaggio comune nelle frasi che gli chiedi di tradurre.
Quando rileviamo spam, malware, contenuti illegali e altre forme di comportamento illecito nel sistema che violano le nostre norme, potremmo disattivare il tuo account o intraprendere altre azioni appropriate. In alcune circostanze, potremmo anche segnalare la violazione alle autorità competenti.
Il meccanismo usato da Google per individuare contenuti illegali è simile a quello che la Commissione Europea vuole imporre per scansionare le chat di tutti i cittadini. Se l'algoritmo individua contenuti sospetti, questi vengono visionati da personale umano ed eventualmente segnalati alla polizia, in seguito l'account dell'utente viene disattivato.
Nel 2021 Apple è finita nell'occhio del ciclone dopo aver annunciato la creazione di un sistema simile per controllare le foto caricate su iCloud. Dopo numerosissime critiche da parte di attivisti per la privacy ed esperti di cybersecurity Apple ha momentaneamente accantonato il piano, facendolo cadere nel silenzio.
L'articolo del NYT mette in mostra il fatto che i sistemi di sorveglianza di massa possono far finire nei guai cittadini innocenti. I criminali, al contrario, spesso riescono ad eludere questi controlli, usando canali differenti da quelli convenzionali per trasmettere i contenuti illegali.