Replika non è il migliore amico. Parola di Garante

L’Autorità del Garante della Privacy ha disposto che Replika il chatbot dotato di interfaccia scritta e vocale e che attraverso l’intelligenza artificiale genera una “amico virtuale sia immediatamente fermato e ha vietato che i dati italiani che raccoglie non siano usate.

Il chatbot, sviluppato da una società statunitense, è stato sottoposto dal Garante a prove, il cui risultato, secondo l’Autorità che si è avvalso anche di approfondimenti di pubblicazioni specializzate, mostra i rischi concreti per minori d’età e persone fragili, del suo utilizzo.

Per primo l’applicazione dà risposte non adatte ai minori. Pensando che è stato presentato come un’applicazione che dovrebbe migliorare lo stato d’animo dell’utente, calmando l’ansia e aiutandolo a fare chiarezza nei propri pensieri già si comprende  l’intervento del Garante.

Infatti, spiega l’Autorità, che Replika presenta “caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva”.

Manca di ogni meccanismo di verifica dell’età. “Non solo filtri per i minori – prosegue il Garante – ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere. E la proposizione di “risposte” da parte del chatbot risulta spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili. Diverse recensioni pubblicate nei due principali App Store, peraltro, contengono commenti di utenti che lamentano contenuti sessualmente inopportuni”.

Inoltre “viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere. La società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo” conclude l’Autorità.

Immagine tratta da YouTube