Amazon ha aggiornato il suo assistente vocale Alexa dopo aver “sfidato” una bambina di 10 anni a toccare con una moneta i poli di una spina inserita a metà.
Alexa di Amazon ha proposto a una bambina, in risposta a una specifica domanda, di toccare con un centesimo i poli esposti di un caricabatterie per telefono, secondo un genitore che ha pubblicato schermate della cronologia delle attività di Alexa che mostrano l’interazione ( tramite Bleeping Computer ). Il dispositivo sembra aver tratto l’idea per la sfida da un articolo che lo descriveva come pericoloso, citando notizie su una presunta tendenza di sfida su TikTok.
Il suggerimento è arrivato dopo che la bambina ha chiesto ad Alexa una “sfida da fare” ricevendo una risposta del tipo “Collega a metà un caricabatterie per telefono in una presa a muro, quindi tocca con un centesimo i poli esposti”.
Amazon ha affermato di aver corretto l’errore non appena l’azienda ne è venuta a conoscenza. La madre della bambina ha riferito che stavano facendo alcune sfide fisiche, come sdraiarsi e rotolare tenendo una scarpa sul piede presa da YouTube. Siccome fuori c’era mal tempo la bambina ne voleva fare solo un’altra.
È stato allora che Echo ha suggerito di partecipare alla sfida che aveva “trovato sul web”. La pericolosa attività, nota come “the penny challenge”, ha iniziato a circolare su TikTok e altri siti di social media circa un anno fa.
I metalli conducono elettricità e il loro inserimento in prese elettriche attive può causare scosse elettriche, incendi e altri danni. La signora Livdahl ha twittato di essere intervenuta, urlando: “No, Alexa, no!” Tuttavia, ha detto che sua figlia era “troppo intelligente per fare una cosa del genere”.
Amazon ha dichiarato di aver aggiornato Alexa per impedire all’assistente di consigliare tale attività in futuro e che non venuta a conoscenza di questo errore ha agito rapidamente per risolverlo.
Amazon non è l’unica azienda a incappare in problemi nel tentativo di analizzare il Web alla ricerca di contenuti e questo è solo uno dei rischi dietro gli algoritmi di intelligenza artificiale. I risultati prodotti dall’IA dipendono dalla progettazione della IA stessa e dai dati con la quale viene alimentata/addestrata. Questo processo può essere influenzato intenzionalmente o meno. Ad esempio, alcuni aspetti importanti potrebbero non essere programmati nell’algoritmo o potrebbero essere programmati per riflettere e perpetuare delle distorsioni strutturali. E’ fondamentale dunque valutare sempre con molta attenzione, durante le fasi di privacy by design, rischi e opportunità delle IA che si vogliono utilizzare.