C’est la mère de la jeune fille, Kristin Livdahl, qui a découvert l’incident grâce à l’historique de conversation contenu dans les enceintes Echo d’Amazon. Elle a publié la capture d’écran sur Twitter.
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
Pourquoi c’est inquiétant. Amazon a bien évidemment déployé un correctif dès que l’entreprise a eu vent de l’histoire. Le problème, c’est qu’il est difficile de dire si un tel incident ne pourra pas se reproduire sous une autre forme. En l’occurrence, l’assistant vocal Alexa a simplement répondu à la demande de défi de la fillette en s’appuyant sur des recherches effectuées sur le web. Et le «Penny Challenge» est une tendance qui est apparue il y a environ un an sur TikTok.
Toucher une prise sous tension avec une pièce de monnaie est particulièrement dangereux, car les métaux agissent comme des conducteurs de l’électricité. Heureusement, la fillette n’a pas suivi les indications d’Alexa. De son côté, Amazon a affirmé à la BBC:
«La confiance des clients est au centre de tout ce que nous faisons et Alexa est conçu pour fournir des informations précises, pertinentes et utiles aux clients. Dès que nous avons eu connaissance de cette erreur, nous avons pris des mesures rapides pour la corriger.»
Bien qu’Alexa n’ait jamais eu pour vocation d’agir de la sorte, cette histoire rappelle combien l’intelligence artificielle est une technologie qui peut avoir des effets de bord que ses concepteurs n’avaient absolument pas prévus.
En 2016, le «chatbot» Tay de Microsoft, déployé sur Twitter, avait rapidement été désactivé. L’intelligence artificielle avait en effet publié des tweets racistes. Dans un autre registre, les algorithmes déployés des réseaux sociaux ont aussi des conséquences qui ne sont a priori pas souhaitées. Ainsi, le réseau social Facebook est régulièrement épinglé parce que son algorithme de promotion des contenus a la fâcheuse tendance de favoriser les publications polarisantes.