A Google, l'étonnant licenciement d'une chercheuse en éthique de l'IA

Le départ forcé de Timnit Gebru, chercheuse spécialisée en éthique, soulève de nombreuses questions chez Google. L’informaticienne connue pour ses travaux sur les biais sexistes et racistes des algorithmes de reconnaissance faciale aurait été poussée vers la sortie après des désaccords internes avec sa hiérarchie sur un article scientifique à paraître dont elle est co-autrice, et que s’est procuré le MIT Technology Review.

Pourquoi on en parle. Ce licenciement pourrait jeter un froid sur la recherche en éthique appliquée à l’intelligence artificielle, en dissuadant les chercheurs en poste chez les géants du numérique de poser certaines questions. L’article de la discorde, qui s’intitule «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?», décrit l’histoire de ce qu’on appelle traitement du langage naturel, c’est-à-dire ce qui permet aux machine de «comprendre» (ou du moins interpréter) et de produire du langage écrit. Il détaille les risques liés à ces algorithmes désormais au coeur du business model de Google, entre coût environnemental croissant, rapide inflation des quantités de données exigées pour procéder à leur «entraînement», ou encore le coût d’opportunité qui ouvrirait la voie à des possibilités de manipulation préoccupantes, et notamment de désinformation.