| | Radar

Les Facebook Papers, plongée technologique en eaux troubles

Image d'illustration | EPA / John G. Mabanglo

Facebook traverse sans doute la pire période de son histoire. L’action de l’entreprise a chuté d’environ 5% ces dernières semaines, réduisant sa valeur de plusieurs milliards de dollars. Des législateurs ont présenté des lois qui pourraient réduire les protections juridiques de Facebook et les actionnaires ont déposé une résolution visant à réduire le pouvoir du directeur général Mark Zuckerberg, rappelle le New York Times.

La cause de ce récent emballement? Les milliers de pages de recherches internes ainsi que les témoignages de Frances Haugen, une ancienne cheffe de produit de Facebook qui s’est transformée en lanceuse d’alerte.

Lire aussi: Le projet Jedi, ou comment Google a voulu annihiler la concurrence

Les Facebook Papers. Un consortium composé de différents médias internationaux a reçu une grande quantité de documents de la part d’une source parlementaire américaine. Il s’agit des dossiers que Frances Haugen a transmis elle-même au régulateur américain et au Congrès. Les révélations autour de ces informations ont été intitulées les «Facebook Papers».

Le quotidien français Le Monde résume le contenu des documents:

«Ils montrent que Facebook consacre davantage de ressources à limiter ses effets néfastes en Occident, au détriment du reste du monde. Ils attestent que ces effets sont connus en interne mais les signaux d’alerte pas toujours pris en compte. Enfin, ils prouvent que les algorithmes de Facebook sont devenus d’une complexité telle qu’ils semblent parfois échapper à leurs propres auteurs.»

Facebook a perdu le contrôle de ses algorithmes. Les documents lèvent le voile sur les ingénieurs de la division «Intégrité» qui ont la responsabilité de limiter la portée des discours haineux ou violents ainsi que des fausses informations qui sont publiées quotidiennement sur le réseau social. L’unité lutte principalement contre les effets inattendus d’un changement d’algorithme effectué en 2018. Depuis lors, le fil d’actualité des utilisateurs se compose des interactions sociales significatives — meaningful social interactions, soit les likes, les commentaires et les partages, précise la Tribune de Genève.

Puisque les contenus extrêmes suscitent davantage de réactions, l’effet de bord de l’algorithme — qui n’était pas souhaité à la base — a été de faciliter la promotion des contenus haineux, violents ou mensongers.

La Tribune de Genève cite l’exemple d’une publication du site d’extrême droite Breitbart News à propos de l’accès aux toilettes des adolescents transgenres. Il a rapidement totalisé 48’000 commentaires, dont la plupart contenaient des propos violents, discriminatoires ou haineux. Selon la note de démission de l’ancien responsable de la division Intégrité, non seulement Facebook ne parvient pas à bloquer ce type de contenus, mais la plateforme les «récompense de manière fantastique» en les faisant apparaître sur le fil d’actualité de millions d’utilisateurs.

Lire aussi: La lanceuse d’alerte qui plonge Facebook dans l’embarras

Le Monde relève de son côté l’incompréhension des employés qui témoignent dans des documents internes face à des comportements non souhaités des algorithmes. Et de citer le cas de l’Inde, où des vidéos pornographiques soft se retrouvent promues dans l’onglet Watch — la catégorie destinée à la consultation de vidéos sur Facebook — sans que personne comprenne pourquoi.

La Tribune de Genève précise que Facebook affirme «consacrer des moyens considérables à maîtriser ces problèmes, qui sont des effets non désirés et souvent inattendus des algorithmes développés par la firme». L’entreprise aurait investi 13 milliards de dollars dans la sécurité de ses systèmes, selon le quotidien genevois.

Facebook dit déployer 40’000 personnes dans ce secteur, dont 15’000 seraient dédiées au contrôle des contenus problématiques dans 70 langues. Pourtant, comme le relève Le Monde, Facebook a toujours refusé de publier le nombre de personnes chargées de modérer les contenus par pays ou par langues, malgré des demandes répétées.

Le fonctionnement opaque de l’algorithme. Le Washington Post schématise le fonctionnement de l’algorithme du fil d’actualité:

  • Différents facteurs ayant chacun leur propre pondération s’additionnent pour donner un score unique généré par l’algorithme du fil d’actualité pour chaque publication dans le fil de chaque utilisateur dès qu’il est rafraîchi.

  • Ce score est utilisé pour trier les messages de haut (forte priorité) en bas (faible priorité) du fil d’actualité.

  • Facebook ne dévoile pas les valeurs que son algorithme attribue aux différents types d’engagement — likes, commentaires, partages — ni les plus de 10’000 signaux que son logiciel prend en compte pour prédire la probabilité que chaque publication génère de l’engagement.

Pour se défendre de son opacité, l’entreprise invoque sa crainte de donner un mode d’emploi à des personnes mal intentionnées qui pourraient tirer parti du fonctionnement de l’algorithme au détriment des utilisateurs.

Les documents montrent également que les mécanismes mis en place par Facebook pour réduire l’impact des publications problématiques n’ont pas suffi. Le Washington Post relève également que les propositions des employés pour améliorer le fonctionnement de l’algorithme et limiter ses effets de bord indésirables n’ont pas toujours été pris en compte par l’entreprise.

Le désarroi des employés. Wired consacre un article entier aux «badge posts», ces notes d’adieu publiées par des employés démissionnaires sur la plateforme interne de Facebook. «En vérité, je ne suis toujours pas certain que Facebook devrait exister», a par exemple écrit un chercheur en sécurité avant de quitter l’entreprise.

Ce qu’il ressort des recherches du média américain, c’est que les employés se soucient beaucoup des utilisateurs de la plateforme, mais les résultats de leur travail ne sont pas concluants. Ces employés dévoués ont compris que le changement ne viendrait pas ou sont tout simplement trop épuisés pour continuer à se battre pour qu’il advienne.

D’après ces témoignages, de nombreuses initiatives prometteuses proposées par la division Intégrité pour améliorer la modération du contenu ont tout simplement été tuées dans l’œuf par des responsables de l’entreprise.

L’auteur de l’article publié par Wired explique avoir passé des centaines d’heures à discuter ces dernières années avec des employés de Facebook. Selon lui, les Facebook Papers démontrent avec précision à quel point l’entreprise ne pouvait pas ignorer les problèmes liés au fonctionnement de sa plateforme.

Quel avenir pour l’entreprise? On le sait, même en pleine tempête, Facebook ne se laisse pas facilement impressionner. Mark Zuckerberg devrait annoncer jeudi 28 octobre 2021, lors de la conférence annuelle de l’entreprise, un nouveau nom pour son groupe. L’objectif derrière cette opération est de marquer une rupture claire avec l’association de Facebook à ses seules activités de plateforme sociale. Mark Zuckerberg en est convaincu: l’avenir de son entreprise se situe dans le métavers, cette nouvelle dimension d’internet censée remplacer l’internet mobile.

Mais face aux révélations qui se succèdent, ce changement de nom peut aussi être perçu comme une opération de déminage. Le nom de Facebook est désormais radioactif. Le dégât d’image est profond.

Bien que la Securities and Exchange Commission (SEC) — l’organisme américain de régulation des marchés financiers — ait reçu neuf plaintes de la part d’anciens employés de Facebook, les éventuelles conséquences légales pour l’entreprise sont difficiles à prédire.

Les documents transmis à la SEC par Frances Haugen sont censés démontrer que Facebook a délibérément trompé les investisseurs et a privilégié ses intérêts en dépit des conséquences de ses technologies sur la société.

Lire aussi: «Instagram amplifie les phénomènes tels que la comparaison sociale»

Pas sûr que cette approche soit couronnée de succès, selon un ancien avocat du régulateur américain, cité par le New York Times:

«L’argument selon lequel Facebook a donné la priorité aux bénéfices n’est pas convaincant, car c’est ce que font toutes les entreprises. Il y aura très probablement une enquête parce que l’affaire est très médiatisée, mais il est difficile d’y voir une véritable affaire.»

Le grand quotidien américain souligne que Facebook a engagé une armada d’avocats pour lutter contre les éventuelles répercussions légales que pourraient avoir les révélations transmises par ses anciens employés. La puissance financière du groupe l’a jusqu’ici épargné de sanctions trop lourdes pour porter à conséquence sur la bonne marche de ses affaires.

L’avenir de Facebook se jouera peut-être davantage auprès du public et de sa potentielle défection face à l’accumulation des scandales que du côté des régulateurs, qui ont jusqu’ici montré leur incapacité à réellement peser sur les choix réalisés par l’entreprise.

Tableau de bord climat

Un suivi interactif des grands indicateurs du dérèglement climatique et de ses solutions.