Une image du designer turc Mehmet Geren, pour Heidi.news
Votre cerveau a été piraté | épisode № 03

L’homme qui veut reprogrammer votre vie, en 21 jours

Monsieur Brown ne doute de rien. Bravache, il se dit capable de pirater les circuits naturels de votre cerveau avec ses applications comportementales. Si un jour votre réfrigérateur refuse de vous laisser grignoter le soir, ce sera de la faute de ce mec cool de la Silicon Valley.
[lire la version anglaise]

Au bout de la quatrième margarita, Monsieur Brown semble toujours aussi vif, impertinent et sûr de lui. Dans un café huppé à quelques rues de Venice Beach, à Los Angeles, il me parle de son amour pour cette partie du pays et m’explique pourquoi il ne déplacerait pour rien au monde l’entreprise qu’il a créée ici en 2015, à l’âge de 27 ans. D’abord nommée Dopamine Labs, celle-ci a été rebaptisée Boundless Mind en 2017 afin de mieux refléter la vision de son fondateur – consistant à formater l’esprit des gens à l’aide d’applications irrésistibles reposant sur l’intelligence artificielle (IA).

Mon enquête visant à mieux comprendre comment nos esprits sont piratés par ces technologies m’a menée jusque là. Je commence par lui demander ce qu’il vend.

— Des techniques d’ingénierie comportementale qui permettent aux entreprises d’influencer leurs clients, en suscitant le plaisir et la surprise. Cette expérience agréable les incite à vouloir répéter leurs actions et, ainsi, à rester fidèles à l’entreprise.

«Nous avons créé un moteur prédictif qui analyse les habitudes de chaque personne et détermine les moments où des stimuli de bien-être doivent être envoyés pour récompenser une action»

— Vous fournissez donc aux entreprises des outils qui persuadent les clients de faire ce qu’elles veulent ?

— Oui, nous piratons les circuits naturels du cerveau.

Est-ce que Monsieur Brown mesure les implications de ce qu’il dit ?

— Si vous découvrez une expérience merveilleuse sur votre smartphone, poursuit-il, vous aurez envie de la reproduire par la suite. Notre cerveau libère de la dopamine quand nous prenons du plaisir et l’une des voies dopaminergiques joue un rôle prédominant dans la composante motivationnelle du système de récompense. Par conséquent, les gens ont tendance à répéter le comportement qui les fait se sentir bien. Nous avons créé un moteur prédictif qui analyse les habitudes de chaque personne et détermine les moments où des stimuli de bien-être doivent être envoyés pour récompenser une action.

— De quel genre de comportements parlons-nous ?

— Disons que nous travaillons avec une entreprise qui propose une application de running et souhaite que les gens l’utilisent à chaque fois qu’ils courent. Nous lui donnons un code à intégrer dans son application pour la relier à notre moteur prédictif. A l’issue de la course, le code envoie un message au moteur lui demandant si la personne serait agréablement surprise d’être félicitée maintenant. Est-ce que cela lui ferait du bien ? Si elle reçoit sans cesse des messages de félicitation, cela ne lui fera aucun effet. Si elle n’en reçoit jamais, cela peut la décourager. Il faut trouver le juste milieu entre toujours et jamais, et il est différent pour chaque individu.


MehmetGeren-1.jpg
Une image du designer turc Mehmet Geren, pour Heidi.news

Ma rencontre avec Monsieur Brown prend une tournure sympathique. Je me rends compte qu’il fait partie de ces hipsters californiens ayant participé à l’inquiétante addiction aux baskets de mon neveu.

— C’est là qu’intervient le moteur prédictif, poursuit-il. Il examine tous les comportements passés, analyse leur évolution à la suite du compliment envoyé par l’application et prédit la réaction si un nouveau compliment est envoyé. Puis, en fonction du résultat de l’analyse, il transmet à l’application la décision de dire quelque chose de gentil ou de ne rien dire cette fois. Le concept peut s’appliquer dans toutes sortes de circonstances.

Autrement dit, Monsieur Brown peut vous encourager à consommer des boissons «saines» que des entreprises veulent vendre, ou promouvoir certains placements «sûrs» dans lesquels investir, ou vous inciter à dormir le «bon» nombre d’heures recommandé par un laboratoire pharmaceutique. L’idée du bon, du sûr, du sain, du meilleur, etc. est bien connue pour faire vendre.

«Des pouces levés déclenchent une libération de dopamine suffisante pour modifier le comportement d’une personne»

— Etes-vous en train de me dire qu’une phrase suffit pour changer un comportement?

— Cela peut être de petites phrases, des pouces levés ou encore des GIF. Peu importe ce que vous montrez à l’utilisateur, du moment qu’il ne s’y attend pas. C’est un déclencheur de dopamine. Ça fait du bien et ça fonctionne. L’essentiel est d’optimiser cet élément de surprise. Pour y parvenir, le moteur prédictif fait une supposition éclairée sur votre réaction future, selon les actions et réactions passées. Il apprend comment se comporte une personne et prévoit ses prochaines actions.

Ma prochaine action est une autre question.

— Est-ce que les pouces levés déclenchent une libération de dopamine suffisante pour modifier le comportement d’une personne?

— Les données montrent que même de toutes petites interventions de ces applications ont des conséquences sur le comportement des gens. Lorsque le comportement change, les gens modifient l’histoire qu’ils se racontent sur eux-mêmes.

— Incroyable! Mais… votre tentative de changement du comportement des personnes à la demande de vos clients peut-elle amener les utilisateurs à développer une forme d’addiction?

— Oui, sauf que le terme addiction décrit un comportement qui dure longtemps, ou une habitude que nous n’aimons pas. Notre technologie peut être utilisée pour développer soit des habitudes, soit des addictions, ce qui est très différent. Boundless Mind développe des habitudes, mais de nombreuses applications développent des addictions.

— Comment déterminez-vous ce qui relève de l’habitude et ce qui est une addiction?

— Avant toute chose, je ne suis ni éthicien, ni philosophe, ni policier, ni parent. Je ne détiens pas une connaissance ou une maîtrise parfaite de ce qui est bien ou mal, et je ne dirai jamais à quelqu’un ce qui est bon ou mauvais pour lui.

— Mais…

— Mais ce que nous essayons de faire, c’est de trouver une série de comportements que la plupart des gens reconnaissent vouloir développer, des habitudes considérées comme saines, telles que prendre ses médicaments, manger équilibré, bien dormir, travailler assidûment, dépenser et économiser de l’argent judicieusement, boire assez d’eau, méditer, etc. Nous collaborons avec des entreprises proposant des applications qui aident à atteindre ces objectifs ambitieux.

«Personne n’est prêt à lâcher son téléphone portable ou sa tablette. Personne ne pourra gagner la bataille contre la technologie»

— Dans une conférence TED, Zoë Chance, professeur à Yale, révèle comment elle est devenue accro à l’une de ces applications «santé», en l’occurrence un podomètre. Cela ne prouve-t-il pas que la notion d’application faisant consensus prête en soi à controverse? Est-ce que les gens ont réellement besoin de technologies et d’outils persuasifs pour leur dire comment vivre mieux, indépendamment de ce qu’une personne peut entendre par là?

— Personne n’est prêt à lâcher son téléphone portable ou sa tablette. Alors, plutôt que de nier cette tendance, tournons-la à notre avantage. Nous ne pensons pas que quiconque puisse gagner la bataille contre la technologie.

— Peut-on même parler de bataille? Quand les gens ouvrent une application dans laquelle votre code est intégré, le savent-ils?

— Jamais.

— Et savent-ils que vous collectez leurs données afin de modifier leur comportement?

— Non, cela fait partie de ce que nous, consommateurs, acceptons lorsque nous téléchargeons une application ou allons sur un site Internet et cliquons sur «OK» ou «J’accepte» pour que l’entreprise améliore notre expérience. Rien à voir avec le fait de vendre vos informations personnelles. Nous ne faisons qu’essayer d’améliorer votre relation avec la technologie. Et pour moi, vous êtes une série de chiffres, rien de plus.

— Combien de clients avez-vous ?

— Une trentaine. Nous sommes soumis à un accord de confidentialité avec nombre d'entre eux en raison de la nature des outils que nous utilisons, mais je peux vous dire que nous travaillons avec de grandes entreprises aux Etats-Unis, en Europe et en Asie.

— Quels types d’applications proposent-elles?

— Forme et bien-être, contenus éducatifs, amélioration de la productivité, bien-être en entreprise, responsabilité sociale, services financiers et jeux. Des applications conçues pour aider les utilisateurs à combler le fossé entre leurs aspirations et leur comportement.

— Comment mesurez-vous le succès de votre intervention ?

«Il faut environ 21 jours à un nouvel utilisateur pour commencer à se comporter comme le veut l’application»

— Bonne question! Nous procédons à ce que nous appelons un essai contrôlé randomisé. Certains utilisateurs de notre technologie ne la reçoivent pas du tout, d’autres reçoivent une fausse version et pour les autres, elle est attribuée de façon aléatoire. Ensuite, nous analysons leur comportement et la fréquence à laquelle ils font ce que l’application veut qu’ils fassent. Au bout de plusieurs fois, nous pouvons effectuer des mesures entre ces groupes à l’aide de tests statistiques. Ces tests nous donnent une connaissance scientifique de notre technologie.

— Qu’avez-vous constaté ?

— Il faut environ 21 jours à un nouvel utilisateur pour commencer à se comporter comme le veut l’application. Cela correspond à la littérature scientifique sur la formation des habitudes.

— Est-ce que cela veut aussi dire qu’après 21 jours, vos clients n’ont plus besoin de vous car leurs utilisateurs sont déjà rivés à leurs applications ?

— Par chance, nos clients ont de nouveaux utilisateurs, qui bénéficient tous également de notre «traitement». En outre, chez une personne qui a déjà reçu le traitement, son effet commence à diminuer si nous le supprimons.

— Le terme «traitement» fait penser à un médicament ou une drogue. Si vous le supprimez, les gens retournent à leur point de départ ?

— Pour maintenir la fréquence d'utilisation d'une application, il faut une exposition permanente. Cela nous donne un avantage commercial.

— Vous décrivez la technologie comme un moyen de faire évoluer les êtres humains, ce qui est une nouvelle manière de l’aborder. Est-ce que la technologie n’était pas censée servir nos besoins?

— Je pense que nous nous trouvons actuellement à un stade similaire à celui que nous avons connu il y a 100 ans avec la médecine. On mourait alors majoritairement d’infections et de maladies. Aujourd’hui, la mortalité est surtout liée à l’anxiété, au stress, au suicide, à l’obésité et au tabagisme – des affections dues aux comportements. A l’époque, nous avons mis au point de meilleurs médicaments, mené de vastes campagnes de santé publique et nettoyé nos aliments et notre eau. En seulement 30 ans, l’espérance de vie a augmenté de façon spectaculaire. Aujourd’hui, la technologie aide à modifier l’esprit car les habitudes sont difficiles à changer. Elle comble le fossé entre qui nous voulons être et comment nous nous voyons. Bien entendu, on peut changer sans technologie, tout comme on peut vivre sans électricité.»

A ce moment précis, je vois que le soleil se couche et que les lampadaires s’allument. Ramsay Brown pourrait probablement continuer de parler et de boire, de boire et de parler, si ce n’est que les notifications de son téléphone lui rappellent tout ce qu’il va devoir faire dès qu’il aura quitté ce bar.

— Combien de spécialistes des sciences comportementales travaillent dans ce domaine, utilisant la technologie pour modifier le comportement d’une personne?

«La prochaine manne financière consistera à transformer les gens en leur faisant adopter des habitudes de zombies, grâce à des technologies comportementales, pour les faire obéir à certaines multinationales»

— C’est un cercle assez restreint. Je dirais qu’une dizaine de designers, de chercheurs et d’économistes dans le monde sont spécialistes des sciences comportementales. La plupart se trouvent aux Etats-Unis, quelques-uns en Europe et en Asie. Ils sont une majorité à travailler pour des sociétés dont le capital se chiffre en milliards de dollars, dans la Silicon Valley et ailleurs.

— Pensez-vous que ce cercle va s’agrandir ?

— Oui, le design comportemental va devenir très important. C'est le domaine où nous verrons des équipes réussir à modeler l’esprit des gens; ce type de travail présente un grand intérêt financier.

D’accord... Voici donc un tuyau pour les investisseurs: la prochaine manne financière consistera à transformer les gens en leur faisant adopter des habitudes de zombies, grâce à des technologies comportementales, pour les faire obéir à certaines multinationales. Celles-ci fixeront le bien et le mal, et décideront de ce que nous devons vouloir et faire pour vivre une vie meilleure et plus épanouie. Le culte de l’argent n'aura plus de limites.

— Mais est-ce que les gens choisissent vraiment que leur esprit soit influencé et “modelé” par des technologies développées par de telles sociétés?

— C’est pourquoi nous avons conçu Space, une application servant à arrêter d’utiliser des applications de manière compulsive. Elle retarde de dix secondes l’affichage des contenus d’une application quand l’utilisateur clique dessus. Ces dix secondes laissent le temps aux personnes d’analyser si elles souhaitent vraiment ouvrir l’application.

Typique de la mentalité de la Silicon Valley: Boundless Mind a conçu un système pour rendre des applications irrésistibles et simultanément une autre application pour aider les mêmes personnes à éviter cette irrésistibilité – un moyen intelligent de tirer profit à la fois du problème et de la solution.

— Combien de personnes comme vous travaillent dans cette discipline transversale?

— Pas trop, j’espère.

— A votre avis ?

— Les compétences que je possède sont courantes, mais cette combinaison est unique.

— Donc vos services doivent être chers?

«Nous aurons des capteurs qui détecteront notre mode de vie dans nos vêtements, nos chaussures et même nos médicaments. Votre réfrigérateur pourra savoir que vous avez l’habitude de grignoter tard le soir et trouvera des moyens de vous en dissuader...»

— Essayer nos services pendant 45 ou 60 jours coûte entre 3 000 et 10 000 dollars, quel que soit le nombre d’utilisateurs. Nous offrons des réductions aux organismes à but non lucratif. Le montant moyen que paient nos clients varie de 5 000 à 15 000 dollars par mois.

— Lorsque vous imaginez la technologie dans 10 ans, que voyez-vous?

— Moins de téléphones, plus de voix. Nous interagirons avec les technologies à l'aide de notre voix. Elles deviendront plus petites, moins visibles, mais plus importantes. Nous aurons des capteurs qui détecteront notre mode de vie dans nos vêtements, nos chaussures et même nos médicaments. Ces capteurs comprendront comment nous nous comportons. Votre réfrigérateur pourra savoir que vous avez l’habitude de grignoter tard le soir et trouvera des moyens de vous en dissuader... Le jour où nous passerons notre temps à parler avec l’intelligence artificielle, nous aurons cessé de nous rendre compte qu’elle dirige nos choix. Au moins, aujourd’hui, nous avons encore conscience du temps que nous passons sur nos écrans. Les humains ne survivront pas si nous n’anticipons pas cela. C’est pour cette raison que j’ai décidé de vous parler.

Quand Ramsey Brown quitte le bar à la fin de notre entretien, je reste assise, abasourdie par ses propos et sa franchise. J’ai l’impression qu’il n'est pas conscient des conséquences de ce qu’il fait – entrer dans la tête des gens pour les convaincre de faire quelque chose, dans l’intérêt de quelqu’un d’autre. Il détourne leurs vies, et pire encore, il le fait avec la conviction d’être le génie qui a tout compris avant les autres.

La maîtrise de la technologie confère à de jeunes entrepreneurs un pouvoir inédit et inquiétant. Le prochain filon consistera-t-il vraiment à faire adopter aux utilisateurs des habitudes commandées par les grandes entreprises? Celles-ci assumeront-elles moralement ce rôle? Allons-nous vers un avenir où notre volonté personnelle ou notre foi sera remplacée par le culte de l’argent? Entrons-nous dans l'ère de l'humanité virtuelle? En tant qu’humains, il est urgent que nous nous penchions sur ces grandes questions.

La semaine prochaine, mon enquête me mènera dans un centre de désintoxication numérique où je rencontrerai des personnes qui tentent de se libérer de l'addiction à cette technologie qui envahit de plus en plus nos vies.

Traduit de l’anglais par Virginie Bordeaux