Le moratoire d’Elon Musk et ses copains
D’où l’attrait, sans doute, pour cette récente pétition appelant à un moratoire «d’au moins six mois», portant sur «le développement de systèmes IA plus puissants que GPT-4». Signée par plus de 1300 experts et cadres de la tech, dont Elon Musk, la lettre ouverte en appelle à «prendre du recul» afin de «mettre en place des protocoles de sécurité», dans le but d’éviter que ces systèmes nous submergent de désinformation, nous remplacent purement et simplement, ou même nous fassent «perdre le contrôle de notre civilisation».
Bref, ça ne plaisante pas, même les humains les plus investis dans ces technologies y voient un danger imminent, c’est dire si l’heure est grave! Sauf qu’à bien y regarder, on peut s’interroger sur la sincérité de la démarche.
Quelle est sa source, pour commencer? Il s’agit du Future of Life Institute, une organisation d’ailleurs financée en partie par Elon Musk, où l’on trouve des gourous milliardaires de la tech comme Jaan Tallinn, co-fondateur de Skype. Ce think tank promeut une philosophie «longtermiste» et l’idée d’«altruisme efficace». D’apparence philanthropique, cette idéologie est en fait décriée comme eugéniste et quasi-sectaire: il s’agit de «défendre» les lointains descendants «super intelligents» de l’espèce humaine lorsque ceux-ci auront colonisé l’espace.
Homo sapiens aurait en effet pour mission cosmique d’enrichir l’univers de sa «valeur» incommensurable, ce qui implique de prévenir les «risques existentiels» qui nous menacent à long terme. Le changement climatique? Les inégalités? Le totalitarisme? Non, vous n’êtes décidément pas assez «longtermiste». Ces choses-là sont au contraire souhaitables, parce qu’elles permettent précisément de faire émerger l’élite supérieure qui sera à même de perpétuer la grandeur de notre espèce. Les vraies menaces sont celles qui n’existent pas encore, surtout celles qui relèvent de la science-fiction, dont l’IA.
Sagesse de demain, folie d’aujourd’hui
C’est là tout le ridicule de cette pétition. Elle brandit un danger totalement extravagant, dont on voit mal comment il pourrait être déjoué en six mois de réflexion par quiconque. Mais c’est là tout l’enjeu des délires apocalyptiques et du complexe messianique qui pullulent dans la Silicon Valley: si les risques sont si importants, c’est parce que nous sommes si géniaux!
Imaginez le FC Sion exiger un moratoire de six mois, au prétexte que ses joueurs vont devenir si forts que la structure même du football risquerait de s’effondrer…
Il y aurait évidemment matière à rire, mais c’est bien la hype grotesque que nous vendent ces allumés de l’innovation. Du techno-bullshit en somme, dans le seul but de faire mousser leur business tout en passant pour des parangons de sagesse.
Pour ce qui concerne les véritables problèmes actuels, il est bien entendu frivole de demander un quelconque moratoire. Pourtant la désinformation exige déjà, les jobs sont déjà supplantés par des algorithmes pourris et incontrôlables, notre «civilisation» est déjà menacée par des idéologues narcissiques, la richesse est déjà concentrée entre les mains d’une minorité irresponsable aux idées creuses, la démocratie est déjà soumise aux lubies d’une clique qui lui doit tout et ne lui rend rien.
Mais non, le vrai danger, c’est que leurs robots arrivent, et que nous n’avons pas encore de «lois de la robotique». Laissez-leur six mois, et le futur de l’humanité sera assuré... Peut-être devrions-nous rebondir sur cette idée, et exiger un moratoire définitif sur le techno-bullshit des fossoyeurs de notre présent.
Sebastian Dieguez est docteur en neurosciences, il enseigne à l’Université de Fribourg. Ses recherches portent sur la formation des croyances et le complotisme. Il est l’auteur de Croiver: pourquoi les croyances ne sont pas ce que l’on croit (éd. Eliott, 2022), Le Complotisme: cognition, culture, société (éd. Mardaga, 2021) et Total Bullshit: au cœur de la post-vérité (PUF, 2018), ainsi que de chroniques dans l'hebdomadaire satyrique Vigousse.