| | Idées

Vers un cadre européen pour l’intelligence artificielle?

Damien Cottier

Damien Cottier est conseiller national (PLR/NE) et représente la Suisse à l’Assemblée parlementaire du Conseil de l’Europe.

Aujourd’hui, il existe de nombreuses règles déontologiques et codes d’éthique dans le domaine de l’intelligence artificielle (IA). Mais il n’existe pour l’heure pas de règle contraignante internationale, même si la législation ordinaire continuer de s’appliquer. Ainsi la discrimination entre hommes et femmes, pourtant interdite par la loi suisse sur l’égalité, continue, par exemple pour une recherche d’emploi sur internet. Mais si on ignore comment la «boîte noire» de l’algorithme fonctionne et que celui-ci est basé en Californie, comment la Suisse peut-elle imposer efficacement ses valeurs?

Le rôle rempart du Conseil de l’Europe. L’Assemblée parlementaire du Conseil de l’Europe, qui regroupe des parlementaires nationaux des 47 Etats-membres et de certains Etats observateurs, a consacré une journée de débat à l’IA le jeudi 22 octobre 2020. L’organisation paneuropéenne entend ici veiller à ce que ses fondements juridiques ne soient pas remis en cause, et en particulier la Convention européenne des droits de l’homme.

A cette occasion, les parlementaires ont traité pas moins de sept rapports sur les risques posés pour nos institutions démocratiques, l’administration de la justice et le travail de la police, la lutte contre les discriminations, la médecine, le marché du travail, l’interface cerveau-machine ou encore l’avenir de la conduite (véhicules autonomes). Les sept rapports ont tous été adoptés avec les résolutions et recommandations qui les accompagnaient adressées aux Etats membres et au Comité des ministres.

C’est une étape importante. L’assemblée parlementaire de Strasbourg demande désormais explicitement l’adoption d’un instrument contraignant, possiblement une nouvelle Convention du Conseil de l’Europe, réglant ces questions. Comme j’ai eu l’occasion de la souligner dans mon intervention au nom du groupe des libéraux et démocrates (ALDE), l’Assemblée estime important que le continent européen se dote d’un instrument juridique fort et contraignant pour encadrer l’IA.

Vu le développement mondial de ces technologies, en général par des entreprises de taille internationale, il est important non seulement de coordonner les politiques nationales mais aussi de développer des standards valables au plan international. Cette étape a d’autant plus de poids que les Conventions du Conseil de l’Europe ont souvent servi de modèle dans le passé également pour d’autres régions du monde.

Il faudra dans ce cadre veiller à trouver le bon point d’équilibre entre la limitation des risques et la garantie des droits fondamentaux d’une part et le maintien d’un climat favorable à l’innovation de l’autre.

Vers un cadre européen pour l’IA. Le Conseil de l’Europe avait déjà, dans des domaines connexes, développé des Conventions européenne pertinentes, notamment celle de Budapest sur la cybercriminalité ou la convention (modernisée récemment) sur la protection des données (Convention 108 et 108+), conventions auxquelles la Suisse a adhéré.

Plus récemment le comité des ministres, l’exécutif de l’institution, a décidé de créer un comité européen consacré à la thématique: le Comité ad hoc sur l’intelligence artificielle (CAHAI) qui a débuté ses travaux en fin 2019. Le CAHAI est chargé de mener des discussions avec les acteurs du domaine: ses 47 Etats membres, les Etats observateurs (USA, Canada, Japon, Mexique, St-Siège), les utilisateurs, les entreprises, la société civile, d’autres organisations internationales (UE, ONU, UNESCO, OCDE, OSCE…), les milieux académiques ... Sur cette base il doit étudier la faisabilité et les éléments potentiels d’un cadre juridique européen sur l’intelligence artificielle.

La digitalisation impacte tous les secteurs de nos vies. Ces dernières décennies la digitalisation de nos sociétés a fait des progrès énormes. Ces avancées technologiques permettent ainsi à la médecine d’opérer de manière plus précise et moins intrusive ou de devenir plus prédictive par des suivis en temps réel, à la police d’être plus efficace dans ses enquêtes ou la détection de menaces, à des véhicules de circuler de manière (presque) autonome…

De tout temps les progrès technologiques et scientifiques ont été des instruments puissants pour améliorer la vie quotidienne de millions de personnes et l’intelligence artificielle peut apporter énormément de bienfaits à l’humanité. Mais de tout temps aussi les progrès ont aussi été accompagnés par l’émergence de nouveaux risques. L’IA n’y échappe évidemment pas. Et l’ampleur des défis est proportionnelle à la puissance de ces technologies. Il y a donc des risques importants pour nos sociétés, risques qui doivent faire l’objet d’un cadrage éthique et d’un débat politique.

Des progrès et des risques. Si les services de sécurité peuvent être plus efficaces grâce par exemple à des système de reconnaissance faciale ou d’analyse prédictive des comportements, et ainsi améliorer notre sécurité collective, il ne faut pas que des biais intrinsèques dans les algorithme utilisés ne renforcent les préjugés et discriminations qui traversent déjà nos sociétés, renforçant par exemple un «délit de faciès». Et il faut d’autant moins que cela se passe à travers d’un algorithme «boîte noire» dont on ne sait comment il soupèse différents facteurs. Il faut par ailleurs limiter l’intrusion de telles technologies dans nos vies privées.

Quant au débat démocratique, si les réseaux sociaux permettent plus d’interactions directes avec entre citoyens et autorités, il faut éviter que chacun ne se retrouve enfermé dans une bulle de confort parce que les algorithmes choisissent et ne vous livrent plus que ce que vous aimerez lire, confortant vos convictions et coupant des groupes de citoyens de pans entiers de la société et de ce qui fait le sel de la démocratie: le débat d’idées, la confrontation, la vérification des faits, la contradiction. Et il faut évidemment lutter contre les phénomènes des fake news, des vérités alternatives et les manipulations de données type Cambridge Analytica.

Un autre exemple: si les algorithmes de recherche d’emploi permettent d’améliorer l’adéquation entre l’employeur et l’employé, il faut éviter que les dés ne soient pipés et que des discriminations ne soient renforcées comme c’est le cas aujourd’hui. Vous faites une recherche d’emploi sur un réseau social? Aujourd’hui il est fort probable que suivant que vous soyez un homme ou une femme, la machine ne vous montre pas les mêmes résultats comme des enquêtes l’ont démontré.

Le rôle de la diversité. Parmi les nombreux points soulevés par les rapports parlementaires pour améliorer la gouvernance démocratique de l’IA et prévenir les discriminations figure une recommandation qui me semble importante et frappée au coin du bon sens: l’importance d’améliorer la diversité des personnes actives dans les technologies de l’information et en particulier le nombre de femmes. Plus ce secteur économique en plein boom sera diversifié, représentatif de la société, plus la diversité des perspectives y sera assurée et les risque de dérives diminués.

newsletter_point-du-jour

Recevez chaque matin un résumé de l'actualité envoyé d'une ville différente du monde.

Lire aussi