Sommaire
L’Appel Mondial pour des Lignes Rouges en Intelligence Artificielle
Reconnaissance du Potentiel Et des Risques
Aujourd’hui, l’intelligence artificielle (IA) est perçue comme une technologie émergente à développement rapide, possédant un potentiel de dommages immenses si elle n’est pas opérée avec précaution.
Néanmoins, il n’existe qu’une poignée d’entités, à l’exception de l’Union Européenne, qui travaille sérieusement sur une régulation claire.
Ainsi, au lieu de tenter d’établir une voie étroite et précise pour l’autorisation du fonctionnement de l’IA, les experts du domaine ont adopté une nouvelle approche : pourquoi ne pas simplement déterminer les exemples extrêmes qui nous paraissent tous néfastes et s’accorder sur ceux-là ?
L’Appel à l’Assemblé Générale des Nations Unies
Lundi dernier, un groupe de politiciens, scientifiques et universitaires a annoncé, lors de l’Assemblée Générale des Nations Unies, l’Appel Mondial pour des Lignes Rouges en IA, un appel aux gouvernements du monde entier pour s’accorder sur des garde-fous généraux afin de prévenir des “risques universellement inacceptables” pouvant découler du déploiement de l’IA.
L’objectif de ce groupe est de faire établir ces lignes rouges d’ici la fin de 2026.
Cette proposition a déjà récolté plus de 200 signatures de la part d’experts du secteur, de leaders politiques et de lauréats du prix Nobel. Parmi les signataires figurent l’ancienne Présidente de l’Irlande, Mary Robinson, et l’ancien Président de la Colombie, Juan Manuel Santos, ainsi que plusieurs lauréats Nobel. Geoffrey Hinton et Yoshua Bengio, souvent désignés comme les “pères de l’IA” grâce à leur travail fondateur dans le domaine, ont également ajouté leur nom à la liste.
Exemples de Lignes Rouges
Mais quelles sont ces lignes rouges ? Cela reste encore à déterminer par les gouvernements.
L’appel ne contient pas de prescriptions politiques spécifiques ni de recommandations, bien qu’il cite quelques exemples de ce qui pourrait constituer une ligne rouge. Interdire le lancement d’armes nucléaires ou l’utilisation de l’IA dans des opérations de surveillance de masse pourrait être une éventuelle ligne rouge pour les utilisations de l’IA, selon le groupe.
De plus, interdire la création d’une IA qui ne peut être désactivée par une intervention humaine serait une autre ligne rouge possible pour le comportement de l’IA. Ils précisent cependant : “ne gravez pas cela dans le marbre, ce sont simplement des exemples, vous pouvez établir vos propres règles.”
“La seule chose que le groupe offre concrètement est que tout accord mondial devrait être fondé sur trois piliers : une liste claire des interdictions ; des mécanismes de vérification robustes et auditables ; et la nomination d’un organisme indépendant établi par les Parties pour superviser la mise en œuvre.”
Les Défis de la Mise en Oeuvre
Le défi est maintenant de s’entendre sur les détails. L’appel recommande que les pays organisent des sommets et des groupes de travail pour résoudre ces questions, mais les discussions sont sans doute soumises à de nombreuses motivations concurrentes.
Par exemple, les États-Unis se sont déjà engagés à ne pas permettre à l’IA de contrôler des armes nucléaires, un accord pris sous l’administration Biden.
Cependant, des rapports récents ont révélé que certaines sections de la communauté du renseignement sous l’administration Trump s’irritent déjà du fait que certaines entreprises d’IA ne les laissent pas utiliser leurs outils pour des efforts de surveillance domestique. Alors, l’Amérique serait-elle prête à adhérer à une telle proposition ?
Peut-être le saurons-nous d’ici la fin de 2026… si nous parvenons jusque-là…
