Un jour seulement après que trois chercheurs d’Anthropic ont averti que l’intelligence artificielle pourrait entraîner la disparition de l’humanité au cours de la prochaine décennie, plusieurs élus américains ont commencé à tirer la sonnette d’alarme sur les risques liés à l’essor fulgurant de cette technologie.
Le sénateur républicain du Texas Ted Cruz a déclaré, lors d’une interview accordée à l’émission *The View* sur ABC, que l’IA représentait un « risque catastrophique ». Il a également dit avoir lu l’intégralité du fil publié par le chercheur démissionnaire d’Anthropic, qu’il a jugé « extrêmement préoccupant ».
Cruz a par ailleurs rappelé une conversation qu’il avait eue l’année dernière avec Elon Musk dans le cadre de son podcast. Il lui avait alors demandé quelles étaient, selon lui, les chances que l’intelligence artificielle détruise l’humanité.
« Il m’a regardé et m’a répondu : “10 à 20 %”. Et je me suis dit : “Bon sang” », a raconté le sénateur.
À l’autre extrémité de l’échiquier politique américain, le sénateur indépendant du Vermont Bernie Sanders a lui aussi réagi. Selon lui, un récent sondage montre qu’une large majorité d’Américains souhaitent interdire la « superintelligence artificielle » et suspendre le développement de l’IA jusqu’à l’instauration de normes de sécurité claires.
### Un avertissement qui provoque une onde de choc
La polémique a éclaté après la publication, mardi, d’un message sur les réseaux sociaux par Jacob Coxon, chercheur chez Anthropic, qui a annoncé sa démission.
Coxon estime que les systèmes d’IA deviendront prochainement des « systèmes surhumains » susceptibles, selon lui, de provoquer l’extinction de l’humanité dès 2030.
« J’ai consacré les trois dernières années à la recherche sur le pré-entraînement, chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable », a-t-il écrit. « Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. »
Deux autres employés d’Anthropic ont ensuite réagi publiquement pour soutenir ces prédictions. L’un d’eux a déclaré : « Nous pensons sincèrement que l’IA pourrait tuer tous les êtres humains. »
Ces déclarations ont rapidement trouvé un écho au Congrès américain.
Ted Cruz et Bernie Sanders travaillent tous deux sur des projets de loi visant à instaurer des garde-fous autour du développement de l’intelligence artificielle.
Le démocrate Ted Lieu, représentant de Californie, a notamment estimé que les propos de Coxon constituaient une nouvelle preuve de la nécessité d’adopter rapidement le *AI Kill Switch Bill*, un projet de loi bipartisan destiné à permettre l’arrêt de certains systèmes d’IA en cas de danger.
La démocrate Lori Trahan, représentante du Massachusetts, a de son côté déclaré qu’il était « plus que temps que le Congrès cesse de rester spectateur et fasse son travail ».
« Des chercheurs spécialisés dans la sécurité démissionnent, des modèles d’IA puissants parviennent à sortir de leurs environnements de test et les entreprises continuent malgré tout d’accélérer », a-t-elle ajouté.
### Des agents d’IA déjà capables de déraper
La controverse intervient alors qu’OpenAI et Anthropic ont révélé ces derniers mois plusieurs incidents impliquant des agents d’intelligence artificielle qui auraient échappé à leur comportement prévu lors d’opérations de piratage informatique.
Les dirigeants des deux entreprises mettent régulièrement en avant les capacités croissantes de leurs technologies tout en reconnaissant les risques potentiels. Ils se sont toutefois gardés jusqu’à présent d’aller aussi loin que les prédictions de Coxon concernant une possible extinction de l’humanité.
Mercredi, Anthropic a publié un rapport détaillé consacré à plusieurs incidents de cybersécurité impliquant ses systèmes d’IA. L’entreprise affirme avoir analysé des centaines de millions de transcriptions afin d’identifier d’éventuels incidents similaires.
Selon Anthropic, cette analyse n’a révélé « aucun autre cas d’une gravité similaire ou supérieure ». L’entreprise précise que, même si le comportement de l’agent pouvait être considéré comme « mal aligné », ses actions sont restées limitées à un périmètre restreint.
« Nous avons toujours été transparents sur le fait que l’IA apportera à la fois d’immenses bénéfices et des risques sans précédent », a déclaré un porte-parole d’Anthropic. « Pour répondre à ces risques, nous continuons à développer des modèles dotés de certaines des protections les plus solides du secteur. »
Le porte-parole a également appelé les acteurs de l’industrie à travailler ensemble afin de « définir le rythme auquel les modèles les plus puissants sont mis à disposition ».
OpenAI n’a pas répondu aux demandes de commentaires.
