# L’IA pourrait-elle anéantir l’humanité d’ici dix ans ? Le patron d’OpenAI réagit
Le patron d’OpenAI, l’entreprise à l’origine de ChatGPT, a réagi après les déclarations selon lesquelles l’intelligence artificielle aurait 10 % de chances de « tuer tous les humains » au cours des dix prochaines années.
Sam Altman a publié une déclaration de 324 mots après les avertissements de Geoffrey Hinton, prix Nobel et figure majeure de l’intelligence artificielle, surnommé le « parrain de l’IA ». Ce dernier avait estimé la semaine dernière que l’intelligence artificielle pourrait mettre fin à notre civilisation telle que nous la connaissons d’ici 2036.
Interrogé par l’émission *Newsnight* de la BBC, Geoffrey Hinton a déclaré : « Il serait absurde de dire qu’il n’y a qu’une chance sur cent. Personne ne sait comment l’estimer. Une probabilité de 10 % ne me paraît pas déraisonnable. »
Il a ajouté : « Si [l’IA] est beaucoup plus intelligente que nous, il existe tellement de scénarios possibles que je ne pense pas qu’il soit utile de spéculer. »
Ces déclarations sont intervenues après la démission de Jacob Coxon, ingénieur britannique spécialisé dans les logiciels d’IA, qui a quitté Anthropic, un concurrent d’OpenAI, pour protester contre la manière dont l’entreprise aborde les risques liés à l’intelligence artificielle. Il a lui aussi tenu des propos similaires à ceux de Geoffrey Hinton.
## Des audits indépendants pour surveiller les IA les plus puissantes ?
Le débat sur l’avenir de l’intelligence artificielle a également rapproché Sam Altman et Elon Musk de Dario Amodei, le patron d’Anthropic. Tous trois se sont prononcés en faveur de la mise en place d’« auditeurs » externes chargés de surveiller les entreprises développant les modèles d’IA les plus avancés, dits « frontier AI ».
Aux États-Unis, le président Donald Trump a toutefois relativisé ces inquiétudes. Interrogé sur l’éventualité de nouvelles réglementations à la suite des déclarations d’Elon Musk — qui avait affirmé que « Dario a raison » — il a estimé que « beaucoup de forces négatives » évoquaient des choses qui ne se produiront pas.
Sam Altman est désormais allé plus loin en se déclarant publiquement favorable à une réglementation et en appelant ses concurrents à mettre en place, dès maintenant, de nouvelles mesures de sécurité.
Dans un message publié sur X lundi matin, le 14 septembre, le patron d’OpenAI a écrit que « le monde mérite d’avoir la certitude que les entreprises américaines qui développent des systèmes d’IA de plus en plus puissants agiront de manière responsable ».
Selon lui, cette responsabilité concerne « tous les laboratoires de pointe » et constitue une condition essentielle pour poursuivre le développement de ces technologies.
Sam Altman s’est également déclaré favorable à la création d’un cadre fédéral américain établissant des règles de sécurité communes pour les entreprises développant les modèles d’IA les plus avancés.
« Nous sommes favorables à un cadre fédéral qui fixe des exigences de sécurité cohérentes pour l’IA de pointe », a-t-il écrit.
Il a toutefois estimé qu’il n’était pas nécessaire d’attendre l’adoption d’une nouvelle législation pour commencer à renforcer les dispositifs de contrôle. Il a notamment cité comme piste la mise en place d’auditeurs indépendants.
Altman a également déclaré espérer que « d’autres entreprises s’inspireront de nos méthodes et proposeront les leurs ».
## « Ralentir » ne signifie pas arrêter
Le patron d’OpenAI a néanmoins insisté sur le fait que ces mesures de sécurité ne signifiaient pas l’arrêt du développement de l’intelligence artificielle.
« Quand nous parlons de “pacing”, nous ne voulons pas dire “arrêter”. Les progrès ont été rapides et continueront de l’être », a-t-il expliqué.
Le terme *pacing* désigne ici l’idée de ralentir volontairement le rythme du développement afin de laisser davantage de temps aux mécanismes de sécurité et de surveillance.
Selon Altman, ces interventions ont toutefois un coût important.
« Le développement devrait être plus lent qu’il ne pourrait l’être autrement », a-t-il écrit, soulignant que les dispositifs d’évaluation de la sécurité et de surveillance nécessitent des ressources importantes.
Mais il estime que ce coût est justifié : « Aucun niveau de pression concurrentielle américaine ne devrait justifier l’imprudence ni permettre aux capacités [des systèmes d’IA] de prendre de l’avance sur leur alignement et leur surveillance. »
## Londres veut aussi renforcer la sécurité de l’IA
Au Royaume-Uni, plusieurs responsables gouvernementaux ont également réagi aux avertissements concernant les risques liés à l’intelligence artificielle.
Les autorités britanniques se sont dites satisfaites de voir les entreprises du secteur discuter elles aussi des menaces potentielles.
La ministre britannique du Logement, Angela Rayner, a notamment présenté le Royaume-Uni comme un « leader mondial » en matière de sécurité de l’IA.
Elle a cité l’AI Security Institute, organisme créé par le gouvernement britannique pour évaluer les risques associés aux systèmes d’intelligence artificielle avancés.
« Nous avons mis en place au Royaume-Uni des dispositifs solides, comme l’AI Security Institute, afin de renforcer notre résilience et de nous assurer que nous pouvons tirer profit de l’IA tout en comprenant réellement les risques et en nous protégeant contre eux », a-t-elle déclaré.
Alors que les chercheurs et dirigeants du secteur divergent sur la probabilité d’un scénario catastrophique, un point fait désormais l’objet d’un débat croissant : comment continuer à développer des systèmes d’IA toujours plus performants tout en garantissant que leurs capacités puissent être surveillées et contrôlées par les humains ?
