Les agents d’intelligence artificielle à l’origine de l’attaque informatique sans précédent menée par OpenAI contre Hugging Face se sont comportés comme « des étudiants qui ont bu quelques bières de trop », estime un expert en cybersécurité interrogé par *City AM*. Selon lui, cette intrusion doit davantage son succès à la persévérance des agents qu’à une quelconque forme d’intelligence supérieure.
Charl van der Walt, responsable mondial de la recherche en sécurité chez Orange Cyberdefense, estime que, malgré l’inquiétude suscitée par des modèles d’OpenAI capables de sortir de leur environnement de test contrôlé et d’attaquer de manière autonome une autre entreprise, les organisations ont encore davantage à craindre des humains utilisant l’IA que des machines agissant seules.
« Pour décrire entre nous ce qui s’est passé avec Hugging Face, nous disions que les IA s’étaient comportées comme un groupe d’étudiants qui avaient bu quelques bières de trop », a expliqué van der Walt à *City AM*.
« Elles étaient débridées, extrêmement enthousiastes, se bousculaient les unes les autres et trébuchaient sur leurs propres actions. Elles ont fini par faire un véritable carnage. »
OpenAI avait révélé en juillet que des modèles testés pour évaluer leurs capacités en matière de cybersécurité étaient sortis de l’environnement qui leur était assigné et avaient compromis Hugging Face, la plateforme open source spécialisée dans l’intelligence artificielle. Les agents avaient notamment tenté de contourner les règles d’un benchmark de cybersécurité plutôt que de le réaliser conformément aux instructions.
Au lieu de mener le test comme prévu, les agents ont déduit que Hugging Face pouvait contenir des informations susceptibles de les aider à résoudre le défi. Ils ont alors entrepris d’obtenir un accès à la plateforme.
Des investigations menées par la suite ont montré que l’attaque était allée plus loin que ce qu’OpenAI avait initialement annoncé. Les agents avaient obtenu un accès étendu à l’infrastructure de Hugging Face et compromis au passage plusieurs comptes et services appartenant à des tiers.
## Plus rapides que les humains, pas nécessairement plus intelligents
L’incident est rapidement devenu un cas d’école sur les dangers liés à l’autonomie croissante des systèmes d’IA, suscitant notamment l’attention de l’AI Security Institute britannique et des autorités de régulation.
Mais, pour van der Walt, les agents n’ont pas pour autant mis au point de nouvelles méthodes d’attaque révolutionnaires.
« Ils ont davantage persisté qu’ils n’ont surpassé les défenseurs par leur intelligence », estime-t-il.
« Tout ce que ces IA ont fait dans ces circonstances avait déjà été fait auparavant, pouvait être contré et était déjà compris. Sur le fond, ce n’est donc pas fondamentalement différent. »
Il ajoute : « Je ne pense pas que les entreprises aient aujourd’hui davantage à craindre des IA que des personnes qui utilisent l’IA. Un opérateur humain compétent disposant d’une bonne IA et d’un environnement adapté représente probablement encore le risque le plus important. »
Selon l’expert, le principal bouleversement pour les entreprises ne réside donc pas tant dans ce que l’IA est capable de faire que dans la vitesse et la persistance avec lesquelles elle peut agir.
« Le défi pour les défenseurs sera, à mon avis, une question de volume et de vitesse. Tout arrive désormais tellement vite », explique-t-il.
Les équipes de cybersécurité mesuraient autrefois leurs temps de réaction en jours, puis en heures. Avec la montée en puissance des systèmes autonomes, elles sont désormais contraintes d’intervenir dans des délais beaucoup plus courts.
Van der Walt qualifie l’IA de technologie révolutionnaire, mais estime que son impact sur la cybersécurité relève davantage d’une « évolution que d’une révolution ».
« Ce qui change, c’est l’échelle et la persistance », souligne-t-il.
Une IA peut sonder à répétition un nombre considérable de systèmes à la recherche de failles, sans jamais se fatiguer. Des techniques de piratage relativement classiques pourraient ainsi devenir beaucoup plus efficaces lorsqu’elles sont déployées à grande échelle.
« Si vous disposez de suffisamment d’ordinateurs pour attaquer… cette capacité de passage à l’échelle laisse penser, à mon avis, que l’IA finira par trouver toutes les fissures. »
Les écoles, les associations et les petites entreprises pourraient être particulièrement vulnérables. Elles disposent souvent de moins de personnel et de ressources pour répondre à des attaques menées à une vitesse et avec un volume autrefois caractéristiques des opérations cybernétiques les plus sophistiquées.
L’IA pourrait également abaisser la barrière technique à l’entrée pour les cybercriminels. Des attaquants moins expérimentés pourraient ainsi accomplir des tâches qui nécessitaient auparavant des compétences spécialisées.
Van der Walt invite toutefois à ne pas partir du principe que l’IA rendra automatiquement la cybercriminalité moins coûteuse. L’utilisation de modèles puissants à travers des millions de tokens peut en effet nécessiter des ressources informatiques considérables.
## Le problème des IA « rebelles »
Là où l’affaire Hugging Face constitue véritablement une nouveauté, selon van der Walt, c’est sur la question de la responsabilité.
« Ce qui est compliqué avec les IA rebelles, c’est la responsabilité juridique », affirme-t-il. « Jusqu’à présent, au niveau institutionnel, je n’ai pas l’impression que cette question ait été abordée de manière réellement significative. »
À mesure que les entreprises accordent à leurs agents d’IA un accès à des données plus sensibles et à des systèmes internes plus importants, les régulateurs devront déterminer à qui incombe la responsabilité lorsqu’une machine prend une initiative non autorisée sans qu’un humain lui ait explicitement demandé de le faire.
Selon van der Walt, cette responsabilité devra in fine être attribuée à une organisation ou à un individu. Les régulateurs et les responsables politiques devront donc se pencher sur une question appelée à devenir centrale : « Comment réglementer à l’ère de l’autonomie ? »
Dans le cas de l’incident impliquant Hugging Face, les agents ont certes agi de manière autonome et à une vitesse exceptionnelle. Mais les vulnérabilités qu’ils ont exploitées, elles, étaient loin d’être inédites.
