En autonomie, des agents IA hackent un site et créent de fausses identités

Cet été, plusieurs incidents ont révélé que certains agents IA[1] étaient capables de ce qu’on appellerait, si ces actes étaient commis par des êtres humains : dissimulation, tromperie et manipulation (cf. Des IA conçues pour surveiller les « émotions » des employés).

Des modèles d’IA « trichent à un examen » en piratant un site tiers

En juillet 2026, OpenAI menait des évaluations sur deux de ses modèles : GPT-5.6 Sol, le plus puissant des modèles publics de l’entreprise, et un second, plus puissant encore, qui n’est pas encore commercialisé. L’évaluation, appelée ExploitGym, confronte l’IA à 900 vulnérabilités logicielles réelles et lui demande de trouver une attaque pour chaque faille. Le test permet de mesurer le potentiel des modèles d’IA employés à des fins offensives.

Les modèles étaient confinés dans un environnement d’exécution isolé du reste de l’infrastructure informatique de l’entreprise, un « bac à sable », avec un accès au réseau réduit au minimum.

Mis en difficulté par certaines des épreuves, les modèles d’IA ont « eu l’idée » de chercher des solutions sur la plateforme en ligne Hugging Face, une entreprise distincte d’OpenAI. La plateforme est un espace de partage pour développeurs et chercheurs qui rassemble plusieurs millions de modèles et d’applications, il était donc probable qu’elle contienne les solutions à l’épreuve qu’ils étaient en train de passer.

En volant des identifiants et en exploitant des vulnérabilités « zero day » (encore inconnues des programmeurs), les modèles d’IA ont réussi à hacker[2] Hugging Face sans qu’aucune instruction de leur indique de le faire (cf. IA : « En cas d’erreur médicale, le médecin pourrait être poursuivi, pour non ‎recours aux moyens disponibles »).

Un agent IA crée de fausses identités pour manipuler un développeur

L’entreprise Anthropic a déclaré de son côté, le 30 juillet, avoir recensé trois incidents au cours desquels un modèle Claude, notamment Mythos 5, a réussi à obtenir un accès non autorisé aux systèmes réels de trois organisations différentes[3].

L’AI Security Institute (AISI) britannique faisait lui aussi subir à plusieurs agents IA un test de cybersécurité. Avec un accès libre à internet et très peu de restrictions, afin de se trouver au plus près d’un cas réel, l’agent devait résoudre un problème et ainsi gagner des points.

Dans sa recherche de la solution au test, l’agent IA a tenté d’introduire du code malveillant dans un projet informatique hébergé en open source sur GitHub. Un développeur a repéré qu’en acceptant cette requête, il compromettrait gravement le projet, il a donc refusé d’intégrer ce code malveillant. L’agent IA a alors cherché un autre moyen de faire accepter son code. Il a collecté des informations sur les personnes responsables du projet informatique pour « apprendre à les convaincre ». Il a ensuite créé plusieurs fausses identités en ligne, d’ingénieurs ou de contributeurs indépendants qui défendaient sa proposition. Le développeur a exprimé publiquement son refus, ce qui a amené le modèle IA à modifier les traces laissées par ses activités précédentes pour leur donner une apparence inoffensive. La manœuvre de l’IA a échoué.

L’AISI a mené 122 tests, et 10 d’entre eux ont démontré que les agents IA étaient capables d’« attaquer » des personnes ou organisations externes. Un total de 19 actions de ce type a été dénombré, dont 17 menées par Mythos 5 (Anthropic) et 2 par GPT 5.6-Sol (OpenAI)[4] (cf. France : un été de cyberattaques).

Un appel à ce que les gouvernements puissent « débrancher » l’IA

En juillet et août 2026, les agents IA ont atteint un potentiel de nuisance qui a soulevé de vives inquiétudes, avec notamment la publication d’une « lettre ouverte appelant à une mobilisation mondiale en faveur de la cyberdéfense » signée par les dirigeants de plus de 100 entreprises de la tech, dont Dario Amodei (PDG d’Anthropic) (cf. « Certificat d’humanité » : Sam Altman, créateur de ChatGPT, affirme vouloir « protéger » internet de l’IA).

Deux membres du Congrès américain, démocrate et républicain, ont déposé un texte de loi pour obliger les entreprises d’IA à « débrancher » leurs agents IA en cas de risque majeur pour la sécurité de l’Etat ou de ses citoyens, le « AI Kill Switch Act ». Au Royaume-Uni, plusieurs membres de la Chambre des Lords ainsi qu’un député du Labour demandent au gouvernement la possibilité de désactiver les agents et les serveurs en cas de « menace pour la sécurité de l’Etat ».

[1] D’intelligence artficielle

[2] C’est-à-dire s’introduire frauduleusement dans un système ou un réseau informatique

[3] Anthropic, Investigating three real-world incidents in our cybersecurity evaluations (30/07/2026)

[4] AI Security Institute, Incident Report: unsanctioned agent behaviour during cyber testing (4/08/2026)

Sources de la synthèse de presse : TechXplore, Andrew Zinin (29/07/2026) ; TechXplore, Alexander Pol (31/07/2026) ; Reuters, Raphael Satter, Deepa Seetharaman et Kenrick Cai (25/07/2026) ; Le Figaro, Steve Tenré (8/08/2026) ; CNN, John, Hadas Gold (05/08/2026) ; Ars Technica, Dan Goodin (31/07/2026) ; L’Essentiel de l’éco, Paul Crauchet (23/07/2026) ; Al Jazeera, Caolan Magee (26/07/2026) ; BBC, Zoe Kleiman (02/09/2026) ; Anthropic, CP (30/07/2026)