« Des dangers sans précédent » : plus de 200 personnalités appellent à fixer des « lignes rouges » à l’intelligence artificielle
Lundi, « plus de 200 personnalités », dont 10 lauréats du prix Nobel et des scientifiques travaillant pour des entreprises telles qu’Anthropic, Google DeepMind, Microsoft et OpenAI ont appelé « les nations du monde entier » à établir « rapidement » des « lignes rouges » qu’il serait trop dangereux que l’intelligence artificielle franchisse. Ces experts ont signé une lettre publiée au début de la dernière session de l’Assemblée générale des Nations unies [1] (cf. Intelligence artificielle : une réunion au sommet, sans consensus).
Agir « énergiquement » tant que c’est encore possible
« L’IA recèle un immense potentiel pour améliorer le bien-être humain, mais sa trajectoire actuelle présente des dangers sans précédent », considèrent-ils. Dès lors, « les gouvernements doivent agir énergiquement avant que la fenêtre dans laquelle il est possible d’intervenir véritablement ne se referme. »
Les « lignes rouges » doivent être établies au niveau international, pour des usages trop risqués « en toutes circonstances ». Les experts évoquent par exemple le contrôle d’arsenaux nucléaires ou de tout type de système d’armes autonomes létales. D’autres pourraient concerner l’utilisation de l’IA pour la surveillance de masse, la notation sociale, ou encore la création d’IA qui pourraient s’autorépliquer ou que les humains ne pourraient désactiver.
Des risques multiples
Les signataires fixent une échéance « d’ici la fin de l’année prochaine, compte tenu de la vitesse à laquelle la technologie progresse ».
En effet, « l’IA pourrait bientôt dépasser de loin les capacités humaines et accroître des risques tels que les pandémies, la désinformation généralisée, la manipulation à grande échelle des individus, y compris des enfants, les problèmes de sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains », alertent-ils.
[1] Cet appel a été organisé par les ONG Centre pour la Sécurité de l’IA (CeSIA), The Future Society et le centre de recherche Center for Human-Compatible AI (CHAI) de l’université Berkeley, en Californie
Sources de la synthèse de presse : Tech Xplore, Andrew Zinin (23/09/2025) ; Le Monde, Alexandre Piquard (22/09/2025)
