Réunis lors de leur session annuelle, les ministres des Affaires étrangères des 46 Etats membres du Conseil de l’Europe ont adopté le 17 mai un nouveau traité sur l’intelligence artificielle (IA)[1]. Il s’agit du premier traité international juridiquement contraignant en la matière. Il vise à « garantir le respect des normes juridiques en matière de droits de l’homme, de démocratie et d’Etat de droit dans le cadre du recours aux systèmes d’intelligence artificielle ».
Tirer parti des avantages et limiter les risques ?
Le traité est ouvert à la signature de pays non européens. Il entend établir « un cadre juridique qui s’applique tout au long du cycle de vie des systèmes d’IA, traite des risques que peuvent représenter ces systèmes et promeut une innovation responsable ». Pour Marija Pejčinović Burić, Secrétaire Générale du Conseil de l’Europe, la Convention-cadre sur l’intelligence artificielle, « traité international unique en son genre », « répond à la nécessité de disposer d’une norme de droit international bénéficiant du soutien d’Etats de différents continents unis par des valeurs communes, qui permet de tirer parti des avantages de l’intelligence artificielle, tout en réduisant les risques qu’elle représente ».
Le document est le résultat du travail du Comité sur l’intelligence artificielle [2], un organe intergouvernemental. Afin de rédiger ce traité, il a rassemblé les 46 Etats membres du Conseil de l’Europe, l’Union européenne et 11 Etats non membres[3], ainsi que « des représentants issus du secteur privé, de la société civile et du monde universitaire, intervenant en qualité d’observateurs ».
La convention prévoit deux façons de se conformer à ses principes et à ses obligations dans le cadre de la règlementation du secteur privé. Ainsi, « les parties peuvent choisir d’être directement soumises aux dispositions applicables de la convention » ou bien de « prendre d’autres mesures pour se conformer aux dispositions du traité, sans déroger à leurs obligations internationales en matière de protection des droits de l’homme, de la démocratie et de l’Etat de droit ». Une approche nécessaire « en raison des disparités existant entre les systèmes juridiques des différents pays ».
« Déterminer les responsabilités et établir l’obligation de rendre des comptes »
Parmi les « exigences de transparence et de contrôle », il s’agira notamment d’identifier les contenus générés par les systèmes d’IA, et les personnes qui interagissent avec eux « devraient être informées qu’elles interagissent avec un tel système ». En outre, « les parties devront adopter des mesures pour identifier, évaluer, prévenir et atténuer les risques éventuels et évaluer la nécessité d’un moratoire, d’une interdiction ou d’autres mesures appropriées concernant l’utilisation de systèmes d’IA, lorsque cette utilisation est susceptible de présenter des risques incompatibles avec les normes relatives aux droits de l’homme ». Elles devront également « déterminer les responsabilités et établir l’obligation de rendre des comptes en cas d’impacts négatifs, veiller à ce que les systèmes d’IA respectent l’égalité, y compris l’égalité de genre, garantir l’interdiction de la discrimination et la protection de la vie privée ».
En revanche, « la convention ne s’appliquera pas aux questions de défense nationale, ni aux activités de recherche et de développement, sauf si la mise à l’essai de systèmes d’IA est susceptible d’interférer avec les droits de l’homme, la démocratie et l’Etat de droit ». « Le traité exige des parties qu’elles adoptent des mesures pour veiller à ce que les systèmes d’IA ne soient pas utilisés pour porter atteinte aux institutions et aux processus démocratiques ».
La convention-cadre sera « ouverte à la signature » à Vilnius le 5 septembre, à l’occasion d’une conférence des ministres de la justice.
Les intentions sont belles, mais face aux intérêts, politiques et économiques, leur mise en pratique sera-t-elle possible ?
[1] Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit
[3] l’Argentine, l’Australie, le Canada, le Costa Rica, les Etats-Unis, Israël, le Japon, le Mexique, le Pérou, le Saint-Siège et l’Uruguay
