Le 10 juillet, lors de la Rencontre « Éthique de l’IA pour la paix » organisée dans la ville japonaise d’Hiroshima, les responsables des principales religions orientales, dont les bouddhistes, sikhs et shintoïstes, ont signé un code d’éthique de l’IA présenté par le Vatican. Une initiative saluée par le Pape François. « Je vous demande de montrer au monde que nous sommes unanimes pour exiger un engagement proactif afin de protéger la dignité humaine dans cette nouvelle ère des machines » les a-t-il exhortés (cf. IA : le Pape appelle à orienter les nouvelles technologies vers « la recherche du bien commun »).
L’« Appel de Rome pour l’éthique de l’IA » indique que l’intelligence artificielle devrait être développée « avec des principes éthiques pour s’assurer qu’elle sert le bien de l’humanité », compte tenu des préoccupations concernant l’impact sur la guerre, les élections et l’emploi.
Les chefs religieux du christianisme, de l’islam et du judaïsme, ainsi que des entreprises technologiques comme IBM, Microsoft et Cisco, ont déjà adhéré à cet engagement lancé en 2020.
Garantir le contrôle humain
Selon les signataires, les systèmes d’IA doivent être fiables, sûrs, simples à comprendre. Ils « ne doivent discriminer personne » et « il doit toujours y avoir quelqu’un qui assume la responsabilité de ce que fait une machine ». « Face aux merveilles des machines, qui semblent savoir choisir de manière autonome, nous devons être très clairs sur le fait que la prise de décision, même lorsque nous sommes confrontés à ses aspects parfois dramatiques et urgents, doit toujours être laissée à la personne humaine » indiquait le Pape dans son discours au G7 le 14 juin dernier (cf. IA : une « révolution cognitivo-industrielle » où se joue la dignité de l’homme). « Nous condamnerions l’humanité à un avenir sans espoir si nous retirions aux personnes la capacité de prendre des décisions sur elles-mêmes et sur leur vie, en les condamnant à dépendre des choix des machines. Nous devons garantir et préserver un espace de contrôle humain adéquat sur les choix effectués par les programmes d’intelligence artificielle : la dignité humaine elle-même en dépend » poursuivait le Souverain Pontife.
Il s’agit d’une question « urgente et importante » car, comme l’explique l’Institut d’éthique de l’IA de l’Université d’Oxford, « chaque jour apporte de nouveaux exemples des défis éthiques posés par l’IA, de la reconnaissance faciale au profilage des électeurs, des interfaces cerveau-machine aux drones armés, en passant par le discours actuel sur l’impact de l’IA sur l’emploi à l’échelle mondiale ».
Sources : Zenit (10/07/2024) ; TechXplore (10/07/2024) – Photo : Pixabay
