Spécialiste de l’intelligence artificielle, Jean-Gabriel Ganascia, alerte sur l’importance d’une réflexion éthique face au flux massif des données et à leur exploitation par l’intelligence artificielle.
« Face à ces dispositifs, qui traquent l’information et la conservent, l’oubli n’est pas possible » explique-t-il. « Sur le plan personnel, l’information récoltée va suivre un individu toute sa vie sans qu’il n’ait plus aucune prise dessus, alors qu’il ne sera plus le même dix ou vingt ans après. Sur le plan collectif, le pardon et la paix sont liés à un certain oubli de l’information ». Et il s’interroge sur le moyen de concilier ces opposés.
Le deuxième enjeu concerne la délégation aux machines : « sous prétexte d’efficacité, le risque est grand de préférer une décision prise par des machines à une décision humaine, parce que cela permet d’éluder les responsabilités ». Or, les décisions de l’Intelligence artificielle sont fondées sur un apprentissage autonome qui peut les rendre imprévisibles : elles sont prises de façon opaque et rendent indispensable l’introduction d’un certain nombre de valeurs humaines. Aussi, il est impératif « de laisser aux hommes la responsabilité de leurs actes et de ne pas la déléguer à des machines ».
Dès à présent, une réflexion s’impose. En effet, « la justice prédictive se fonde déjà, dans certains endroits aux Etats-Unis, sur la prédiction de récidive pour établir la peine, ce qui fait froid dans le dos ». D’autant plus que les indicateurs de départ ne sont pas fiables et peuvent procéder d’« une forme de discrimination implicite dans la collecte des données ». Dans le domaine des assurances, les groupes vont établir des primes en fonction du risque individuel sur des bases « parfaitement discriminatoires ».
Ces applications exigent la mise en œuvre de cadres, une question centrale alors que « les cadres classiques sont en train de s’effondrer ». « Il va donc falloir reconstruire quelque chose ». Un défi exigeant dans un contexte où la technique s’emballe et où l’accélération des connaissances conduit à « une forme d’ivresse ».
le Monde, Laure Belot (04/07/2017)
