Les robots entrent peu à peu dans les espaces publics et interagissent de plus en plus avec les humains. Pour des questions éthiques, des universitaires suggèrent que les robots possèdent une « boîte noire » à l’instar des avions, dans le but de suivre et d’expliquer les décisions des robots, par exemple en cas d’accidents.
C’est une des propositions faites lors de la dernière conférence à l’Université de Surrey, aux Etats-Unis, pour pallier l’inquiétude de voir des robots travailler en autonomie sans contrôle humain. « Les accidents, nous l’espérons, seront rares, mais ils sont inévitables », a déclaré Alan Winfield, professeur d’éthique robot à l’Université de l’Ouest d’Angleterre à Bristol.
Installé dans un robot, la boîte noire éthique enregistrerait les décisions du robot, la base sur laquelle il s’est fondé pour les prendre, ses mouvements et les informations provenant de ses capteurs tels que des caméras, des microphones et des téléspectateurs. Alan Winfield pense que cette mesure pourra faciliter l’étude des « accidents graves ».
Ce même dispositif pourrait servir également au robot pour transcrire son mouvement en langage simple et expliquer aux utilisateurs sa décision d’action.
The Guardian, Ian Sample (19/07/2017)
