« L'éthique doit structurer la production des robots de compagnie » - 0 views
-
Cécile Christodoulou on 03 Oct 18Les propositions de Laurence Devillers : 11 commandements à appliquer à la conception des assistants intelligents, sociaux, de compagnie... "Les systèmes actuels sont [...] encore très loin de savoir converser et de pouvoir détecter les émotions complexes de la vie de tous les jours. Ils possèdent des facultés de compréhension très pauvres et n'ont aucun sens commun. Malgré cela, l'humain projette sur ces objets des capacités humaines et les anthropomorphise. [...] Engager l'utilisateur dans une interaction avec un robot doté de capacités affectives, faire qu'il prenne du plaisir à interagir avec lui, faire qu'il ait confiance en lui, sont des buts de la robotique de compagnie. Mais si les systèmes singent les comportements des humains, encore faut-il prendre en compte les risques de confusion pour une grande partie du public." 1 - Donnés privées : « Tu ne divulgueras pas mes données à n'importe qui. » 2 - Droit à l'oubli : « Tu oublieras tout ce que je te demande d'oublier. » 3 - Sécurité : « Tu pourras te déconnecter d'Internet si je te le demande. » 4 - Contrôle : « Tu seras régulièrement contrôlé pour évaluer ce que tu as appris. » 5 - Explicabilité et traçabilité : « Tu pourras m'expliquer tes comportements si je te le demande. » 6 - Loyauté : « Tu seras loyal. » 7- Consentement : « Tu seras empathique et simulera des émotions, seulement si je le sais ! » 8 - Risque de dépendance : « Tu stimuleras ma mémoire et veilleras à ce que je ne devienne pas trop dépendant de toi ! » 9 - Risque de confusion : « Tu feras attention à ce que je ne te confonde pas avec un être humain ! » 10 - Adaptation aux règles sociales « Tu apprendras à vivre avec des humains et tu t'adapteras aux règles sociales. » 11 - Utilité et bienveillance : « Tu seras bienveillant et utile. Et pourquoi pas, doué d'un peu d'humour ! »