Group items tagged

Les agents conversationnels (aussi appelés « chatbots ») sont des systèmes numériques capables d'interagir avec leurs utilisateurs en langage naturel, à l'écrit comme à l'oral. Aujourd'hui, on en trouve dans de nombreux objets de notre quotidien (smartphones, enceintes connectées, voitures, sites internet) : ils apportent des conseils de santé, facilitent le recrutement, gèrent des services après-vente, forment à distance, aident les personnes vulnérables, etc. En France comme au niveau européen, les agents conversationnels, parce qu'ils s'appuient sur des données personnelles, commencent à attirer l'attention des autorités, des régulateurs et du public . Au-delà de ces points réglementaires, se posent de nombreuses questions éthiques. Quels comportements et croyances avons-nous par rapport aux agents conversationnels ? Un chatbot peut-il mentir à son utilisateur ? Les erreurs des agents conversationnels seront-elles plus acceptables que celles d'un être humain ? Un chatbot doit-il imiter systématiquement l'être humain ? Parmi les différents enjeux d'éthique qu'identifie le comité, les principales tensions concernent le brouillage des frontières entre une machine et un être humain, l'imitation du langage et des émotions par les chatbots, ainsi que la capacité des agents conversationnels à manipuler les interlocuteurs humains.

"Qu'ils offrent de (re)découvrir les textes de la doctrine, la Bible, ou se présentent comme des accompagnateurs spirituels de poche, les chatbots à destination des chrétiens, dans le sillage de ChatGPT, se confrontent à des enjeux technologiques et éthiques."

"Agréger des milliards de données sur des millions de personnes c'est bien. En faire quelque chose c'est encore mieux. Et les vrais bons spécialistes de la data ne courent pas (encore) les rues. Heureusement les experts et consultants de tous bords ont trouvé une nouvelle marotte : l'intelligence artificielle. Pardon, l'Intelligence Artificielle (avec des majuscules, comme vu dans de nombreux communiqués de presse, ça doit faire plus riche). Petit problème. Pour beaucoup de ces experts l'intelligence artificielle est un terme aussi obscur que nébuleux. Un consultant bien connu et reconnu dans le marketing digital n'hésitait même pas à me répondre il y a quelques jours que, «si il y a un moteur de règles, c'est déjà de l'intelligence artificielle». Et bien non. C'est de l'algorithmique et du code tout ce qu'il y a de plus classique. Qui peut être très bien fait, mais qui n'a rien à voir avec de l'intelligence artificielle."

On les appelle agents virtuels, assistants virtuels intelligents ou encore chatbots. Mais globalement, ces agents conversationnels ont une seule et même fonction : ils vous accompagnent, vous guident, vous conseillent lorsque, sur un site web, vous recherchez un train, un hôtel, un conseil financier ou toute autre sorte de produit. Ils ne sont généralement que les avatars électroniques des conseillers que nous avions dans nos banques, nos agences de voyages, nos magasins de bricolage ou nos administrations. Ils prennent l'apparence d'agents incarnés, avec des caractéristiques humanoïdes plus ou moins marquées, allant du petit robot stylisé à des personnes aux forts caractères anthropomorphiques. Il est difficile de savoir qui se trouve derrière ces avatars. Existe-t-il encore une analyse humaine de nos demandes, ou bien ces outils sont-ils totalement pilotés par des systèmes informatiques ? Cette précision est souvent omise, et même si l'on pose la question en début de conversation, les réponses sont, volontairement ou non, extrêmement ambiguës. C'est le fameux test de Turing : suis-je en train de m'entretenir avec une machine, ou avec un humain ?

"Le 2 décembre dernier, le Comité Consultatif National d'Éthique a été chargé par Édouard Philippe de constituer un comité pilote d'éthique du numérique. Composé de personnalités d'horizons différents, son but est d'aborder les enjeux éthiques du numérique et de l'intelligence artificielle de manière globale. Le comité se penchera dans un premier temps sur les chatbots, les voitures autonomes et le diagnostic médical. Il rendra ses premiers travaux début 2021. Anne Bouverot, présidente du Conseil d'administration de Technicolor et de la Fondation Abeona et co-présidente du groupe de travail de l'Institut Montaigne sur les biais algorithmiques, ainsi que David Gruson, directeur du programme santé de Jouve, fondateur d'Ethik-IA, membre du comité d'éthique du numérique et auteur de la note de l'Institut Montaigne sur l'intelligence artificielle en santé, nous livrent leur analyse sur le sujet."

"« Chatbots » chrétiens, culte protestant animé par une intelligence artificielle… L'irruption de l'IA dans la sphère religieuse pose autant de perspectives de développement pour les évangélisateurs que de questions aux croyants. L'intelligence artificielle est l'un des sujets phares des Journées saint François de Sales qui se déroulent à Lourdes du 24 au 26 janvier."

"Aucun algorithme, chatbot ou modèle de langage ne pourra jamais remplacer ce qui fait de nous des êtres humains."

"Le vrai problème est que ces assistants vocaux, soigneusement manipulés par les informaticiens pour nous être toujours agréables, vont aussi modifier l'idée que nous nous faisons d'une relation. Leur rôle se réduit aujourd'hui à des demandes auxquelles ils sont censés apporter la meilleure réponse, agrémentée de quelques plaisanteries ciselées sur mesure par des algorithmes qui nous connaîtront de mieux en mieux: c'est ce que certains informaticiens, emportés par leur zèle anthropomorphe, appellent sans rire "l'humour machine", alors que le robot ne fait que chercher la bonne réponse préprogrammée dans sa mémoire centrale. Et demain? Ces machines nous proposeront des échanges toujours plus calibrés sur nos attentes, estimées en fonction de nos échanges passés. Le risque sera de finir par penser toute relation sur le modèle d'un échange consensuel. Il n'y aura plus de place pour se raconter pour le seul plaisir de se découvrir en se racontant, et point de plaisir non plus à écouter l'autre se raconter, puisque ces machines se contenteront de recombiner les informations que leurs programmeurs y auront déposées et de les mettre en lien avec nos attentes supposées."