Pour interroger et comprendre les questions éthiques posées par la présence des agents conversationnels dans nos environnements domestiques, les notions d’ange gardien, d’ami ou d’espion sont-elles pertinentes ?

Lors de ce débat, l’entreprise mécène Orange présentera un cas pratique, l'assistant Djingo, et sera questionnée par deux chercheurs.

Une nouvelle voix et à travers elle une nouvelle présence habitent déjà avec certains d’entre nous — chez certains d’entre nous. Quand on l’appelle, elle répond à des noms différents : Alexa, Cortana, Djingo... Elle est passive et à l’écoute, très souvent par une représentation fortement genrée, elle a une voix féminine, mais son nom, en français, est bien masculin : c’est un assistant vocal. Il remplit une fonction innovante. Il sert à effectuer une désintermédiation particulièrement complexe. Pour qu’entre nous et les machines la médiation optique et tactile de l’écran disparaisse, il passe par le sens le plus énigmatique : l’ouïe, et par le geste le plus primordial : la voix.  

Cette voix familière peut-elle demeurer neutre, sans affect ? Que signifie sa domesticité ? Et surtout, par conséquent, entre l’homme et la machine qui apprivoise qui ? Quelles sont les finalités de l’assistance conversationnelle ? Comment peut-on lui faire confiance alors qu’on sait qu’elle est là pour nous écouter ? Et quels sont les risques que l’on puisse, pris par le pouvoir de l’affectivité de la parole, prêter à cette voix des capacités humaines — ce que les experts appellent le risque de nudges ?

Face au vertige qu’ouvre cette nouvelle réalité, ne faudrait-il pas prendre une piste qui peut paraître radicalement différente ? On pourrait ainsi ouvrir l’immense archive des pratiques et des doctrines des religions monothéistes pour retrouver dans la figure de l’ange gardien un moyen pour comprendre la croyance qui nous permet d’accepter que cet objet connecté pénètre jusqu’au cœur de notre intimité. Ou bien alors, peut-être, fait-on le pari d’une indifférence vis-à-vis de sa loyauté et de son intelligence, en échange d’un peu plus de simplicité, d’une plus complète intégration entre le monde des humains et celui des machines ?

Débat animé par Barbara Chazelle, journaliste.

Lexique

Un assistant personnel intelligent (aussi appelé assistant personnel virtuel ; en anglais, intelligent personal assistant ou virtual assistant) est un agent logiciel qui peut effectuer des tâches ou des services pour un individu. Parfois, le terme « dialogueur » est utilisé pour faire référence aux assistants virtuels en général ou spécifiquement ceux accessibles par dialogue en ligne (ou dans quelques cas les programmes de dialogue en ligne qui sont pour le divertissement et qui n’ont pas de buts utiles).

Un chatbot aussi nommé dialogueur ou agent conversationnel, est un agent qui dialogue avec un utilisateur. La recherche sur cette interface personne-machine est influencée par la compétition sur le test de Turing (1950) : donner l'illusion qu'un programme pense par un dialogue sensé.

Risque Nudges : Des utilisateurs méconnaissant ces objets ou fragiles comme des enfants ou des personnes âgées, sont particulièrement soumis au risque de "Nudges". Un nudge est une incitation douce ou coup de pouce donné à un individu ou consommateur pour modifier son comportement. Dans ces systèmes robotisés, intelligents ou autonomes on peut en effet intégrer des fonctions suggestives cachées ou manipulatrices conçues pour influencer le comportement ou les émotions d'un utilisateur. 

Orange. L’assistant Djingo d'Orange permet de piloter, juste avec la voix, de nombreux services. Il est possible de lui demander de changer de chaîne TV, de passer et recevoir un appel en mains libres, d'écouter votre musique préférée, les infos ou la météo ou de répondre à vos questions.

Pour aller plus loin

• Giorgio Agamben, Emanuele Coccia (éds.), Angeli : Ebraismo, Cristianesimo, Islam, Neri Pozza Editore, 2009
• Derrida, La Voix et le Phénomène, Paris, Presses universitaires de France, 1967
• Laurence Devillers, Demain nos robots devront avoir une dimension morale, Usbek&Rica, 1 mars 2018
• H. Chung, M. Iorga, J. Voas and S. Lee, Alexa, Can I Trust You ?,  in Computer, vol. 50, no. 9, pp. 100-104, 2017.
• Matthew B. Hoy, Ariel F. Pomputius, Alexa, Siri, Cortana, and More: An Introduction to Voice Assistants, Medical Reference Services Quarterly Volume 37, 2018 - Issue 1

Comment suivre le direct

Vous pourrez suivre le direct à 18h30 le jour de l’événement sur la homepage du site, sur la page Facebook du Collège des Bernardins ou sur Youtube (il n’est pas nécessaire d’avoir un compte pour suivre le direct).

Vous pourrez poser vos questions le soir du débat en direct sur la page Facebook ou Youtube du Collège des Bernardins.