Culture et société : Quelle éthique pour les agents conversationnels ?

Un article repris du blog binaire, une publication sous licence CC by

Les IA conversationnelle qui génèrent du texte pour répondre aux requêtes des internautes sont à la fois sources d’inquiétudes et impressionnants par leurs « capacités ». Le plus populaire, ChatGPT, a fait beaucoup parler de lui ces derniers mois. Or il en existe de nombreux autres.

La communauté TAL s’est penché depuis longtemps sur les questions éthique liés au langage et notamment l’impact sociétal de tels outils
Une IA conversationnelle ayant appris des textes en anglais, reflétant le mode de pensé occidentale, saurait-elle saisir les subtilités d’un mode de pensé d’une autre partie du monde ?

Qui contrôle vérifie et corrige l’apprentissage d’une IA utilisé à travers le monde ? et surtout, comment peut-on s’assurer que son comportement n’est pas incohérent ? comme nous l’avons montré au travers d’experiences avec ChatGPT dans un précédent article ?

Karen Fort, interviewé par Joanna Jongwane, nous partage son epxertise sur ce sujet, brillamment et en 16 min !

– Écoutez l’interview de Karën Fort sur Interstices

Un article repris du site d ’[Intesices→https://www.imt.fr], revue de culture scientifique en ligne, créée par des scientifiques pour vous inviter à explorer les sciences du numérique et publiée par l’INRIA, une publication sous licenc e CC by nc nd

Le numérique a envahi notre quotidien, que ce soit dans la sphère professionnelle ou privée. De nouvelles applications voient sans cesse le jour et s’immiscent encore et toujours dans nos vies déjà ultra connectées. Pour faire face aux risques de dérives de certains outils numériques, se pose de plus en plus la question de l’encadrement et de la législation. Quid d’un numérique éthique et responsable ?

Les spécialistes du domaine du traitement automatique des langues (TAL) se sont penchés assez tôt sur ces questions éthiques. Co-présidente du comité d’éthique d’ACL, Karën Fort sensibilise d’ailleurs ses collègues du domaine à la réflexion sur les utilisations possibles de leurs travaux de recherche. C’est aussi une façon de leur rappeler qu’ils ou elles sont des scientifiques mais aussi des citoyens et citoyennes !

Entre crainte et fascination, les controverses autour des systèmes d’intelligence artificielle comme ChatGPT, ont pris de l’ampleur ces derniers mois. Pourtant, comme le souligne Karën Fort dans cet épisode du podcast audio, les enjeux sociétaux autour de ces agents conversationnels sont importants et ils peuvent avoir un impact positif à bien des égards. Pour elle, il est essentiel de bien comprendre ce qu’est ChatGPT et ce qu’il n’est pas ! Par exemple, ce n’est pas un moteur de recherche comme certains ont tendance à le croire mais un générateur automatique de textes qui a bel et bien des limites. À nous de fixer un cadre et des règles…