Un peu de recul sur ChatGPT

Un article repris du blog Prodageo pour PROjets péDAgogiques GEOdistribués de Jack Dub ;une publication sous licence CC by

Comme beaucoup de monde, j’ai testé ChatGPT en lui posant des questions sur les limites de son utilisation et l’usage avec des élèves (Vous trouverez le contenu des échanges à la fin de cet article). Si le résultat est impressionnant, quelques éléments m’interpellent…

1 – ChatGPT ne produit que ce qu’on lui demande

Force est de constater que cette intelligence artificielle produit des textes impressionnants. Cependant, elle ne demande pas de préciser ou de contextualiser une requête qui pourrait être floue et répond par principe. Ce fonctionnement a deux conséquences :

1. On n’est pas dans un dialogue d’égal à égal mais plutôt dans une position d’interview où l’on demande au ‘sachant’ de nous donner l’information souhaitée. Ce décalage met, d’une certaine façon, le demandeur en position d’infériorité alors qu’il doit avoir un esprit critique aiguisé pour analyser et traiter la réponse fournie par l’IA.
2. Il faut espérer que notre question correspond exactement à ce que l’on cherche, et l’on sait à quel point c’est compliqué de poser la bonne question. ChatGPT le dit lui-même dans ses limites (cf. ci-dessous) : « Manque de compréhension du contexte : ChatGPT ne peut pas comprendre le contexte dans lequel une question est posée, ce qui peut parfois conduire à des réponses inappropriées ou confuses. »

Je n’ai pas cherché à pousser un questionnement trop précis et je trouve que la réponse est vite approximative, et d’ailleurs, ChatGPT le dit lui-même, « bien que ChatGPT puisse fournir des réponses assez précises, il peut encore commettre des erreurs ou produire des réponses inexactes. » Ainsi, j’aurais tendance à dire que ChatGPT est, au mieux, du niveau d’un collègue un peu baratineur et pas forcément très scrupuleux…

2 – ChatGPT n’est pas un collègue

Il me semble essentiel de rappeler que cette IA n’est pas un collègue et que les échanges que l’on peut avoir avec elle n’apportent aucune satisfaction sociale. On ne ressent aucune empathie pour cet interlocuteur, on ne tisse pas de lien dans la durée. ChatGPT ne va jamais nous raconter ses vacances ou ses problèmes, alors que c’est ce genre de partages qui aident à créer une réelle relation empathique. Nous sortons d’une pandémie qui nous a bien fait sentir que nous avions un besoin essentiel de ces relations humaines, de ces échanges informels, de ces relations qui se façonnent au jour le jour. Il ne faudrait pas tomber dans le piège de cette IA, sorte de ‘Canada dry’ de la relation : ça ressemble à une relation, mais ça n’est pas une relation, et c’est pour ça que ça pose problème …

ChatGPT est d’ailleurs honnête à ce sujet puisqu’il annonce que « ChatGPT n’est pas un être humain, il ne peut pas remplacer une relation humaine et un accompagnement personnalisé. Il ne peut pas prendre en compte tous les aspects d’une situation et peut avoir des biais en fonction des données qu’il a appris. »

Si l’on reprend le décalage de positionnement abordé ci-dessus, couplé avec cette apparence de la relation, on voit rapidement poindre le risque d’une manipulation systématique où l’algorithme nous prescrirait nos choix, comme le dit Eric Sadin dans cette vidéo :

3 – ChatGPT risque de nous inciter à la paresse

Que c’est facile de poser une question et d’avoir une réponse qui tombe, toute cuite, prête à digérer !

En contrepoint, on se rappelle que Michel Serres disait « les nouvelles technologies nous ont condamnés à devenir intelligents ! »

Effectivement, les différents défis auxquels notre monde est confronté ne pourront pas se résoudre si la population est paresseuse et se contente de réponses prémâchées. Nous avons besoin de personnes engagées, créatives, critiques (au sens de l’esprit critique) et il va donc nous falloir tous développer ces compétences et attitudes de plus en plus essentielles.

4 – ChatGPT pose des questions économiques et écologiques

Même si le travail est facilité pour nous, humains, il est quand même fait et cela nécessite une énergie certaine. A ce sujet, Reuters a publié une étude qui analyse le coût des requêtes sur de tels outils (rapporté par 01net) et les chiffres sont éloquents : « John Hennessy, le président d’Alphabet (la maison mère de Google), a indiqué qu’un échange avec un modèle de langage comme ChatGPT avait probablement un coût dix fois supérieur à celui d’une recherche classique avec de simples mots-clés. » Ce coût se transforme instantanément en énergie consommée et l’impact climatique est très direct !

Peut-être avons-nous intérêt à être intelligent, à travailler en bonne intelligence pour croiser nos compétences et nos points de vue pour relever les défis auxquels nous sommes confrontés ?

5 – Comment développer les compétences nécessaires chez des élèves ?

Voici une réponse, toute personnelle, qui prolonge la proposition d’initiation proposée par ChatGPT (cf. ci-dessous)

1. Demander aux élèves, en groupe, de formuler une problématique sur un sujet donné, sous forme de question.
2. Soumettre cette problématique à ChatGPT en lui demandant une réponse en 500 mots et avec au moins 5 références (avec bibliographie)
3. Retravailler la réponse : vérifier les références, chercher d’autres références, identifier les influences que le choix de références induit, …
4. Rédiger tout cela avec un traitement de texte en utilisant le suivi des modifications ou un pad. Cela permet d’avoir en même temps la proposition d’origine la production finale.
5. Expliciter le cheminement et analyser l’écart entre les deux textes.

Ce qui me semble le plus important dans ce travail ce n’est pas la production finale mais bien le cheminement intégré par les élèves, l’écart entre les deux textes et l’analyse qu’ils en font. Ainsi, ce qu’il faut évaluer dans le travail d’un élève, c’est de moins en moins la production et de plus en plus le processus mis en œuvre et le regard qu’il porte sur son travail (analyse critique de la démarche, de la production, ce qu’il retient si c’était à refaire, …)

6 – En conclusion

Ces outils arrivent dans notre société et il me semble important de les intégrer à notre réflexion sur l’éducation et les apprentissages. Ils nous incitent de plus en plus à centrer notre travail d’éducateur (au sens le plus large) sur des compétences de très haut niveau, en commençant par l’esprit critique : Quand ai-je besoin d’utiliser ces outils ? Quel est l’impact de cette utilisation ? Quelle est la qualité de leurs productions ? Comment les utiliser de manière optimale et juste nécessaire ?

L’ordinateur ne fait que ce qu’on lui demande, et si l’on veut utiliser ChatGPT à bon escient, on a intérêt à bien travailler notre questionnement pour être pertinent. Comme le disait Einstein, « Si j’avais une heure pour résoudre un problème, je passerais 55 minutes à réfléchir au problème et 5 minutes à réfléchir aux solutions »

7 – Les traces des échanges avec ChatGPT

Vous trouverez ci-dessous l’exhaustivité des traces des échanges mentionnés tout au long de l’article.

Quelles sont les limites d’utilisation de ChatGPT ?

Bien que ChatGPT soit un modèle de langage impressionnant, il y a plusieurs limites à son utilisation. En voici quelques-unes :

1. Précision limitée : Bien que ChatGPT puisse fournir des réponses assez précises, il peut encore commettre des erreurs ou produire des réponses inexactes.
2. Manque de compréhension du contexte : ChatGPT ne peut pas comprendre le contexte dans lequel une question est posée, ce qui peut parfois conduire à des réponses inappropriées ou confuses.
3. Incohérence : ChatGPT peut parfois produire des réponses qui manquent de cohérence ou qui sont contradictoires.
4. Biais : Comme tout modèle de langage entraîné sur des données, ChatGPT peut avoir des biais implicites qui se reflètent dans ses réponses.
5. Connaissances limitées : ChatGPT a des connaissances limitées à ce qui a été inclus dans son entraînement, ce qui peut limiter sa capacité à répondre à des questions en dehors de ce domaine.
6. Incapacité à effectuer des tâches complexes : ChatGPT est capable de répondre à des questions simples et de mener des conversations de base, mais il ne peut pas effectuer des tâches complexes nécessitant des compétences spécialisées ou une analyse approfondie.

Il est important de prendre en compte ces limites et de ne pas surévaluer les capacités de ChatGPT. Cependant, en étant conscient de ces limites et en utilisant ChatGPT de manière judicieuse, il peut être un outil utile pour répondre à des questions et mener des conversations de base.

Quelles précautions faut-il prendre pour utiliser ChatGPT à bon escient ?

Voici quelques précautions à prendre pour utiliser ChatGPT à bon escient :

1. ChatGPT n’est pas un être humain, il ne peut pas remplacer une relation humaine et un accompagnement personnalisé. Il ne peut pas prendre en compte tous les aspects d’une situation et peut avoir des biais en fonction des données qu’il a appris.
2. ChatGPT est un modèle de langage qui fonctionne en se basant sur les données qu’il a appris. Il peut donc donner des réponses erronées si les données qu’il a appris sont incorrectes ou incomplètes.
3. Il est important de poser des questions claires et précises à ChatGPT pour obtenir des réponses pertinentes. Les questions ambiguës ou vagues peuvent donner des réponses imprécises ou inutiles.
4. ChatGPT est entraîné sur une grande quantité de données, y compris des données sensibles. Il est donc important de respecter la confidentialité et la vie privée des personnes concernées lors de l’utilisation de ChatGPT.
5. Enfin, il est important de garder à l’esprit que ChatGPT ne doit pas être utilisé pour remplacer les services professionnels ou médicaux. Si vous avez des problèmes de santé mentale ou physique, il est important de consulter un professionnel qualifié.

Quels conseils donnerais-tu à un élève qui veut utiliser ChatGPT pour faire un devoir ?

Voici quelques conseils que je pourrais donner à un élève qui souhaite utiliser ChatGPT pour faire un devoir :

1. Utilisez ChatGPT comme un outil de recherche supplémentaire. Bien que ChatGPT puisse fournir des réponses intéressantes, il ne doit pas être considéré comme la seule source d’informations pour un devoir.
2. Posez des questions précises et claires. Plus la question est spécifique, plus la réponse de ChatGPT sera précise. Évitez les questions ambiguës ou vagues.
3. Vérifiez les sources des informations fournies par ChatGPT. Bien que ChatGPT puisse fournir des informations pertinentes, il est important de vérifier la fiabilité des sources citées et de les vérifier auprès de sources alternatives.
4. Ne plagiez pas les réponses fournies par ChatGPT. Si vous utilisez les informations trouvées grâce à ChatGPT, assurez-vous de les paraphraser et de les citer correctement.
5. Utilisez ChatGPT pour obtenir de l’inspiration, mais ne comptez pas uniquement sur lui. Utilisez votre propre créativité et réflexion pour développer vos idées et vos réponses.

En somme, l’utilisation de ChatGPT peut être utile pour aider à faire des recherches et trouver des informations, mais il est important de l’utiliser de manière responsable et éthique.

Tu es enseignant et tu souhaites initier une classe d’élèves de 16 ans à l’usage de ChatGPT. Proposes une série de 5 activités progressives pour prendre en main l’outil et comprendre les limites d’utilisation. Pour chaque activité, tu préciseras la consigne donnée aux élèves et les points de vigilances sur lequel l’enseignant doit insister. Tu présenteras le résultat sous forme de tableau : activité, consigne, points de vigilance.

Voici une proposition de 5 activités progressives pour initier une classe d’élèves de 16 ans à l’usage de ChatGPT :

Il est important de rappeler aux élèves que ChatGPT est un outil et qu’il ne remplace pas les compétences humaines, telles que la créativité, le jugement critique et l’empathie. Il est également important de souligner que l’utilisation de ChatGPT doit être encadrée par des adultes responsables et formés à l’utilisation de l’IA.