Discussion avec Wayne Holmes : l’IA et l’éducation

Discussion avec Wayne Holmes, Enseignant-Chercheur à University College London et UNESCO. Wayne parlera de ses travaux et en particulier de ces outils IA qui font leur apparition et nous interpellent.

Wayne est l’auteur de plusieurs ouvrages sur les questions de l’IA et l’éducation dont “Artificial Intelligence In Education : Promises and Implications for Teaching and Learning“, publié en 2019, et, plus récemment, pour l’UNESCO “AI and education : guidance for policy-makers” (qui doit bentôt être traduit au Français).

La conférence, sous forme de webinaire, aura lieu le 11 juin à 14h. Le lien pour suivre le webinaire peut être obtenu en nous envoyant un mail (rubrique contact).

La version originale de cette interview se trouve sous la traduction française.

1. Wayne Holmes, vous êtes l’auteur de divers ouvrages reliant l’IA à l’éducation, et travaillez également avec l’Unesco sur ces questions : depuis quand et pourquoi vous êtes-vous intéressé à ces questions ?

Bonjour Colin, merci de m’avoir invité. J’ai été impliqué dans l’éducation toute ma vie et pendant longtemps dans la technologie éducative. J’ai par exemple développé de nombreuses applications et plates-formes d’apprentissage basées sur des jeux numériques, et j’ai participé à différentes recherches sur les technologies éducatives. Puis, il y a près de dix ans, j’ai réalisé que certains des outils dans lesquels j’avais été impliqué utilisaient une intelligence artificielle primitive, ce qui a suscité mon intérêt.

Il est rapidement devenu clair pour moi que l’IA avait beaucoup de potentiel pour aider dans l’éducation, avec l’enseignement et l’apprentissage, mais ce potentiel ne se réalisait pas. J’ai également compris que, que quelqu’un le veuille ou non, l’IA est déjà de plus en plus utilisée dans des contextes éducatifs, mais avec peu de réflexion sur ce que cela signifie pour les étudiants. Les intentions sont bonnes, l’objectif des outils tels que les « systèmes de tutorat intelligent » est d’améliorer les résultats des élèves au niveau cognitif – ou du moins de les aider à réussir leurs examens. Mais on a peu examiné ce que cela signifie pour le processus d’enseignement et d’apprentissage, comment il affecte les jeunes esprits en développement et son impact sur les aspects sociaux et la santé mentale.

2. L’IA est plus liée à la technologie, aux grandes entreprises, aux investissements énormes. Pourquoi est-ce également une question importante pour l’Unesco ?

Vous avez raison, même dans l’association entre intelligence artificielle et éducation, qui n’obtient généralement pas une grande attention, il y a déjà beaucoup d’argent et de grandes entreprises. L’éducation avec l’IA est un domaine de recherche universitaire depuis près de 50 ans, mais au cours des dernières années, ce domaine a quitté le laboratoire de recherche et a été fortement commercialisé. Je connais une trentaine d’entreprises d’IA et d’éducation financées de plusieurs millions de dollars dans le monde, ainsi que Google et Facebook et d’autres qui se lancent dans ces questions.

Comme vous le savez, l’ONU promeut les objectifs de développement durable (ODD) ; l’éducation, qui est l’ODD 4, est l’un des domaines clés sur lesquels l’UNESCO se concentre. Ainsi, au fur et à mesure que les outils d’IA devenaient plus disponibles, l’UNESCO était naturellement désireuse de voir comment l’IA pourrait aider à atteindre l’ODD 4. Au début, comme pour souvent avec l’IA, il y avait beaucoup de battage médiatique et de promesses excessives. L’UNESCO est pleinement consciente des nombreux « problèmes pernicieux » qui existent dans l’éducation dans le monde, tels que les élèves n’ayant pas accès à des enseignants expérimentés, et il y avait beaucoup d’optimisme quant à la capacité de l’IA de fournir la « solution ». Mais maintenant, l’accent est beaucoup plus mis sur les défis que l’IA apporte à l’éducation ainsi que sur le potentiel.

Par exemple, la plupart des outils pédagogiques basés sur l’IA que je connais adoptent une approche pédagogique de l’enseignement. Le système « sait » ce que l’élève a besoin d’apprendre et le guide dans cette direction. Cela peut sembler bon, mais cela signifie trois choses importantes qui ne font que maintenant l’objet d’une enquête approfondie. Premièrement, cela signifie que ces outils visent à faire le travail des enseignants, ce qu’ils ne peuvent pas : ils ne sont tout simplement pas si sophistiqués. En d’autres termes, intentionnellement ou non, ils sont effectivement conçus pour remplacer les enseignants. Deuxièmement, cela signifie que le libre arbitre des étudiants est miné, alors qu’il est clair que le libre arbitre des étudiants est essentiel pour un apprentissage de qualité. Et troisièmement, cela signifie que les élèves sont assis concentrés sur leurs propres écrans, ignorant la plupart du temps les autres élèves et l’enseignant – ce qui est étrange pour un espace social comme une salle de classe. En bref, ces utilisations de l’IA ne font guère que d’essayer d’automatiser les pratiques pédagogiques qui étaient typiques dans les salles de classe il y a cinquante ans ou plus et qui ont longtemps été critiquées par les sciences de l’éducation.

Ainsi, nous avons récemment publié « AI and Education. Conseils aux décideurs politiques. » dans lequel nous essayons de soulever et analyser des problèmes tels que ceux que je viens de décrire. Non pas pour empêcher l’utilisation de l’IA dans les salles de classe, ce qui serait insensé, mais pour s’assurer que l’IA utilisée dans les salles de classe est le « bon type » d’IA – une IA qui respecte les valeurs et les droits humains, qui augmente plutôt que de remplacer les enseignants, qui s’inspire des sciences de l’éducation, et qui n’est pas une surveillance sous un autre nom.

3. Vous travaillez également maintenant pour et avec l’IRCAI. Pourquoi un nouvel organisme comme l’IRCAI peut-il avoir un impact ici ?

Eh bien, ce sont les premiers jours. [NDLT : IRCAI n’a été créé qu’il y a quelques semaines et Wayne est un des princpaux acteurs de la politique “IA et éducation” de l’institut] Mais ce que j’aime, et c’est pourquoi je suis très heureux de m’impliquer, c’est que l’IRCAI rassemble l’IA d’une part (et il y a des gens vraiment intelligents en IA dans l’IRCAI) et les objectifs de développement durable des Nations Unies d’autre part. J’espère que nous pourrons faire de l’IRCAI, enfin le volet éducation de l’IRCAI, un centre de soutien aux chercheurs qui souhaitent s’attaquer aux problèmes de l’éducation, à la fois d’un point de vue technique, informatique et d’un point de vue humain et sociologique. et la perspective des sciences de l’apprentissage. Il n’y a rien de tel là-bas, mais c’est vraiment nécessaire et une perspective passionnante.

4. Sans vouloir donner tous les détails de votre exposé (voici un lien !), Y a-t-il quelque chose de spécifique auquel nous devrions faire attention lors de l’introduction de l’IA dans l’éducation ?

La réalité est que l’IA peut être assez impressionnante, et elle semble souvent offrir une solution idéale à un problème d’éducation épouvantable – tel que le manque d’enseignants expérimentés dans le sud du monde ainsi que dans certaines régions d’Asie de l’Est. Mais si l’histoire de la technologie éducative nous a appris quelque chose, une solution technologique n’est jamais une solution à long terme ni durable. En d’autres termes, nous devons dépasser le battage médiatique. Si un robot IA intelligent peut aider certains étudiants aujourd’hui, il ne résout pas ce qui est un problème social. Nous devons réfléchir à la manière dont nous pouvons utiliser les impressionnantes technologies d’IA pour aborder le cœur du problème, le manque d’enseignants expérimentés, plutôt que les symptômes évidents. Donc, si je dirigeais une école et que je regardais des outils d’IA, je me demanderais si cet outil améliore les enseignants, s’il améliore l’expérience en classe ou responsabilise les élèves ? Sinon, je n’adopterais pas cette technologie. Oh, et j’écouterais les mots à la mode, tels que l’apprentissage personnalisé, qui sont trop souvent des écrans de fumée et des miroirs aux alouettes (je pense que l’apprentissage personnalisé peut être une bonne chose, je ne suis tout simplement pas convaincu que les outils d’intelligence artificielle actuels font quelque chose de ce type).

5. Enfin, qu’est-ce qui vous donne de l’espoir ?

Ce qui me donne de l’espoir, c’est qu’il y a beaucoup de développeurs experts en IA qui sont désireux de faire ce qu’il faut. Ils ont juste besoin du soutien et des conseils d’éducateurs, de sociologues et de spécialistes des sciences de l’éducation. En travaillant ensemble, par l’intermédiaire de l’UNESCO et de l’IRCAI, je suis sûr que nous pouvons véritablement, plutôt que superficiellement, améliorer l’éducation et par conséquent les vies, et j’ai hâte de contribuer.

1. Wayne Holmes, you are the author of various books linking AI with Education, and also work with Unesco on these issues : since when and why have you been interested in these questions ?

Hi Colin, thanks for inviting me. I’ve been involved in education my entire life, and for a long time in educational technology. For example, I’ve developed numerous digital-games based learning applications and platforms, and have been involved in lots of educational technology research. Then, almost a decade ago, I realised that some of the tools I’d been involved in used some primitive artificial intelligence, which triggered my interest.

It quickly became clear to me that AI had lots of potential to help in education, with teaching and learning, but that potential was not being realised. I also recognised that, whether anyone likes it or not, AI is already increasingly being used in educational contexts, but with little thought about what that means for the students. The intentions are good, the aim with tools such as the so-called ‘intelligent tutoring systems’ is to improve student outcomes on a cognitive level – or at least to help them pass their exams. But there has been little examination of what it means for the teaching and learning process, how it affects young developing minds, and the impact on the social aspects and mental health.

2. AI is more linked with tech, big companies, huge investments. Why is it also an important question for Unesco ?

You’re right, even in AI and education, which usually doesn’t get much of a look-in, there’s already a lot of money and big companies. Learning with AI has been an academic research area for almost 50 years, but in the past few years it has moved out of the research lab, and has been heavily commercialised. I know of around 30 multi-million dollar funded AI and Education companies around the world, as well as Google and Facebook and others that are getting in on the act.

As you’re aware, the UN have the Sustainable Development Goals, with education, SDG4, being one of the key areas that UNESCO focus on. So, as AI tools became more available, naturally UNESCO was keen to see how AI might help achieve SDG4. At the beginning, as with much AI, there was a lot of hype and over-promising. UNESCO was fully aware of the many ‘wicked problems’ that exist in education around the world, such as students not having access to experienced teachers, and there was a lot of optimism that AI could provide the ‘solution’. But now the focus is much more on the challenges that AI brings to education as well as the potential.

For example, most of the AI education tools that I’m aware adopt an instructionist approach to teaching. The system ‘knows’ what the student needs to learn, and guides them in that direction. That might sound good, but it means three important things that are only now being properly investigated. First, it means that these tools are aiming to do the work of teachers, which they can’t, they’re just not that sophisticated. In other words, intentionally or otherwise, they are effectively designed to replace teachers. Second, it means that student agency is undermined, when it’s clear that student agency is essential for quality learning. And three, it means that the students sit there focused on their own screens, mostly ignoring the other students and the teacher – which is strange for a social space such as a classroom. In short, those uses of AI do little than try to automate pedagogical practices that were typical in classrooms fifty or more years ago, and have long been critiqued by the learning sciences.

So, we recently published “AI and Education. Guidance for Policy-makers.” in which we try to raise issues such as the ones I’ve just described. Not to stop AI being used in classrooms, which would be foolish, but to ensure that the AI used in classrooms is the ‘right kind’ of AI – AI that respects human values and rights, that augments rather than replaces teachers, that learns from the learning sciences, and that isn’t surveillance by another name.

3. You are also working now for and with IRCAI. Why can a new organism like IRCAI have an impact here ?

Well, it’s early days. But what I like, and why I’m very pleased to be involved, is that IRCAI brings together AI on the one hand (and there are some really smart AI people in IRCAI) and the UN Sustainable Development Goals on the other. I’m hopeful that we’ll be able to make IRCAI, well the education bit of IRCAI, a centre for supporting researchers who want to engage with education’s wicked problems, both from a technical, computer science perspective, and from a human, sociological and learning sciences perspective. There’s nothing like that out there, but it’s sorely needed and an exciting prospect.

4. Without wanting to give all the details of your talk (Here is a link !) is there anything specific we should be careful about when introducing AI into education ?

The reality is that AI can be pretty impressive, and it often seems to offer an ideal solution to an education wicked problem – such as the lack of experienced teachers in the global south and areas of east Asia. But if the history of educational technology has told us anything, a technological fix is never a long-term nor sustainable solution. In other words, we need to get beyond the hype. While a clever AI bot might help support some students today, it doesn’t solve what is a social problem. We need to think about how we can use the impressive AI technologies to address the heart of the problem, the lack of experienced teachers, rather than the obvious symptoms. So, if ran a school, and I was looking at AI tools, I’d be asking myself, does this tool enhance teachers, or enhance the classroom experience, or empower students ? If not, I’d stay clear. Oh, and I’d listen out for the buzzwords, such as personalised learning, which are all too often smoke and mirrors (I think personalised learning can be a good thing, I’m just not convinced that the current AI tools do anything like that).

5. On the other hand, what does give you hope ?

What gives me hope is that there are a lot of expert AI developers who are keen to do the right thing. They just need support and guidance from educators, sociologists, and learning scientists. Working together, though UNESCO and IRCAI, I’m sure we can genuinely, rather than superficially, enhance learning and improve lives, and I’m looking forward to playing my part.