Intelligence artificielle et pensée humaine

Cet article est co-publié avec le Blog Binaire

Parler encore d’intelligence artificielle ? Au milieu de tout le bruit médiatique sur ce sujet une chercheuse en sciences de l’éducation, Margarida Romero, va répondre à une question rarement posée et jamais analysée de façon aussi profonde à notre connaissance : comment éduquer nos concitoyen.ne.s dans un monde où l"intelligence artificielle" devient omniprésente ? Binaire.

Comme toute nouvelle technologie, l’intelligence artificielle fait l’objet à la fois d’espoirs et de peurs et ce qu’elle recouvre aujourd’hui présente de grands enjeux (Villani et al, 2018). Elle pose aussi des questions profondes sur notre propre humanité. La machine dépassera-t-elle l’intelligence des humains qui l’ont conçu ? Quel sera le rapport entre ce qu’on appelle des intelligences artificielles et nos intelligences humaines ?

Dans un ouvrage récent (2017), Jean-Gabriel Ganascia répond à la première question : il montre très simplement que se développe une intelligence algorithmique dite artificielle (il parle d’"intelligence artificielle technique"), dont les performances font que notre société est effectivement bouleversée, car nous vivons au temps des algorithmes (Abiteboul-Dowek, 2017). Cependant l’idée d’une intelligence artificielle forte qui dépasserait l’intelligence des humains n’est pas une idée vraie ou fausse, c’est une croyance car elle n’est pas étayée par des arguments scientifiques. Il se trouve qu’il est de l’intérêt de ceux qui dominent le marché du numérique de nous le faire croire et de médias en quête d’audience de relayer cette croyance.

Pensée critique et créativité

Alors, avant de s’inquiéter de nos compétences face à ce monde présupposé d’intelligences artificielles - disons, IA pour désigner cette croyance, nous nommerons autrement les éléments scientifiques établis -, nous devons aiguiser nos compétences humaines clés : la pensée critique et la créativité. Tout d’abord, si nous faisons preuve de pensée critique, il faudrait commencer par nous questionner sur l’expression IA.

Est-ce que le terme d’intelligence est pertinent pour désigner des applications informatiques basées notamment sur l’apprentissage machine (machine learning) ? Ces algorithmes ont pour objectif de développer des systèmes capables de capter, de traiter et de réagir face à des informations (massives) selon des mécanismes qui s’adaptent au contexte ou aux données pour maximiser les chances d’atteindre les objectifs définis pour le système.

Ce comportement qui peut paraître “intelligent” a été créé par des humains et présente des limites liées d’une part à la capacité humaine actuelle de définir des systèmes d’apprentissage machine efficaces, et d’autre part à la disponibilité de données massives pour que les systèmes s’adaptent. Le constat est que ces systèmes sont plus performants que des humains sur des tâches bien spécifiques comme la reconnaissance de sons, d’images ou encore, récemment, des tests de lecture comme le Stanford Question Answering Data Set.

Avoir un meilleur test de lecture, signifie-t-il être capable de comprendre, dans un sens humain et intelligent, le texte lu ? La capacité statistique à identifier des réponses peut paraître intelligente, mais rien ne prouve que ce soit dans le sens critique et créatif des humains.

Que doit-on apprendre aujourd’hui ? Les compétences du 21ème siècle tiennent compte de l’omniprésence du numérique et du besoin de renforcer le développement humain tant du point de vue des attitudes (tolérance à l’ambiguïté, tolérance à l’erreur et prise de risque), que du rapport au savoir et aux technologies.

Lorsque dans les années 1950 Turing propose un test basé sur une confrontation purement langagière entre un humain et un autre agent, qui pourrait être une machine ou un autre humain, il ne cible pas l’intelligence de la machine, mais l’intelligence que nous pourrions lui attribuer.

Si l’humain juge qu’il est en train d’interagir avec un agent humain et non une machine, le test d’intelligence artificielle est considéré comme réussi. Et peut-on se contenter d’une bonne capacité de réponse à une conversation humaine pour considérer qu’une machine est intelligente ?

Définir l’intelligence humaine

Si nous considérons l’intelligence comme la capacité d’apprendre (Beckmann, 2006) et l’apprentissage comme l’adaptation au contexte (Piaget, 1953), il serait possible de considérer les systèmes capables d’améliorer leur adaptation au contexte à partir de la collecte et le traitement de données comme étant intelligents. Cependant, si nous considérons l’intelligence comme la « capacité à résoudre des problèmes ou à créer des solutions qui ont une valeur dans un contexte socioculturel donné » (Gardner et Hatch, 1989, p. 5), sous une approche diversifiée et dynamique, il est plus difficile de considérer qu’un système, si adaptatif et si massivement nourri aux données soit-il, puisse porter un jugement métacognitif sur son processus et ses produits en lien à un contexte socioculturel donné.

La définition d’intelligence humaine de Gardner et Hatch se rapproche fortement de celle de la créativité comme processus de conception d’une solution jugée nouvelle, innovante et pertinente en lien au contexte précis de la situation-problème (Romero, Lille et Patino, 2017).

L’intelligence n’est pas donc la capacité à performer selon des règles préétablies ou prédictibles (y compris avec des mécanismes d’adaptation ou d’apprentissage machine sur des données), mais plutôt l’aptitude à créer du nouveau en démontrant une faculté de sensibilité et d’adaptation au contexte socio-culturel et l’empathie sur le plan intra et inter-psychologique aux différents acteurs. Ceci implique de comprendre la nature humaine et socio-historique pour être en mesure de porter un jugement sur son propre processus et création, de manière autonome.

Si nous adoptons cette deuxième approche critique et créative de l’intelligence, nous devrions être prudents sur l’usage du terme IA pour des solutions qui “se limitent” à s’adapter selon des mécanismes préétablis qui ne peuvent pas engendrer de jugement auto-réflexif de valeur, ni de perspective socio-culturelle.

Les systèmes d’apprentissage machine qui sont étiquetés d’IA peuvent être très performants en base à des modèles très élaborés nourris avec des données massives, mais ils ne sont pas “intelligents” à la manière critique et créative des humains.

Ainsi, mon téléphone peut apprendre à reconnaître les mots que je dicte vocalement, même si j’ai un accent qu’il va inférer d’autant plus que j’utilise le système. Mais pour autant, lui attribuer une vraie intelligence face à ma dictée vocale, relève d’une projection subjective, c’est à dire d’une croyance.

Développer l’esprit critique

Nous pouvons également questionner “l’intelligence de l’IA” en lien avec la pensée critique qui caractérise l’intelligence humaine. Dans le cadre du projet #CoCreaTIC, nous définissons la pensée critique comme la capacité de développer une réflexion critique indépendante, qui permet l’analyse des idées, des connaissances et des processus en lien avec un système de valeurs et de jugements propres.

C’est une pensée responsable qui s’appuie sur des critères et qui est sensible au contexte et aux autres. En revanche, si nous pensons aux systèmes d’apprentissages algorithmiques, et les résultats politiquement incorrects qu’ils ont produits face à des images et des réponses textuelles pouvant être cataloguées comme discriminatoires, nous ne devons ni redouter, ni condamner, ni accepter ce résultat, car il n’a aucune valeur morale. L’explication la plus probable est que en “apprenant” des données issus d’humains, le mécanisme met en avant des éléments racistes et sexistes, il n’y a pas de système de valeurs propre. Ici, cette soi-disant IA ne dispose pas de pensée responsable, mais exacerbe certaines dérives que l’humain est capable de produire mais aussi de limiter et de corriger par ses critères et sa sensibilité aux autres.

Voici ici une tentative de définition de l’esprit critique, elle même critique, proposée par l’éducation nationale, y compris sous forme de ressource éducative :

Dans le #RapportVillani, la pensée critique est évoquée face à ces technologies tant sur les aspects éthiques qu’en lien avec le besoin de développer « l’esprit critique » dans l’éducation sur ces sujets.

D’autre part, le rapport souligne l’importance de la créativité dans l’éducation comme une manière de préparer les citoyens aux défis de ce qui est rendu possible avec ces algorithmes. L’éducation au fondement du numérique, notamment dans des approches critiques, créatives et participatives, peut permettre également de développer un rapport à l’informatique qui permette aux citoyen.ne.s de démystifier l’IA, de développer une exigence éthique, et d’adopter une attitude éclairée (acceptation ou non, de ce qui sera utilisé au niveau de leurs activités personnelles, sociales ou professionnelles).

Pour ces raisons, le développement de la compétence de pensée informatique est également un atout qui vient compléter les besoins de développement de la pensée critique et créative face au numérique.

Le levier de la pensée informatique

En 2006, Jeannette Wing nomme « pensée informatique » (computational thinking) la capacité d’utiliser les processus informatiques pour résoudre des problèmes dans n’importe quel domaine. La pensée informatique est présentée par Jeannette Wing comme un ensemble d’attitudes et de connaissances universellement applicables, au delà de l’usage des machines.

Pour la développer, les apprenant·e·s (dès la maternelle, et à tous âges) peuvent combiner l’apprentissage des concepts et des processus informatiques qui font l’objet de la « littératie numérique » (objet, attribut, méthode, patron de conception, etc.) et une démarche de résolution de problèmes créative faisant appel aux concepts et aux processus informatiques (Romero, Lepage et Lille, 2017).

Des projets comme Class’Code en France ou CoCreaTic au Québec ont développé des ressources et une communauté pour soutenir cette approche dans laquelle il ne s’agit pas d’apprendre “le codage” (au sens de coder avec un langage informatique) pas à pas, mais de résoudre des problèmes de manière créative et sensible au contexte du problème.

En d’autres termes, dépasser le codage permet de s’ancrer dans une démarche plus large de programmation créative. Celle ci engage les apprenants, car c’est un processus critique et créatif de résolution de problèmes qui fait appel aux concepts et aux processus informatiques.

Il ne s’agit pas de coder pour coder, ou d’écrire des lignes de code les unes après les autres, mais de développer une approche de résolution de problèmes complexes qui engage dans une analyse réflexive et empathique de la situation, de sa représentation et de l’opérationnalisation d’une solution qui profite des stratégies métacognitives liées à la pensée informatique.

Le développement d’une approche critique et créative du numérique par le biais de la pensée informatique, permet aux apprenant.e.s d’aller au delà d’une posture d’utilisateurs qui pourrait percevoir l’IA comme une boîte noire plein de mystères, de dangers ou d’espoirs illimités.

La compréhension des enjeux d’analyse de problèmes en lien à des situations-problèmes ancrés dans des contextes socio-culturels précis (par exemple, les enjeux migratoires) est une manière de voir l’informatique comme à la fois une science et une technologie qui vont permettre, à partir des limites et contraintes de nos modélisations d’un problème, de tenter de donner des réponses qui vont se nourrir de données de plus en plus massives, sans pour autant, pouvoir être considérées comme pertinentes ou de valeur sans l’engagement du jugement humain.

Pour une éducation qui permette de vivre à l’ère numérique

Comme le signale le le #RapportVillani, nous avons besoin face à l’émergence de l’IA d’une éducation plus critique et créative.

Mais nous avons aussi beoisn d’une approche plus orientée vers la pensée informatique de la culture numérique afin que les citoyen.ne.s (petits et grands) puissent comprendre le facteur humain dans la modélisation et la création des systèmes artificiels, le fonctionnement basique des algorithmes et de l’apprentissage machine ou encore les limites de l’IA face au jugement nécessaire pour considérer la valeur des solutions produites par les algorithmes.

Pour une citoyenneté éclairée à l’ère du numérique, nous avons besoin de continuer à aiguiser notre pensée critique, créative, de résolution collaborative de problèmes tout en ajoutant une nouvelle corde à notre arc : le développement de la pensée informatique

Margarida Romero does not work for, consult, own shares in or receive funding from any company or organization that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.