🔴 L'illusion de profondeur explicative et l’émergence de la génération AI Native

Comme quelques centaines de millions de personnes en ce bas monde, je ne vous cache pas que je connais une certaine baisse de moral depuis mercredi matin. Pas trop le courage d’écrire mes articles cette semaine mais “the show must go on”... Et, non, je ne me prends pas pour Freddie Mercury. Allez, on y va !

L'illusion de profondeur explicative

1. L'illusion de profondeur explicative (illusion of explanatory depth) désigne notre tendance à surestimer notre compréhension d’un concept, d’un phénomène, voire du fonctionnement d’un objet que nous utilisons tous les jours. Nous nous en rendons compte lorsque nous devons les expliquer à quelqu’un… Nos explications deviennent floues, incomplètes, voire tout simplement fausses. 

"We mistake our familiarity with a situation for an understanding of how it works"

Tom Stafford

2. Ce biais cognitif a été décrit en 2002 par deux chercheurs de l’université de Yale, Leonid Rozenblit et Frank Keil, dans l’article The misunderstood limits of folk science: an illusion of explanatory depth. L'expérience était simple : ils ont proposé à seize étudiants d’évaluer leur compréhension du fonctionnement d’objets tels qu’une machine à coudre, un téléphone mobile et une fermeture éclair. Puis ils leur ont demandé de faire une petite rédaction expliquant précisément comment fonctionnent ces objets. Dernière étape : ces étudiants devaient à nouveau évaluer leur compréhension du fonctionnement de ces objets. Résultats ? Leur seconde auto-évaluation était nettement plus faible puisqu’ils avaient pu constater qu’ils étaient plus ou moins incapables de fournir des explications simples et exactes. , 

3. Quelques raisons pouvant expliquer cette illusion : 

• Notre mémoire visuelle est souvent défaillante (mais pas notre égo…) comme le montre l’expérience présentée dans l’article The science of cycology de Rebecca Lawson, chercheuse à Cambridge. Il s’agissait de compléter le schéma d’un vélo (seul le cadre était dessiné). La moitié des participants se sont trompés au point de dessiner un vélo qui n’aurait pas pu fonctionner. Pourtant tout le monde a déjà vu un vélo, non ? 

• Nous savons expliquer certains éléments d’un phénomène, d’un concept ou d’un objet, mais le plus souvent, pas son fonctionnement réel, dans tous ses aspects. Savoir un peu nous suffit pour penser que nous savons beaucoup, voire tout (toujours cette histoire d’égo). 

• Enfin, et c’est peut-être l’explication la plus rassurante, nous ne sommes tout simplement pas habitués à expliquer. Nous énonçons, nous affirmons des choses plus ou moins vraies, mais nous avons rarement à en décrire précisément les causes ou le fonctionnement. Si c’était si simple, les profs ne prépareraient pas leurs cours, les politiques, leurs discours, les intervenants TED, leurs présentations, etc.

4. Sur le plan personnel, nous sommes susceptibles de prendre des décisions importantes sans disposer des informations et niveaux de compréhension nécessaires. Ce n’est que lorsqu’on nous demande de justifier notre choix que nous nous rendons compte que nous sommes incapables de l’expliquer correctement. Nos décisions, parfois essentielles, relèvent souvent plus du “feeling”, du coup de tête ou de l'émotion immédiate que d’une connaissance réelle. Et c’est comme ça que vous pouvez vous retrouver à faire une carrière de fonctionnaire à Paris alors que vous vouliez élever des moutons dans les Pyrénées, ou l’inverse. Dommage.

5. Sur le plan collectif et, notamment, politique, c’est une tout autre histoire. Nous pouvons dire pourquoi nous avons telle ou telle opinion mais comprenons-nous vraiment les concepts sur lesquels nous prenons des positions si catégoriques ? Serions-nous capables de les expliquer clairement ? On peut en douter… 

6. Alors comment éviter de succomber à ce biais ? Peut-être en faisant l’effort d’expliquer à haute voix à quelqu'un - ou à nous-mêmes si nous sommes seuls (non, nous ne sommes pas fous…) - le sujet qui nous intéresse. Allons au fond des choses, répondons aux questions les plus pointues, les plus difficiles, sans complaisance. Après, seulement après, nous pourrons prendre position avec toute la passion qui nous plaira. 

7. Dernier élément… Que ratons-nous dans notre système d’éducation au sens large pour arriver à de tels résultats ? Apprenons-nous trop tard pour qu’elles constituent la base de nos raisonnements, des choses aussi essentielles que le doute et la démarche scientifique ? 

La leçon à tirer

Puisque c’est comme ça, je retourne me coucher… 

Pour aller plus loin 

• L’effet de faux consensus - 7 about

• L’effet Dunning-Kruger - 7 about

• L’article du New Statesman - We know a lot less than we think about the world – which explains the allure of “simplism” - 13 juin 2012

• L’article C'est (vraiment?) moi qui décide: Les raisons cachées de nos choix

• La vidéo Queen - The Show Must Go On

---

L’émergence de la génération AI Native

1. Voici venir la génération AI native qui, née à partir de 2012, sera trop jeune pour se souvenir d’un monde sans Intelligence Artificielle et sans Chat GPT (lancé le 30 novembre 2022). Tout comme la génération digital native, née avec Internet, n’a jamais connu un monde sans email et sans web.

2. Utilisant l’IA de façon naturelle et intuitive, cette génération sera probablement bien plus productive que les générations précédentes. Quelques marqueurs générationnels forts sont à anticiper :

• Des compagnons permanents : ils vivront et interagiront en permanence avec des assistants virtuels qui les accompagneront toute leur vie.

• L’hyper-personnalisation : tout sera taillé sur mesure pour eux, des plats au restaurant jusqu'aux modes d’apprentissage.

• Confiants mais prudents : ils feront confiance à l’IA pour résoudre des problèmes liés à la santé ou au dérèglement climatique, mais exigeront davantage de transparence et de contrôle sur l’usage de leurs données par les algorithmes, et seront particulièrement vigilants quant aux enjeux d’éthique et de confidentialité.

3. Cette génération sera habituée à un apprentissage sur mesure. L’Intelligence Artificielle pourra analyser les forces et faiblesses de chaque élève en temps réel, et adapter son programme en fonction de ses besoins individuels.  

4. Lorsque, pour ses devoirs, un digital native fait ses recherches sur Google, un AI native raisonnera conjointement avec ChatGPT. Il pourra construire un modèle de données en langage naturel, et le partager avec sa classe. Ses condisciples pourront à leur tour enrichir ce modèle. Les futures dissertations seront écrites à plusieurs mains dont celle, invisible, de l’IA. Les professionnels de l’enseignement, souvent encore des analog native (nés avant Internet), vont vite devoir se former !

5. Après l’école…  le monde du travail. Cette génération n’hésitera pas à sous-traiter les tâches les plus fastidieuses. Bonne chance pour leur expliquer qu’ils ne doivent pas utiliser l’Intelligence Artificielle au travail ! On a déjà vu le résultat pour la génération précédente à qui l’on a demandé de ne pas utiliser les réseaux sociaux. Cause toujours, cher employeur…

6. La génération AI native occupera de nouveaux jobs :

• Les wranglers (dresseurs) d’IA utilisent leur connaissance approfondie des systèmes d’IA pour obtenir les meilleurs résultats possibles. Ce ne sont plus les chevaux sauvages que cette génération apprivoisera mais les données et les applications d’intelligence artificielle.

• Les prompteurs savent dialoguer et “chuchoter” à l’oreille des applications d’intelligence artificielle, de sorte à générer les meilleurs contenus, avec d’autant plus de facilité qu’ils auront prompté leurs assistants depuis leur plus tendre enfance.

• Les référenceurs IA devront s’assurer que leur entreprise apparaît bien dans les contenus générés par les modèles d’IA. A l’instar du référencement sur Google, une entreprise qui n'apparaît pas dans ces résultats de recherche, risque tout simplement de ne plus exister.

7. On peut essayer de prévoir comment cette génération va se comporter mais on ne peut encore imaginer quelles pourront être les conséquences de ces changements. On sait que les premières générations ayant grandi avec Internet et les réseaux sociaux ont des niveaux d'anxiété accrus. L’adoption rapide de l’Intelligence Artificielle aura aussi sûrement un impact sur la santé mentale de cette génération “AI native”. Mais lequel ? 

La leçon à tirer

Je sens que les stages de canoë dans les contrées les plus reculées, leur feront aussi le plus grand bien… 

Pour aller plus loin

• AI Wranglers: The Secret to Unlocking AI’s Potential in Federal Agencies, eminent

• How AI Natives Will Impact the Workforce, Cloud Wars