🔴 L'IA anti-complotisme et l’effet d’incubation

L'IA anti-complotisme 

1. Enfin une IA qui ne contribue pas au cauchemar dystopique ambiant ! En effet, des chercheurs américains ont utilisé l’IA générative pour faire changer d’avis des personnes croyant dur comme fer aux théories complotistes les plus courantes, en leur démontrant à coup de faits objectifs et d'explications scientifiques que celles-ci étaient fausses. Une gageure !

2. Car les chiffres font froid dans le dos. Selon une étude menée par l’IFOP en mars 2023 pour le site Amb-USA, 35 % des Français et 55 % des Américains interrogés déclarent croire à au moins une théorie complotiste. Pire, 9 % des Français et 17% des Américains y croient fermement, les jeunes étant les plus touchés. 

3. La palette est large, des attentats du 11 septembre que le gouvernement américain aurait laissé faire, aux extraterrestres de Roswell, en passant par ce pauvre Neil Armstrong qui n’aurait pas posé le pied sur la Lune mais dans un studio d’Hollywood… Ainsi, 12 % des Français jugent possible le fait que la Terre soit plate et 20 % des jeunes âgés de 25 à 34 ans adhèrent à cette idée. Damned, mais à quoi ont servi nos années de cours de sciences ? 

4. Les théories complotistes sont particulièrement résistantes aux arguments rationnels et aux preuves scientifiques, car, en les adoptant, les “croyants” satisfont leurs besoins psychiques de contrôle, de sécurité, de stabilité, de certitude, de prévisibilité… et d’appartenance à un groupe. C’est vrai qu’une preuve scientifique ne pèse pas lourd face à tout ça.

5. Pour désamorcer ces croyances, un être humain ne suffit pas toujours… car il n’a pas toutes les connaissances à disposition immédiatement, ni les meilleures argumentations, ni (surtout ?) la patience. Il n’est qu’humain après tout… C’est pourquoi trois chercheurs américains Thomas H. Costello, Gordon Pennycook et David G. Rand ont utilisé l’IA générative - plus précisément une version personnalisée du modèle GPT-4 Turbo d’Open-AI - pour créer un chatbot spécialisé, le “debunkbot” (debunk pouvant être traduit par démystifier, démentir, réfuter). 

6. Chacun des 2 190 participants à cette expérience, a commencé par expliquer au “debunkbot” la théorie à laquelle il croit et pourquoi il y croit. L’instruction (prompt) donnée à l’IA était d’utiliser les données scientifiques dont elle dispose, pour prouver au participant que la théorie à laquelle il souscrit est fausse, et d’adapter sa stratégie en fonction des arguments et preuves apportés par le participant. La durée moyenne de cette “conversation” limitée à trois séries d’interactions, a été de huit minutes et quarante secondes. 

7. Les résultats ont été probants : les conversations avec le “debunkbot” ont réduit de 20 % en moyenne la confiance globale des participants dans la théorie complotiste qu'ils soutenaient, et environ un quart d’entre eux ont désavoué cette théorie. De plus, l’impact semble être durable, étant à un niveau identique deux mois plus tard. Pas si mal…

La leçon 

Le problème, c’est que ceux qui veulent vraiment croire à des complots, vont croire que le “debunkbot” a été spécialement programmé pour leur faire croire qu’il n’y a pas de complot. Le complot dans le complot dans le complot… Une mise en abyme infinie. 

Pour aller plus loin 

• Enquête IFOP sur le complotisme et les contre-vérités scientifiques - Janvier 2023

• Enquête complotisme 2019 : les grands enseignements - Fondation Jean-Jaurès

• Résultats - Etude sur les croyances irrationnelles et les superstitions aux Etats-Unis et en France - 3 mars 2023 - IFOP 

• Rapport complet - Etude sur les croyances irrationnelles et les superstitions aux Etats-Unis et en France - 3 mars 2023 - IFOP 

• Le livre Au coeur du complot (Grand format - Broché 2023) - Rudy Reichstadt - Grasset

---

L’effet d’incubation

1. En psychologie, l’effet d’incubation fait référence au processus inconscient par lequel des idées “intéressantes” surgissent au moment même où nous nous y attendons le moins. C’est quand nous laissons de côté la question ou le problème sur lequel nous travaillons, que la solution nous apparaît.

2. Il fallait bien que des chercheurs se penchent sur ce curieux phénomène. Selon les travaux de l’universitaire britannique Graham Wallas (années 1920), le processus créatif comporte quatre étapes : préparation, incubation, illumination, vérification. La plus cruciale - et la moins reconnue - est l’étape d’incubation, celle pendant laquelle intervient cette (trop) rare étincelle de génie ! 

3. En effet, lorsque notre esprit vagabonde, nous nous exposons à d’autres idées, d’autres sensations, qui se combinent en associations inconscientes, menant de manière fortuite à de nouvelles idées, de nouvelles solutions. Moralité : moins on pense à un problème, plus nous avons de chances de le résoudre. C’est contre-intuitif mais c’est - quasi - scientifiquement prouvé.

4. Mais, mais, mais… laisser faire le processus d’incubation ne revient pas à ne rien faire !

• Commençons par la préparation, l’étape la plus laborieuse. Il faut se confronter au problème à plusieurs reprises, l’étudier, accumuler des informations et faire l’effort conscient de le résoudre. L’effort préalable est nécessaire, l’effet incubation se mérite !

• Ensuite, nous devons penser à autre chose : papoter, lire, se promener ou tout simplement dormir. 

• Notre inconscient fera le travail en faisant librement des associations, sans même que nous nous en rendions compte.

5. Un exemple d’incubation ? La poussée d’Archimède. C’est en prenant son bain que le savant grec Archimède comprend les lois de la physique des fluides. “Tout corps plongé dans un liquide subit une poussée verticale vers le haut égale au poids du volume de liquide déplacé”. L’association entre ses recherches et les sensations de son propre corps a créé un effet d’incubation et accessoirement l’un des cris les plus célèbres de l’histoire : eurêka ! 

6. Plus étonnant… Cet effet est à la source même des incubateurs de startups dont le célèbre Y Combinator, un temps dirigé par Sam Altman, cofondateur d’Open AI. En effet, ses méthodes s’inspire directement de l’effet d’incubation :

• Au cours d’une session de recrutement (deux par an), Y Combinator recrute près de 400 startups qu’il va faire “grandir” ensemble. En favorisant leur proximité, il va leur permettre d’échanger des idées qui pourront s’associer, faisant ainsi naître de nouvelles idées auxquelles personne n’aurait pensé. 

• Pendant ce processus, des intervenants externes sont également invités afin de proposer des perspectives différentes, favorisant d’autres combinaisons. 

• Enfin, les locaux sont conçus pour permettre d’alterner entre phases intensives de travail et phases de détente.

Résultat : Y Combinator a incubé plus de 5 000 startups (dont Airbnb, Stripe, Twitch ou Coinbase) et généré plus de 600 milliards de dollars de valorisation cumulée. Maîtriser l’art de l’incubation, ça peut rapporter gros !

7. L’effet d’incubation vient nous rappeler que le processus de créativité est une affaire de lâcher prise et non de contrôle. Il faut savoir attendre et ne pas chercher à tout prix une solution. C’est ce qui fera la différence avec ceux qui abandonnent trop tôt, alors qu’ils avaient déjà fait le plus dur et n’étaient plus qu’à deux doigts de trouver une solution, lors d’un voyage, d’une promenade… ou d’un bain.

La leçon à tirer

C’est un peu comme le pain : on pétrit laborieusement, puis on part faire autre chose, et magie, la pâte a levé… 

Pour aller plus loin

• Le marché mondial des incubateurs -The Brainy Insight

• La vidéo : Inside The Most Powerful Startup Community In The World - Y Combinator