🔴 L’effet Woozle et l’AI slop

L’effet Woozle

1. L'effet Woozle (ou "preuve par citation") se manifeste lorsque l'on prend pour vraie une information, simplement parce qu'elle a été répétée à de multiples reprises. En clair, nous ne prenons plus la peine de vérifier la véracité d’une information car nous supposons que les personnes l’ayant citée dans une étude ou un article, l’ont vérifiée avant nous… bien sûr. CQFD. La voie royale vers la mésinformation, l’erreur, voire la manipulation pure et simple. 

2. Cet effet se produit le plus souvent par le biais de citations en chaîne : un article ou une étude cite une source qui, elle-même, cite une autre source, et ainsi de suite. La source originelle peut être déformée, simplifiée, mal interprétée au fil des répétitions, ou… être intrinsèquement de mauvaise qualité (méthodologie, taille de l’échantillon, absence de réplication…).

3. Le terme "effet Woozle" trouve son origine dans les aventures de Winnie l'ourson d'Alan Alexander Milne (1926). Dans l'histoire, Winnie et Porcinet suivent des traces dans la neige, pensant qu'elles appartiennent à un animal imaginaire appelé "Woozle", alors qu'en réalité, ils suivent leurs propres traces, de plus en plus nombreuses, puisqu’ils tournent en rond… Le fait même que les empreintes se multiplient, les confortent dans leur conviction. 

4. Le concept sous-jacent a ensuite été développé par différents chercheurs dès les années 1950, notamment par Beverly D. Houghton… citée à plusieurs reprises mais dont je n’ai trouvé que très peu de traces “scientifiques”. Un effet Woozle en direct live ? 

5. Cet effet favorise la création et la propagation de fausses rumeurs, de légendes urbaines, de théories malveillantes... Il suffit de ne citer que partiellement certaines statistiques ou de transformer une hypothèse (“pourrait être”) en certitude (“est”), pour modifier un message qui, une fois répété, deviendra difficile à contester. L’effet est renforcé si ce message est relayé par des figures d’autorité ou des "experts". 

6. Les conséquences peuvent être sévères, notamment dans les domaines de la santé (qui a dit le mot “vaccin” ?), de la politique (préjugés divers, liens de cause à effet erronés…) et de l'économie. 

7. Comment lutter ? A notre modeste échelle, en développant notre esprit critique, en vérifiant la fiabilité de nos sources d’information, et en revenant à la source originelle en cas de doute. (Avec Internet, on retrouve les sources le plus souvent en quelques toutes petites minutes, voire secondes). La curiosité, le doute, la rigueur, n’est-ce pas ce que préconisait déjà Descartes en… 1637 ? Et c’est toujours valable aujourd’hui même (surtout ?) quand nous utilisons ChatGPT ou LeChat.

La leçon à retenir 

Vu l’océan de grossiers mensonges orwelliens dans lequel nous baignons actuellement, on peut presque se demander s’il est encore utile de se battre pour ce degré de subtilité… 

Pour aller plus loin 

• Discours de la méthode - Pour bien conduire sa raison, et chercher la vérité dans les sciences - René Descartes

• 1984 - George Orwell

  ---

L’AI slop

1. L’AI slop désigne les contenus de mauvaise qualité (textes, images, vidéos) générés à l’aide de l’intelligence artificielle. Signifiant littéralement “amas de déchets liquides”, le terme anglais “slop” est utilisé pour décrire la bouillie avec laquelle on nourrit les cochons. Bon appétit !

2. La prolifération de l’AI slop reflète un phénomène alarmant : le déferlement sur Internet d’une vague de contenus de médiocre qualité, peu fiables, trompeurs, que l’intelligence Artificiel permet de produire de manière automatisée, vite et pour pas cher.

3. Vers un Internet zombie ? Si l’AI Slop s’apparente au spam qui étouffe nos boîtes mail, l’enjeu est ici d’une autre envergure puisque c’est l’Internet tout entier qui s’en trouve pollué. Car l’AI Slop menace de transformer notre bon vieux web en web zombie où le contenu artificiel (non vivant) l’emporterait sur les contributions humaines et bien vivantes. Un risque d’asphyxie à bas bruit.

4. De nombreuses plateformes sont déjà infectées par ces contenus “slop” douteux.

• Selon une enquête du Figaro, environ 70 % des contenus de sites comme Pinterest, Reddit ou Behance seraient fabriqués par des outils d’intelligence artificielle.

• YouTube et TikTo sont inondés de vidéos truffées d’erreurs et aux voix de synthèse sans accent, quelle que soit la langue. 

• Le slop prolifère particulièrement dans l’univers des foodies : recettes de cuisine improbables, fausses images, instructions aberrantes, ingrédients incohérents. Du grand n’importe quoi !

• L’édition n’est pas non plus épargnée avec une flopée de livres générés par IA, directement vendus sur Amazon.

5. Même le très professionnel Linkedin n’est pas épargné. Selon une étude de Wired et Originality AI, 54 % des contenus en anglais publiés sur la plateforme seraient générés par l’Intelligence Artificielle. Le phénomène s’est accéléré fin 2023, date du lancement de ChatGPT. Il est vrai que le jargon “business” se prête plus facilement à “l’artificialisation” qu’une écriture personnelle. Cette mutation de Linkedin a donné naissance à un genre nouveau : la satire des publications professionnelles, avec des comptes montés de toutes pièces, parfois hilarants, mais dont on a du mal à savoir s’ils sont eux-mêmes gérés par une IA… ou un être humain.

6. Modérer ou encourager l’IA Slop, tel est le nouveau dilemme des réseaux sociaux car, face à l’AI Slop, les plateformes adoptent une attitude ambigüe. Une étude réalisée par des chercheurs de Stanford et de Georgetown révèle que l’algorithme de Facebook favorise les contenus générés par l’Intelligence Artificielle (source : NPR). Meta, la maison mère de Facebook, ne s’en cache pas : Conner Hayes, l’un de ses dirigeants, affirme que la plateforme prévoit de créer davantage de profils IA (source : Financial Times).

7. Au-delà de la simple pollution numérique, l’AI Slop pourrait avoir des conséquences dramatiques sur les démocraties. En manipulant l’opinion publique à travers des contenus biaisés ou trompeurs, ces outils pourraient jouer un rôle majeur dans les prochaines échéances électorales. D’où l’importance cruciale de ne pas sous-estimer cette mutation des contenus en ligne ! 

La leçon à tirer

Il s’agit d’ouvrir l'œil, et le bon ! Damned…

Pour aller plus loin

• Meta is killing off its own AI-powered Instagram and Facebook profiles, The Guardian

• Where Facebook's AI Slop Comes From, 404 Media

• Emmanuel Macron et le Slop, Compte officiel X