🔴 L’effet de la main brûlante et Clearview AI

Grosses difficultés de connexion depuis les îles bretonnes... donc retour sur un sujet pas tout à fait aussi sexy que son nom le laisse penser et une entreprise bien flippante. Qui a dit "dystopie" ?

L’effet de la main brûlante

1. L’effet de la main brûlante (ou erreur de la série gagnante) désigne notre tendance à croire qu’une série (courte et récente) de réussites est destinée à se poursuivre. Si nous réussissons une fois, deux fois, trois fois, dans une tâche donnée, nous pensons que nous continuerons “naturellement” à réussir… ce qui est le plus souvent faux.

2. Cet effet a été analysé dès 1985 par Amos Tversky, Thomas Gilovich et Robert Vallone, spécialistes en sciences comportementales, dans une étude portant sur des joueurs de basket-ball professionnels. Ils ont constaté que, après avoir marqué un panier, les joueurs n’enchaînaient généralement pas une série de paniers réussis mais revenaient à des performances “moyennes”, voire inférieures. Leur réussite était donc davantage une question de chance que de compétence pure.

3. Les erreurs d’appréciation liées aux “séries gagnantes" ne se limitent pas au sport. Bourse, jeu ou même activités quotidiennes, nous sommes victimes de l’effet de la main brûlante dès que nous prenons des décisions à partir de données récentes et limitées. En privilégiant le court terme, nous augmentons notre prise de risque. Prenons l’exemple de la bourse : une étude célèbre de Joseph Johnson montre que nous sommes plus enclins à acheter des actions après une série de hausses successives et à les vendre après une série de baisses successives. Cette tendance est contraire à une approche rationnelle d’investissement, puisque cela revient à acheter quand les prix sont hauts et à vendre quand les prix sont bas.

4. Des facteurs psychologiques expliquent ces erreurs d’interprétation :

• Le besoin de sens : nous, humains, avons du mal à admettre le pur hasard et avons besoin de donner du sens aux événements que nous vivons.

• L’illusion de compétence : nous avons tendance à attribuer notre réussite à nos compétences plutôt qu’au hasard.

Il nous est difficile d’admettre qu’une série peut être aléatoire et n’être que le fait du hasard. A partir des quelques données dont nous disposons, nous imaginons un lien de “cause à effet” qui pourtant n’existe pas.

5. Ce lien de “cause à effet” supposé nous fait ignorer deux notions fondamentales :

• L’indépendance statistique : le fait que des événements se soient déjà répétés n’augmente pas les chances qu’ils se répètent à l’avenir.

  • Exemple : si l’on joue trois fois à pile ou face, et que la pièce tombe trois fois de suite sur le côté pile, la probabilité que cette pièce tombe une quatrième fois sur le pile sera toujours de 50/50 (indépendance statistique).

• La régression vers la moyenne : après avoir été mesurée à un niveau extrême, une variable tend à se rapprocher des niveaux moyens à la mesure suivante.

  • Exemple : si l’on joue vingt fois à pile ou face, même si le pile est “sorti” les trois premières fois, il est probable que le pile sortira finalement environ une fois sur deux. La moyenne se rapprochera donc bien du 50/50.

6. L’effet de la main brûlante est hautement contagieux et peut toucher tout un ensemble de personnes, au risque de conduire à des phénomènes globaux tels que les bulles spéculatives.

7. Des études plus récentes (A. Bocskosky, J. Ezekowitz, C. Stein) ont cependant montré que, dans certains cas, une série successive de réussites pouvait résulter d’une confiance accrue du joueur. Tout ne serait donc pas forcément le fruit du hasard, la réussite pouvant renforcer la réussite. Ce qui n’est pas une raison pour ignorer délibérément les règles les plus élémentaires de la statistique.

La leçon à tirer

"Puisque ces mystères nous dépassent, feignons d'en être les organisateurs."

Jean Cocteau

Pour aller plus loin

• La vidéo : la “hot hand fallacy” expliquée par Selena Gomez et Richard Thaler (extrait de l’excellent film The Big Short)

• Tout savoir sur le pile ou face - Wikipedia

• Losers, Winners, and Biased Trades - J. Johnson, G. Tellis, J. Macinnis

• The Law of small numbers - Psychology IResearchNet

  ---

Clearview AI

1. Clearview AI est une entreprise américaine spécialisée dans la vente de base de données répertoriant des photos de visage, à des organisations policières qui peuvent ainsi utiliser la reconnaissance faciale pour identifier des suspects.

2. La démarche est assez simple, à la fois fascinante et effrayante :

• Les clients de Clearview AI soumettent une ou plusieurs photos des personnes qu’ils soupçonnent de faits criminels mais dont ils ignorent l’identité.

• Clearview AI compare ces documents avec les milliards de photos qu’il a recensées et détecte les correspondances éventuelles.

• Clearview AI transmet ensuite les liens Internet sur lesquels figurent les photos correspondantes.

Clearview AI a récupéré (”scrappé” en langage tech) toutes les photos que nous publions de plein gré sur les réseaux sociaux. De l’aveu même de son fondateur Hoan Ton-That, en mars 2023, Clearview AI possédait plus de 40 milliards de photos, soit en moyenne cinq images par habitant de notre planète. Merci les réseaux sociaux ! Et comme il devient rare de n’avoir pas publié de photos de son visage, des correspondances sont trouvées pour la quasi-totalité des requêtes. Assez simple en réalité mais encore fallait-il y penser… et ne pas s'embarrasser de scrupules.

3. Et c’est peu dire que ce ne sont pas les scrupules qui étouffent Clearview AI ! L’entreprise n’a pas hésité à fournir ses services à des sociétés privées. Toutefois, après avoir été poursuivie en 2020 par des défenseurs des Libertés civiles, l’entreprise ne travaille plus qu’avec des institutions publiques.

4. Côté résultat, et toujours selon Hoan Ton-That, Clearview AI se targue d’un taux de précision de plus de 99 %, ce qui aurait permis de résoudre de nombreux enquêtes, de la fraude fiscale au meurtre. Clearview AI aurait déjà répondu à plus d’un million de requêtes émanant de plus de 2 400 organisations de police aux Etats-Unis mais aussi au Brésil, au Mexique, au Panama et en République Dominicaine. Son système aurait même aidé à identifier des participants aux émeutes du Capitole en janvier 2021.

5. Mais c’est avec la guerre en Ukraine que cette entreprise prend une autre dimension. Clearview AI a récupéré plus de 2 milliards d’images provenant de réseaux sociaux russes comme VKontakte, le Facebook local. De source ukrainienne, environ 230 000 combattants russes auraient déjà été identifiés (nom, ville d’origine, profil sur les réseaux sociaux…). L’Ukraine se sert également de Clearview AI pour détecter les infiltrés, identifier des personnes décédées ou retrouver la trace d’enfants disparus qui pourraient se trouver en Russie.

“C’est encore bien mieux que l’ADN et les empreintes digitales que vous avez pour vos citoyens, puisque vous n’avez pas besoin d’accéder à la base de données de vos ennemis”. Hoan Ton-That

6. Soupçonnés d’accointances avec l’ultra-droite américaine, les dirigeants de Clearview AI jouissent d’une réputation assez sulfureuse. Ils opéraient dans le plus grand secret jusqu'à ce qu’une enquête du New York Times et de sa journaliste Kashmir Hill dévoile leurs pratiques et leur identité en 2020. Clearview AI compte parmi ses investisseurs Peter Thiel, une figure controversée de la Silicon Valley, à la fois admiré pour ses succès à répétition (co-fondateur de PayPal et de Palantir, premier investisseur de Facebook…) et décrié pour ses prises de position libertaires radicales.

7. Alors que Chat GPT et l’Intelligence Artificielle générative monopolisent l’attention médiatique, d’autres pans de l'IA, dont la reconnaissance faciale, progressent à grand pas avec des technologies bien moins coûteuses. Clearview AI démontre qu’Il faut très peu de données pour reconnaître un visage avec précision. Les enjeux sociétaux ne sont pas moindres, à commencer par la protection de l’un de nos biens le plus précieux : notre identité.

La leçon à tirer

Avant de se demander si l’IA va supprimer nos emplois, ne faudrait-il pas commencer par se soucier de ce que deviennent les photos que nous publions de notre plein gré sur les réseaux sociaux ?

Pour aller plus loin

• Le livre : Your face belongs to us, Kashmir Hill

• Le podcast : Clearview AI and the end of privacy, with Kashmir Hill, The Verge

• Ukraine’s ‘Secret Weapon’ Against Russia Is a Controversial U.S. Tech Company, Time

• Beyoncé's Cardiff gig crowd was scanned for paedophiles, BBC News

• La reconnaissance faciale - 7about.fr