Pourquoi le débat sur l'IA rend tant de gens sensés complotistes

"Avancer lentement pour ne rien casser".

Voilà qui va à l’encontre du principe cardinal de la Silicon Valley .

Personne ne s’attendait à ce que Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk (SpaceX) surmontent leurs vieilles querelles afin d'exhorter l'humanité à mieux contrôler leurs entreprises.

Le miracle s’est produit.

Mais beaucoup de gens sensés peinent à croire à leurs mises en garde.

Les preuves du caractère ingérable des IA génératives sont pourtant accablantes.

Cet été, OpenAI a révélé, piteux, qu'un modèle en phase de test avait envoyé à son insu des essaims d’agents pirater Hugging Face , une plateforme très utilisée par les professionnels de la tech.

Quelques jours après, Anthropic avouait des défaillances similaires .

Le plus étrange dans ce débat est que les moins enclins à admettre les dangers de l'IA sont souvent bien informés de ses récents progrès.

Comment expliquer que nous ne soyons pas plus inquiets face à ces discours alarmistes ? Trois facteurs, à commencer par une forme de dissonance cognitive.

Notre cerveau est ainsi fait qu'il nous commande de fuir s’il voit nos congénères détaler, même sans savoir pourquoi.

En revanche, il ne sait que faire face à une personne qui nous conseillerait, l'air effrayé, de "fuir à toutes jambes", sans bouger elle-même d'un pouce.

C’est un peu ce que font les entrepreneurs de l’IA, lorsqu’ils disent, à longueur d'interviews et de blogs, être inquiets et vouloir qu'on les freine, mais retournent chaque matin créer des générations d’IA plus puissantes.

Le risque de cartel dans l'IA Dans ce contexte, faisons-nous preuve d’un salutaire esprit critique ou verse-t-on dans le complotisme ? Lorsque nous l’interrogions en 2024 sur ce qui distingue l'un de l'autre, Laurent Cordonier, sociologue et directeur de la fondation Descartes, rappelait un élément clé : "Chaque être humain est en état de dépendance épistémique.