Paolo Benanti, le "Monsieur IA" qui chuchote à l'oreille du pape Leon XIV

Souvent, ses conférences débutent par une histoire de fin du monde.

Un Armageddon numérique, où des agents IA (pour intelligence artificielle), duplices et rebelles, trahissent leurs concepteurs.

Ce 7 septembre, à l’Ecole normale supérieure*, Paolo Benanti raconte comment la licorne américaine Hugging Face a subi, en juillet, pour la première fois dans l'histoire, l'offensive d’une IA qui a réussi à échapper à la vigilance humaine.

"70 000 attaques simultanées, s’exclame-t-il.

J’étais alors à Seattle, j’ai parlé avec les ingénieurs qui ont subi le piratage.

Ils avaient ordonné à d’autres machines de contrer l’intrusion, mais celles-ci ont refusé, de peur que les hommes apprennent à reproduire l'attaque !" Remous dans la salle, alors même que les inquiétudes sur les dangers potentiels de l’IA prennent partout de l’ampleur.

Paolo Benanti savoure son effet, mais ne comptez pas sur ce moine franciscain, souvent décrit comme le "Monsieur IA" du pape, pour en être le contempteur.

"Il ne s’agit pas de la combattre, ni de s’y soumettre, mais de composer avec elle, nous dit-il après la conférence.

Et c’est bien ce message que Léon XIV nous transmet dans son Magnifica Humanitas ." Publiée le 25 mai, cette encyclique, dont Benanti a été l’une des plumes, doit être utilisée comme une "grammaire" pour nous aider à répondre à cette question : "comment coexister pacifiquement avec cette nouvelle forme de pouvoir, tout en préservant les valeurs qui fondent notre existence ?" Ce texte est le fruit d’un long cheminement, qui a démarré, dit-il, "en 1891, lorsque le pape Léon XIII dénonçait la misère sociale, en pleine révolution industrielle.

Mais il ne servait à rien d’accabler les machines, pas plus qu’il ne faut stigmatiser les algorithmes aujourd'hui.

Le vrai sujet, c’est : qu’est-ce qu’être humain dans une société automatisée ?" Instaurer des garde-fous S’il n’apporte pas de solution ("je suis un éthicien, j’ai le privilège de poser les questions et de m’éclipser avant de donner une réponse", esquive cet ingénieur de 53 ans, qui a fait une thèse de théologie sur les cyborgs), Paolo Benanti, qui aurait ses entrées chez les grands acteurs américains de l’IA, s’est donné une mission : porter le message papal dans les colloques et sur les plateaux télé.

Son credo : il faut instaurer des garde-fous.

"Ce n'est pas l'intelligence artificielle qui m'inquiète, c'est la stupidité naturelle de l’être humain, capable de s'en servir pour se mettre en danger." Sans doute a-t-il soulevé la récente saillie de Donald Trump : prenant à contre-pied certains dirigeants du secteur qui prônent une réglementation, le président américain a fustigé le "complot MALADE en cours contre l’IA".