« L’IA ne sait pas ce que signifie assumer les conséquences de ses choix »

Dans Magnifica humanitas , Léon XIV formule une mise en garde qui mérite d’être prise au sérieux bien au-delà du monde catholique : l’intelligence artificielle ne doit pas être confondue avec l’intelligence humaine. Les systèmes peuvent traiter des données, produire des recommandations et dépasser l’homme en vitesse ou en puissance de calcul. Mais ils ne font pas l’expérience du monde, ne mûrissent pas dans la relation et ne connaissent pas de l’intérieur ce que signifie répondre d’une décision.

Cette distinction paraît philosophique. Elle est en réalité très concrète. Car le risque actuel n’est pas seulement que des machines prennent certaines décisions à notre place. Il est que nous conservions officiellement la responsabilité tout en laissant l’architecture de la décision se construire ailleurs.

Un médecin reste responsable d’un diagnostic, un recruteur d’une sélection, un cadre d’une recommandation, un agent public d’une décision administrative. Pourtant, si l’IA a déjà résumé le dossier, hiérarchisé les options, formulé l’argument et indiqué la conduite à suivre, que reste-t-il exactement de l’acte de décider ? Le geste final demeure humain, mais le chemin qui y conduit peut avoir été largement préstructuré par la machine.

C’est ici que Magnifica humanitas ouvre une question décisive. Léon XIV insiste sur le fait que les systèmes d’IA n’ont ni conscience morale ni expérience vécue de la responsabilité. Ils ne savent pas ce que signifie assumer les conséquences d’un choix. Dès lors, garder un humain « dans la boucle » ne suffit pas si cet humain ne dispose plus des conditions nécessaires pour exercer réellement son jugement.

La responsabilité n’est pas une signature apposée au terme d’un processus. Elle suppose de comprendre les raisons d’une décision, de pouvoir hésiter, confronter des interprétations, évaluer ce qui ne se laisse pas réduire à une règle et, surtout, pouvoir dire non.

Or l’IA intervient précisément de plus en plus tôt dans cette chaîne. Elle résume avant que nous ayons lu, recommande avant que nous ayons comparé, formule avant que nous ayons trouvé nos mots. Dans de nombreux usages, elle ne remplace pas seulement l’action finale ; elle occupe progressivement l’espace de délibération qui la précédait.

Le danger est alors moins spectaculaire qu’une décision entièrement automatisée. Il est plus diffus. Nous pouvons continuer à parler de responsabilité humaine alors même que les occasions d’exercer cette responsabilité se raréfient. Nous pouvons conserver l’autorité formelle tout en perdant peu à peu l’habitude, puis la capacité, d’interpréter et de contester.

Cette question est d’autant plus importante que le jugement humain ne tombe pas du ciel. Il se forme par l’exercice. On apprend à diagnostiquer en diagnostiquant, à décider en décidant, à écrire en écrivant, à répondre de ses actes en assumant progressivement des responsabilités réelles.