Le roi Charles III appelle les leaders de l’IA à protéger l’humanité lors d’un sommet historique

À contrario de Donald Trump, le roi Charles III croit en un déraillement de l'IA, et appelle Nvidia, Google DeepMind, OpenAI, and Anthropic à conserver un contrôle humain sur leurs outils.

Le roi Charles III accueille ce jeudi une réunion privée à Dumfries House, son domaine situé dans l'Ayrshire et siège de la King’s Foundation. Des dirigeants de plusieurs entreprises du secteur de l'intelligence artificielle, notamment Nvidia, Google DeepMind, OpenAI et Anthropic, ont été invités à y participer.

L'événement est organisé conjointement par la Fondation Ditchley, le King’s Trust, la King’s Foundation et la Sustainable Markets Initiative. Selon des informations rapportées la semaine dernière par Politico, environ 30 personnes issues de l'industrie prennent part à cette rencontre, qui ne dispose d'aucun ordre du jour public.

D'après des extraits de son discours d'ouverture communiqués par le palais de Buckingham et cités par Reuters , le souverain britannique entend rappeler aux responsables présents que la technologie doit rester « fermement au service de l'humanité, de la communauté et du monde naturel » .

« Les décisions prises en cette période formative façonneront le monde dont hériteront les générations futures » , doit déclarer le roi dans son allocution. Selon le média Hello! , il décrira le développement de l'IA comme étant « tout aussi intrigant que profondément préoccupant » , ajoutant que les personnes soucieuses de la dimension morale de l'humanité « cherchent anxieusement à être rassurées sur le fait que nous ne perdrons pas le contrôle de notre destin » .

Parmi les invités attendus figurent le directeur général de NVIDIA, Jensen Huang , le cofondateur de Google DeepMind, Demis Hassabis, la directrice financière d'OpenAI, Sarah Friar, le ministre britannique de l'IA, Kanishka Narayan, ainsi que des représentants d'Anthropic. Paolo Benanti, conseiller du pape Léon XIV ayant invité les gouvernements à ralentir le développement de l'IA, doit également assister aux discussions.

Le palais de Buckingham a précisé que les échanges visent à examiner si des principes partagés peuvent guider l'utilisation de l'IA, non seulement comme un moyen d'améliorer les capacités et l'efficacité, mais comme un outil respectant la dignité humaine et favorisant le bien-être des populations et de la planète. Un responsable royal a indiqué que le rôle du roi consiste à réunir les acteurs et à encourager le dialogue, et non à exprimer ses propres opinions.

Cette rencontre se tient alors que l'industrie débat du rythme auquel elle doit progresser. Dario Amodei, directeur général d'Anthropic, a demandé aux entreprises de ralentir leurs travaux sur l'IA avancée , et deux chercheurs de cette même société ont averti que la technologie pourrait menacer la survie humaine .