Des armes biologiques bientôt conçues par l'IA? Face à ses progrès spectaculaires dans la génétique, le Royaume-Uni veut renforcer les contrôles

Le développement de l’intelligence artificielle dans la conception d’ADN synthétique inquiète les autorités. Londres envisage de renforcer les contrôles sur la synthèse génétique afin de limiter les risques de détournement à des fins malveillantes, notamment pour la création d’armes biologiques. Les armes biologiques pourraient-elles bientôt être conçues grâce à l’intelligence artificielle ? Avec les progrès récents de l’IA dans la conception et la modification de séquences génétiques, les gouvernements commencent à s’inquiéter des risques de détournement de ces technologies. C’est notamment le cas à Londres. Le gouvernement britannique envisage ainsi de renforcer la réglementation de l’IA appliquée à la synthèse génétique, alors que les autorités craignent que l’absence de garde-fous internationaux ne facilite à terme l’utilisation de ces technologies à des fins malveillantes, notamment pour concevoir des armes biologiques.

Selon Bloomberg , les ministres britanniques étudient plusieurs pistes pour empêcher des terroristes, des individus mal intentionnés ou des chercheurs imprudents d’utiliser l’IA pour concevoir de l’ADN synthétique potentiellement dangereux. Parmi les options envisagées figure une évolution de la législation sur les armes biologiques, avec la mise en place d’un contrôle plus efficace de la synthèse génétique. Les laboratoires pourraient ainsi être obligés de vérifier l’identité et la légitimité de leurs clients et de signaler aux autorités toute demande jugée suspecte.

Le gouvernement réfléchit également à la manière d’encadrer les collaborations entre les entreprises d’IA et les universités disposant de vastes bases de données génomiques. Mais une réglementation limitée au Royaume-Uni risque d’être insuffisante face à une menace mondiale : les autorités soulignent donc la nécessité d’une coordination internationale entre les principaux acteurs de la synthèse génétique.

Ces derniers mois, plusieurs scientifiques et entreprises spécialisées dans l’IA ont alerté sur les risques liés à l’utilisation de ces technologies dans le domaine biologique. En juin, Dario Amodei, le patron d’Anthropic, appelait notamment à imposer des tests indépendants sur les modèles d’IA afin d’évaluer leurs risques, notamment en matière d’armes biologiques.

En mai, le New York Times révélait que certains systèmes d’IA avaient été capables de fournir à des chercheurs des indications sur la fabrication d’armes biologiques, allant jusqu’à expliquer comment se procurer du matériel génétique et contourner certains dispositifs de détection. Plus récemment, des scientifiques ont également utilisé l’IA pour concevoir de nouveaux types de virus. Des avancées qui pourraient favoriser d’importants progrès médicaux, mais qui soulèvent aussi de sérieuses questions de biosécurité.

Le Royaume-Uni cherche désormais à renforcer ses garde-fous. Le pays a créé dès 2023 un Institut de sécurité de l’IA chargé de tester les modèles les plus avancés.