Des PDG des grandes entreprises d’IA, dont Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) et Mustafa Suleyman (Microsoft AI), ont cosigné une lettre ouverte appelant le Congrès américain à adopter une loi obligeant les entreprises de synthèse d’ADN et d’ARN à vérifier l’identité de leurs clients et le contenu de leurs commandes, afin d’empêcher que du matériel génétique ne soit utilisé pour développer des armes biologiques. La lettre, lancée par le groupe non partisan Institute for Progress et le think tank conservateur Foundation for American Innovation, a également recueilli le soutien de microbiologistes de l’Université de Stanford, de dirigeants d’entreprises de synthèse génique comme Twist Bioscience et Ansa Biotechnologies, ainsi que de plusieurs experts en sécurité nationale. La lettre met en garde : avec l’itération rapide de l’IA, « il est désormais plausible que les barrières historiques empêchant les acteurs malveillants d’accéder aux armes biologiques s’effondrent considérablement » — les outils d’IA peuvent non seulement aider les utilisateurs à localiser des fournisseurs n’effectuant pas de vérifications, mais aussi suggérer comment modifier une commande pour contourner les contrôles existants.
Le problème des vérifications dans le secteur de la synthèse d’ADN n’est pas nouveau, mais l’IA abaisse considérablement la barrière technique. En 2017, des chercheurs canadiens ont reconstitué le virus éteint de la variole du cheval pour environ 100 000 $ via de l’ADN commandé par correspondance, provoquant des mises en garde sur la possibilité de synthétiser le virus de la variole humaine, très apparenté ; le coût de la synthèse génique a depuis fortement chuté. Des chercheurs de Microsoft ont publié l’année dernière une étude montrant que des séquences génétiques dangereuses conçues par un outil d’IA de conception de protéines pouvaient contourner les principaux logiciels de vérification. Actuellement, les directives de l’administration Biden exigent déjà que les institutions bénéficiant de fonds fédéraux achètent des gènes de synthèse uniquement auprès de fournisseurs pratiquant la vérification. Le Sénat américain examine actuellement un projet de loi bipartisan (loi Cotton-Klobuchar) qui, s’il est adopté, imposerait à tous les fournisseurs de gènes de synthèse opérant aux États-Unis de vérifier obligatoirement leurs commandes et leurs clients.