Stephen D Turner, de l'Université de Virginie, explore l'importance de la gouvernance et de la surveillance de l'IA dans la conception et l'exécution d'expériences en laboratoire.
L’intelligence artificielle apprend rapidement à concevoir et à mener de manière autonome des expériences biologiques, mais les systèmes destinés à régir ces capacités ont du mal à suivre le rythme.
La société d'IA OpenAI et la société de biotechnologie Ginkgo Bioworks ont annoncé en février 2026 que le modèle phare d'OpenAI, le GPT-5, avait conçu et géré de manière autonome 36 000 expériences biologiques. Il l'a fait grâce à un laboratoire cloud robotiqueune installation où des équipements automatisés contrôlés à distance par des ordinateurs réalisent des expériences. Le modèle d'IA proposait des plans d'étude, et des robots les exécutaient et renvoyaient les données au modèle pour le cycle suivant. Les humains ont fixé l’objectif et les machines ont effectué une grande partie du travail en laboratoire, réduisant de 40 % le coût de production d’une protéine souhaitée.
C'est biologie programmable: concevoir des composants biologiques sur un ordinateur et les construire dans le monde physique, avec l'IA bouclant la boucle.
Pendant des décennies, la biologie s'est principalement déplacée du observation pour comprendre. Les scientifiques ont séquencé les génomes des organismes pour cataloguer tout leur ADN et découvrir comment les gènes codent pour les protéines qui assurent les fonctions vitales. L'invention de des outils comme CRISPR a ensuite permis aux scientifiques de modifier cet ADN à des fins spécifiques, comme par exemple désactiver un gène lié à une maladie. L’IA accélère désormais une troisième phase, dans laquelle les ordinateurs peuvent à la fois concevoir des systèmes biologiques et les tester rapidement.
Le processus ressemble moins à un travail traditionnel en laboratoire et plus comme de l'ingénierie: concevoir, construire, tester, apprendre et répéter. Là où une expérience traditionnelle pourrait tester une seule hypothèse, la biologie programmable basée sur l’IA explore des milliers de variantes de conception en parallèle, répétant la façon dont un ingénieur affine un prototype.
En tant que data scientist qui étudie la génomique et la biosécuritéj'étudie comment l'IA remodèle la recherche biologique et quelles garanties cela exige. Les mesures et réglementations de sécurité actuelles n’ont pas suivi le rythme de ces capacités, et l’écart entre ce que l’IA peut faire en biologie et ce que les systèmes de gouvernance sont prêts à gérer se creuse.
Ce que l'IA rend possible
L’exemple le plus clair de la manière dont les chercheurs utilisent l’IA pour automatiser la recherche est la conception de protéines accélérée par l’IA.
Les protéines sont les machines moléculaires qui remplissent la plupart des fonctions dans les cellules vivantes. La conception de nouvelles protéines nécessite traditionnellement des années d'essais et d'erreurs, car même de petits changements dans la séquence d'une protéine peuvent modifier sa forme et sa fonction de manière imprévisible.
Modèles de langage protéiquequi sont des systèmes d'IA entraînés sur des millions de séquences de protéines naturelles, peuvent rapidement prédire comment les mutations modifieront le comportement ou le comportement d'une protéine. concevoir de nouvelles protéines. Ces modèles d'IA conçoivent nouveaux médicaments potentiels et accélérer le développement d’un vaccin.
Associé à des laboratoires automatisésces modèles créent des boucles étroites d’expérimentation et de révision, testant des milliers de variations en jours plutôt qu’en mois ou en années dont une équipe humaine aurait besoin.
Une ingénierie plus rapide des protéines pourrait signifier des réponses plus rapides aux infections émergentes et des médicaments moins chers.
Le problème du double usage
Les chercheurs ont exprimé leurs inquiétudes quant au risque d’utilisation abusive de ces mêmes outils d’IA, un défi connu sous le nom de problème de double usage: les technologies développées à des fins bénéfiques peuvent également être réutilisées pour causer du tort.
Par exemple, les chercheurs ont découvert que les modèles d’IA intégré aux laboratoires automatisés peut optimiser la propagation d'un virusmême sans formation spécialisée. Les scientifiques ont développé un outil de notation des risques pour évaluer comment l'IA pourrait modifier les capacités d'un virus, par exemple en modifiant les espèces qu'il infecte ou en l'aidant à échapper au système immunitaire.
Les modèles d'IA actuels sont capables de guider les utilisateurs à travers les étapes techniques de récupérer des virus vivants à partir d'ADN synthétique. Les chercheurs ont déterminé que l'IA pourrait réduire les obstacles à plusieurs étapes du processus de développement d'une arme biologique, et que la surveillance actuelle ne répond pas adéquatement ce risque.
Risque lié à la bioIA
Des scientifiques expérimentés sont déjà utiliser l'IA planifier et concevoir des expériences biologiques. La question de savoir si l’IA peut aider les personnes ayant une formation limitée en biologie à effectuer des travaux de laboratoire dangereux fait l’objet de recherches actives.
Deux études récentes sont parvenues à des conclusions différentes.
Une étude réalisée par la société d'IA Scale AI et l'organisation à but non lucratif de biosécurité SecureBio a révélé que lorsque des personnes ayant une expérience limitée en biologie avaient accès à de grands modèles de langage, qui est le type d'IA derrière des outils comme ChatGPT, elles étaient en mesure de effectuer des tâches liées à la biosécurité comme le dépannage de protocoles de laboratoire de virologie complexes avec une précision quatre fois supérieure. Dans certains domaines, ces novices ont surpassé les experts qualifiés. Environ 90 % de ces novices ont signalé peu de difficultés à faire en sorte que les modèles fournissent des informations biologiques à risque, telles que des instructions détaillées sur le travail avec des agents pathogènes dangereux, malgré les filtres de sécurité intégrés destinés à bloquer ces sorties.
En revanche, une étude menée par Active Site, une organisation de recherche à but non lucratif qui étudie l'utilisation de l'IA en biologie synthétique, a révélé que l'aide de l'IA n'entraînait pas de différences significatives dans la capacité des novices à compléter le programme. flux de travail complexe pour produire un virus dans un laboratoire de biosécurité. Cependant, le groupe assisté par l’IA a réussi plus souvent la plupart des tâches et a terminé certaines étapes plus rapidement, notamment lors de la croissance de cellules en laboratoire.
Le travail pratique en laboratoire constitue traditionnellement un goulot d'étranglement dans la traduction des conceptions en résultats. Même un plan d’étude brillant dépend toujours de mains humaines compétentes pour être exécuté. Cela pourrait ne pas durer, alors que les laboratoires cloud et l'automatisation robotique deviennent de plus en plus fréquents. moins cher et plus accessiblepermettant aux chercheurs d'envoyer des conceptions expérimentales générées par l'IA vers des installations distantes pour exécution.
Répondre aux risques biologiques liés à l’IA
Les systèmes d’IA sont désormais capables de mener des expériences de manière autonome et à grande échelle, mais les réglementations existantes n’ont pas été conçues pour cela. Les règles régissant la recherche biologique ne tiennent pas compte de l’automatisation basée sur l’IA, et les règles régissant l’IA ne traitent pas spécifiquement de son utilisation en biologie.
Aux États-Unis, l’administration Biden avait publié en 2023 un décret sur la sécurité de l’IA qui prévoyait dispositions en matière de biosécuritémais l’administration Trump l’a révoqué. Le dépistage de l’ADN synthétique fabriqué par les fournisseurs commerciaux pour garantir qu’il ne puisse pas être utilisé à mauvais escient pour fabriquer des agents pathogènes ou des toxines reste en grande partie volontaire. Un projet de loi bipartisan présenté en 2026 pour exiger un dépistage ADN ne traite pas encore des séquences conçues par l’IA qui échappent aux méthodes de détection actuelles.
Le 1975 Convention sur les armes biologiquesun traité international interdisant la production et l’utilisation d’armes biologiques, ne contient aucune disposition relative à l’IA. Le Royaume-Uni Institut de sécurité de l'IA et les États-Unis Commission de sécurité nationale sur les biotechnologies émergentes ont tous deux appelé à une action gouvernementale coordonnée.
Les évaluations de sécurité que les laboratoires d'IA effectuent avant de lancer de nouveaux modèles sont souvent opaque et inadapté pour capturer les risques du monde réel. Les chercheurs ont estimé que même des améliorations modestes dans la capacité d'un modèle d'IA à aider à planifier des expériences liées aux agents pathogènes pourraient se traduire par des milliers de morts supplémentaires dues au bioterrorisme par année. Délais pour lesquels ces capacités franchissent les seuils critiques reste flou.
L’Initiative sur la menace nucléaire a proposé un cadre d'accès géré pour les outils d’IA biologique, il s’agit de faire correspondre qui peut utiliser un outil donné au niveau de risque du modèle plutôt que de recourir à des restrictions générales. Le RAND Center on AI, Security and Technology a présenté un ensemble de les mesures que les chercheurs pourraient prendre pour améliorer la biosécurité, notamment en améliorant le contrôle de la synthèse de l'ADN et les évaluations des modèles avant leur libération. Les chercheurs ont également soutenu que les données biologiques elles-mêmes ont besoin d’une gouvernanceen particulier les données génomiques qui pourraient entraîner des modèles dotés de capacités dangereuses.
Certaines sociétés d’IA ont commencé volontairement à imposer leurs propres mesures de sécurité. Anthropique activé son niveau de sécurité le plus élevé lorsqu'il a sorti son modèle le plus avancé à la mi-2025. Au même moment, OpenAI a mis à jour son cadre de préparationen révisant les seuils de risque biologique qu'un modèle peut poser avant que des garanties supplémentaires ne soient nécessaires. Mais il s’agit de mesures volontaires et spécifiques à l’entreprise. Le PDG d'Anthropic, Dario Amodei, a écrit que le rythme du développement de l'IA pourrait bientôt dépasser la capacité d'une seule entreprise pour évaluer le risque d’un modèle donné.
Lorsqu’elle est utilisée dans un environnement bien contrôlé, l’IA peut aider les scientifiques à atteindre rapidement leurs objectifs de recherche. Que se passe-t-il lorsque les mêmes capacités fonctionnent en dehors de ces contrôles est une question à laquelle la politique n’a pas encore répondu. Si vous réagissez de manière excessive, les talents et les investissements pourraient se déplacer ailleurs alors que la technologie continue de progresser de toute façon. Si vous ne réagissez pas suffisamment, les risques de cette technologie pourraient être exploités pour causer de réels dommages.
Stephen D. Turner
Stephen D Turner est professeur agrégé de science des données et doyen adjoint pour la recherche à la School of Data Science de l'Université de Virginie. Il a travaillé sur les applications de la biosécurité dans le domaine de la sécurité nationale et écrit sur l'IA, la biosécurité et d'autres sujets.
