Biologia com IA precisa ter segurança incorporada, dizem pesquisadores
A inteligência artificial generativa está cada vez mais apta a fazer mais do que analisar dados biológicos. Ela pode projetar sequências de DNA, RNA e proteínas, capacidades que podem apoiar a descoberta de medicamentos e novas terapias, mas também criar oportunidades para uso indevido. Uma equipe de pesquisa liderada pelo University Medical Center Mainz pede que medidas de segurança sejam incorporadas a esses sistemas desde o início.
As recomendações da equipe aparecem na Nature Communications, em um artigo intitulado Uma estratégia de defesa em profundidade para proteger o projeto de sequências biológicas orientado por IA. A abordagem proposta trata a segurança como um problema técnico e organizacional em camadas, e não como algo que possa ser resolvido com uma única proteção.
Capacidades de projeto trazem riscos de uso duplo
Sistemas de projeto de sequências biológicas podem gerar resultados relacionados a proteínas e genomas virais. Isso os torna potencialmente valiosos para a medicina e a biotecnologia, inclusive em esforços para desenvolver medicamentos e terapias. Mas a mesma capacidade de gerar projetos biológicos pode ter uso duplo: ferramentas destinadas a pesquisas benéficas poderiam ser direcionadas a fins prejudiciais.

Os pesquisadores apontam riscos que incluem a criação de novas pandemias ou de patógenos que afetem plantações. A preocupação não é que todo sistema de IA biológica cause esses resultados, mas que a rápida expansão das capacidades de projeto exija mecanismos de proteção calibrados para a possibilidade de uso indevido.
Um modelo de defesa em profundidade
A resposta proposta é uma arquitetura de segurança em várias camadas —ou de defesa em profundidade—. Nesse modelo, não se espera que um único controle assuma toda a responsabilidade. Em vez disso, as medidas de segurança abrangeriam a cadeia de processos, começando pelos dados de treinamento e avançando até o desenvolvimento e o uso de modelos de IA para projetos biológicos.
Essa perspectiva é importante porque os sistemas de IA biológica envolvem mais do que uma sequência final gerada. A seleção de dados, a construção do modelo, o acesso dos usuários e o tratamento posterior podem influenciar o risco. Uma abordagem em camadas busca reduzir a dependência de qualquer ponto único de falha e tornar a segurança parte do projeto do sistema, e não uma medida posterior.
Uma proposta interdisciplinar
As recomendações surgiram de um workshop de ideias de três dias realizado em novembro de 2025 pela Wübben Stiftung Wissenschaft. Vinte especialistas em biologia molecular, IA, bioinformática, ética, medicina e política participaram do desenvolvimento de estratégias para o uso responsável da IA generativa na biologia.

O autor principal, Dr. Maximilian Sprang, pesquisador do University Medical Center Mainz e líder de grupo do Institute for Quantitative and Computational Biosciences da Johannes Gutenberg University Mainz, descreveu o desafio subjacente como o gerenciamento de riscos de uso duplo enquanto se preserva a inovação benéfica.
Por que a proposta importa
A pesquisa não descreve uma proibição da IA na biologia. Em vez disso, defende salvaguardas compatíveis com a crescente capacidade da tecnologia de criar sequências biológicas. Essa distinção é importante: os mesmos avanços que podem acelerar a pesquisa biomédica podem exigir um planejamento de segurança mais deliberado.
À medida que a IA se integra mais profundamente aos fluxos de trabalho das ciências da vida, questões sobre como os modelos são treinados, acessados e governados se tornarão problemas práticos de engenharia e política. A recomendação central da equipe liderada por Mainz é direta: a segurança deve ser integrada cedo e repetidamente em todo o fluxo de IA biológica, e não adicionada apenas quando o sistema já for capaz de produzir projetos sensíveis.
Este artigo é baseado em uma reportagem da Medical Xpress. Leia o artigo original.
Originally published on medicalxpress.com






