Durante anos, o temor de que uma inteligência artificial pudesse ajudar alguém a desenvolver uma arma biológica permaneceu principalmente no campo das hipóteses. Agora, a Anthropic revelou situações reais que mostram como essa fronteira está ficando mais difícil de controlar. Cientistas utilizaram modelos Claude em pesquisas envolvendo vírus, toxinas e outros trabalhos de uso duplo. A empresa não afirma que essas pessoas estavam necessariamente tentando criar armas, mas considerou alguns casos preocupantes o suficiente para bloquear contas e reforçar suas defesas.
A Anthropic encontrou cinco casos que acenderam o alerta
As revelações fazem parte do novo relatório de inteligência de ameaças da Anthropic, publicado em setembro de 2026.
A companhia analisou operações detectadas entre dezembro de 2025 e agosto de 2026 e encontrou tentativas de utilizar Claude em diferentes atividades potencialmente perigosas, incluindo ataques cibernéticos, vigilância, fraudes, desenvolvimento de armamentos convencionais e pesquisas biológicas.
Na área biológica, foram documentados cinco estudos de caso.
É importante fazer uma distinção: a Anthropic não afirma ter descoberto cinco pessoas tentando deliberadamente construir armas biológicas.
O problema é mais complicado.
Pesquisas em biologia podem ter uso duplo. Uma técnica capaz de ajudar cientistas a compreender um vírus e desenvolver uma vacina também pode, em determinadas circunstâncias, contribuir para tornar um patógeno mais perigoso.
É justamente essa zona cinzenta que começou a preocupar a empresa.
Um dos casos envolvia um vírus bastante conhecido no Brasil
Um dos episódios mais delicados ocorreu em maio de 2026.
Os sistemas de segurança da Anthropic bloquearam uma solicitação para utilizar Claude na preparação de um pedido de financiamento científico.
A pesquisa envolvia o vírus da chikungunya, transmitido principalmente por mosquitos e conhecido por provocar febre e fortes dores articulares.
Segundo a Anthropic, o projeto analisado envolvia pesquisa de ganho de função relacionada a características como transmissibilidade e evasão imunológica do vírus.
O contexto aumentou a preocupação.
Embora os documentos indicassem participação de pesquisadores civis, o trabalho seria realizado em um instituto de pesquisa militar.
A Anthropic investigou o caso e identificou uma plataforma intermediária utilizada por dezenas de pesquisadores da área de ciências biológicas, alguns associados a instituições civis e militares.
As contas relacionadas à atividade foram bloqueadas.
Outro pesquisador passou semanas usando Claude para estudar gripe aviária
O segundo caso torna a história ainda mais inquietante.
Também em maio, a empresa identificou um pesquisador localizado em uma região onde os serviços da Anthropic não são oficialmente oferecidos.
Essa pessoa utilizou infraestrutura intermediária para acessar Claude e trabalhou durante semanas em pesquisas envolvendo gripe aviária altamente patogênica.
O projeto analisava adaptações do vírus a mamíferos e mecanismos associados à gravidade da doença.
Os sistemas de segurança impediram que os modelos mais avançados ajudassem diretamente em determinadas tarefas consideradas de alto risco.
Como consequência, o pesquisador acabou utilizando modelos mais fracos.
Segundo a própria Anthropic, a contribuição fornecida pela IA ficou principalmente limitada a tarefas como análise de dados, organização de ideias e planejamento experimental.
Ainda assim, o episódio revelou algo importante: pesquisadores envolvidos em trabalhos biologicamente sensíveis já estão tentando contornar restrições geográficas e mecanismos de segurança para acessar modelos avançados.
O maior problema é descobrir a intenção de quem está fazendo a pergunta
Bloquear alguém que pergunta diretamente como fabricar uma arma é relativamente simples.
O verdadeiro desafio aparece quando a mesma informação possui aplicações legítimas.
Imagine um pesquisador tentando modificar uma proteína.
Ele pode estar procurando uma nova terapia.
Mas técnicas semelhantes também poderiam ser usadas para aumentar a toxicidade de determinados compostos.
Para um sistema automatizado de segurança, separar essas intenções pode ser extremamente difícil.
A Anthropic reconhece exatamente esse problema. Seus filtros funcionaram de maneira robusta nos casos em que as solicitações estavam claramente relacionadas a pesquisas biológicas de alto risco, mas outros trabalhos de uso duplo passaram pelos mecanismos existentes.
Por isso, a empresa acredita que filtros baseados apenas no conteúdo da conversa podem não ser suficientes.
A identidade do pesquisador, sua instituição e o contexto do trabalho também podem se tornar relevantes.
A empresa não diz que Claude criou uma arma biológica
Esse detalhe é fundamental.
Não existe evidência apresentada pela Anthropic de que Claude tenha sido responsável pela criação de uma arma biológica funcional.
A empresa também não concluiu que todos os pesquisadores envolvidos possuíam intenção maliciosa.
Na verdade, ela afirma que os casos não demonstram que uma ameaça biológica impulsionada por Claude seja iminente.
O alerta está em outro lugar.
Modelos de IA estão se tornando cada vez melhores em tarefas científicas complexas. Isso significa que uma ferramenta capaz de acelerar descobertas médicas também pode oferecer assistência mais relevante em pesquisas perigosas.
Modelos antigos da Anthropic estavam, segundo avaliações da própria empresa, abaixo do nível necessário para fornecer ajuda significativa a especialistas em trabalhos biológicos avançados.
Com os modelos atuais, a companhia afirma já não conseguir oferecer a mesma garantia.
Claude também apareceu em projetos envolvendo armas convencionais
O relatório não ficou limitado à biologia.
A Anthropic afirma ter encontrado usuários tentando empregar Claude para desenvolver software relacionado a mísseis, drones armados, bombas e sistemas de controle e direcionamento de armamentos.
Em um dos episódios, atores trabalharam no software de orientação de um foguete e chegaram a realizar um teste real.
O teste aparentemente falhou.
Poucas horas depois, os envolvidos voltaram ao Claude tentando descobrir o que havia dado errado.
A empresa afirma ter bloqueado contas relacionadas às operações identificadas e compartilhado informações com parceiros públicos e privados quando apropriado.
Também implementou novos classificadores para detectar solicitações relacionadas ao desenvolvimento de armamentos e explosivos.
Quanto mais inteligente fica a IA, mais difícil se torna proteger o lado útil
Existe um paradoxo no centro dessa história.
A mesma inteligência artificial que pode ajudar cientistas a encontrar novos medicamentos também pode facilitar pesquisas biologicamente perigosas.
Se as empresas bloquearem praticamente tudo, podem impedir avanços científicos legítimos.
Se permitirem demais, podem fornecer capacidades avançadas para usuários mal-intencionados.
A Anthropic considera que sistemas futuros talvez precisem combinar filtros técnicos com mecanismos para verificar quem está utilizando capacidades científicas especialmente poderosas.
É uma mudança importante na discussão sobre segurança da IA.
Durante muito tempo, a pergunta era hipotética: um modelo poderia algum dia ajudar alguém a desenvolver algo realmente perigoso?
Os casos divulgados agora não provam que uma IA tenha criado uma arma biológica.
Mas mostram que algumas pessoas já estão tentando utilizar esses sistemas em pesquisas que chegam perigosamente perto dessa fronteira.
E, à medida que os modelos ficam melhores, descobrir quem está do outro lado da tela pode se tornar tão importante quanto controlar aquilo que a inteligência artificial sabe responder.
[Fonte: marca]
