IAgora?: Armas biológicas e 'guerra' contra China: o que Claude revelou em relatório

*Segundo a empresa, houve tentativas de usar o Claude em sete frentes de dano: ataques cibernéticos, operações de influência (propaganda), vigilância, golpes e fraudes, uso biológico, desenvolvimento de armas convencionais e "destilação" (quando alguém tenta extrair conhecimento de um modelo para treinar outro).

Abaixo alguns itens que a Anthropic destacou que barrou:

• Cinco casos de cientistas que usaram seus modelos em pesquisas biológicas. Segundo a empresa, os pesquisadores contornaram proteções de acesso por região e ocultaram o objetivo de parte do trabalho.
• Um pesquisador usou o Claude em um pedido de financiamento estatal para estudar o vírus chikungunya. A companhia afirma que o estudo sobre chikungunya gerou preocupação por estar previsto para ser realizado em um instituto de pesquisa militar e disse ao New York Times que esse tipo de pesquisa pode contribuir para vacinas, mas também pode ser aplicado na criação de armas biológicas.
• Casos de governos e grupos ligados a Estados usando o Claude para vigilância e monitoramento de pessoas, incluindo dissidentes e comunidades da diáspora, além de tentativas de automatizar rotinas de inteligência.
• Uso do Claude para criar ou apoiar softwares ligados ao projeto e à fabricação de armas convencionais, como armas de fogo, mísseis, drones armados e bombas.
• Operações de espionagem, assim como ataques cibernéticos rápidos e campanhas de propaganda - entre os países citados estão Rússia, Malásia, Irã e Bangladesh.
• Grupos também usaram o Claude em programas de vigilância ligados à China. Um dos casos citados envolveu o monitoramento de uigures na Síria, enquanto outro teve como alvo dissidentes internos.
• Em "destilação", a Anthropic afirma ter detectado e atribuído com alta confiança campanhas não autorizadas a laboratórios baseados na China, citando Alibaba, Moonshot AI, DeepSeek, Zhipu e Xiaomi, com foco em capacidades valiosas do Claude (como uso de ferramentas, programação, análise de dados e raciocínio).

IAgora?

O relatório da Anthropic é um retrato de como a IA deixou de ser apenas um chatbot e virou uma espécie de motor de produtividade para atividades que a sociedade tenta manter sob controle - de golpes a vigilância estatal. O ponto mais delicado não é a existência de gente tentando burlar regras (isso sempre existiu), mas a escala: quando um modelo ajuda a fazer em minutos o que antes exigia equipes e tempo, o custo de "tentar o mal" cai, e a quantidade de tentativas tende a explodir.

O trecho sobre possível uso em pesquisa ligada a armas biológicas expõe um dilema sem solução perfeita: a mesma pergunta que pode acelerar uma vacina pode, em outro contexto, ajudar a criar um patógeno perigoso. Na prática, isso empurra empresas como a Anthropic para um papel quase de "porteiro do conhecimento" - decidindo, com informação incompleta, o que é ciência e o que é ameaça.

Neste caso, há uma dicotomia clara e sem solução enquanto não houver regulamentação sobre IAs: é um poder grande demais para ficar só na mão de uma empresa, mas também é um problema grande demais para fingir que não existe.

A "guerra contra a China" foi escancarada com as acusações de destilação contra gigantes de IA do país asiático, concorrentes da Anthropic. Os Estados Unidos já sinalizaram com um possível banimento de IAs chinesas de pesos abertos, que têm sido cada vez mais incorporadas até por empresas norte-americanas que buscam reduzir custos com IA.

A pulga atrás da orelha que esse relatório traz é: e o que a Anthropic não conseguiu barrar? O relatório traz ameaças que foram paralisadas pelas amarras criadas dentro do Claude, mas não sabemos o que escapou dessas amarras - e esse questionamento causa grave incômodo em um momento em que até cientistas da empresa admitem uma chance de mais de 10% da humanidade inteira ser morta por IA nos próximos 10 anos.

Reportagem

Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.