Pediram ao Claude para desenvolver armas biológicas, sistemas de vigilância e até mísseis

A empresa de inteligência artificial Anthropic afirmou esta quinta-feira que bloqueou tentativas maliciosas de utilizar os seus modelos para ciberataques, vigilância e investigação que poderia ter conduzido ao desenvolvimento de armas biológicas.

À medida que os modelos de IA se tornam mais poderosos, ataques cibernéticos complexos já não exigem competências altamente sofisticadas, e até indivíduos isolados podem criar ameaças que não seriam possíveis há apenas um ano, afirmou a Anthropic no relatório sobre o uso indevido de inteligência artificial. A empresa disse também que reforçou as salvaguardas nos seus modelos mais recentes para restringir pesquisas biológicas que possam ser usadas para criar armas.

“Os casos que partilhamos aqui não representam a utilização indevida típica, mas sim exemplos das atividades de ameaça mais notáveis e inovadoras que identificámos até ao momento”, lê-se no documento agora partilhado e que inclui excertos das instruções enviadas aos modelos de inteligência artificial por utilizadores que pretendiam aprender sobre criação de armas biológicas.

“Estamos a publicar este trabalho porque acreditamos ter a responsabilidade de divulgar utilizações maliciosas dos nossos serviços. À medida que os modelos se tornam cada vez mais capazes, os seus riscos aumentarão, a menos que os desenvolvedores de IA e os defensores da sociedade atuem para os tornar mais seguros”, declarou a empresa. Este tem sido um tema bastante discutido na última semana: o uso indevido da IA e os perigos que isso representa para a humanidade, depois de um antigo funcionário da Anthropic e da OpenAI (criadora do ChatGPT) ter alertado para os perigos desta tecnologia. 

 O extenso relatório da startup de IA, que planeia realizar uma oferta pública inicial (IPO) neste outono, foi publicado dois dias depois desse mesmo investigador anunciar a sua demissão devido a preocupações de que a Anthropic e os seus concorrentes não estejam a agir de forma responsável no desenvolvimento da IA. O investigador ecoou preocupações levantadas dentro e fora da indústria sobre o potencial desta tecnologia para escapar ao controlo humano. Mesmo perante esta IPO, a empresa não tentou desmentir o seu ex-funcionário. Evan Hubinger, um dos diretores da Anthropic, afirmou que existe potencial real de a IA prejudicar a humanidade e até que existe uma probabilidade de 1 em 10 de a IA poder levar à extinção humana. E assumiu que a empresa está a tentar, mas ainda não tem um plano de contigência para essa situação.

Pediram ao Claude que ajudasse a a tornar um vírus mais perigoso

Entre dezembro de 2025 e agosto de 2026, investigadores da Anthropic identificaram utilizações indevidas dos seus modelos por diversos agentes, desde fornecedores de software espião e indivíduos motivados politicamente até grupos apoiados por Estados que disseminavam propaganda.

Entre as conclusões do relatório estão tentativas de atores não identificados de utilizar os modelos da empresa para investigação que poderia contribuir para o desenvolvimento de armas biológicas. Num dos casos, a Anthropic afirmou que os seus sistemas bloquearam um pedido para que o Claude ajudasse a redigir uma candidatura a financiamento científico.

“O trabalho descrito na candidatura envolvia investigação de ganho de função (ou seja, investigação que altera geneticamente um organismo para criar uma característica biológica nova ou melhorada) sobre o vírus chikungunya. Esta investigação de ganho de função tinha como objetivo aumentar a transmissibilidade do vírus e a sua capacidade de escapar ao sistema imunitário”, refere o relatório.

A chikungunya é uma doença viral transmitida por mosquitos que provoca sintomas debilitantes, como dores intensas e febre. O pedido estava relacionado com uma proposta de investigação destinada a potenciar mutações que tornariam o vírus progressivamente mais perigoso.

Embora esse tipo de investigação possa ser utilizado para desenvolver melhores vacinas e tratamentos, segundo a Anthropic, também pode ser usado para tornar o agente patogénico mais perigoso.

A Anthropic afirma que não pode garantir que os seus modelos não causam danos

Nenhum dos casos apresentados no relatório envolvia os modelos mais recentes e mais poderosos da empresa, como os modelos da classe Claude Fable ou Mythos, com exceção de um caso de destilação ilícita, descrito pela Anthropic como:

“Uma campanha clandestina e em escala industrial destinada a extrair as capacidades de um modelo e replicá-las noutro modelo sem autorização.”

Segundo a empresa, os seus modelos mais antigos, como o Claude Opus 4 e o Claude Sonnet 4.5, lançados em 2025, estavam muito abaixo do nível em que poderiam ajudar significativamente um utilizador sofisticado a realizar investigações biológicas perigosas.

“Como resultado, as salvaguardas desses modelos eram menos rigorosas, focando-se sobretudo em impedir o acesso a conteúdos que pudessem ajudar principiantes a recriar armas biológicas conhecidas”, afirma o relatório. “Mas, nos modelos atuais, capazes de auxiliar numa ampla gama de tarefas complexas de investigação científica, as evidências já não são tão claras e não podemos oferecer a mesma garantia.”

Por essa razão, a Anthropic aplicou “salvaguardas mais robustas que restringem o acesso a uma ampla variedade de consultas relacionadas com investigação biológica de dupla utilização” nos seus modelos mais recentes, como o Claude Fable 5, segundo o relatório.

À medida que as empresas introduzem modelos de IA cada vez mais poderosos, especialistas têm apelado aos governos para regularem esta tecnologia, em vez de dependerem da autorregulação da indústria.

John Thickstun, professor assistente de Ciência da Computação na Universidade Cornell, afirmou que coloca empresas como a Anthropic e a OpenAI numa posição desconfortável terem de decidir o que constitui comportamento seguro ou inseguro e de fazer “julgamentos de valor à escala da sociedade sem qualquer tipo de supervisão democrática ou deliberativa”.

Relatório surge após alerta grave de um investigador

A Anthropic também identificou grupos que criaram centenas de contas em redes sociais que aparentavam pertencer a pessoas comuns e que depois publicaram conteúdos promovendo a mesma visão política ao longo de uma semana.

A empresa descreveu nove casos desse tipo, originários da Rússia, Irão, Turquia, região do Golfo Pérsico, Sul da Ásia, África e Europa.

Embora as plataformas de redes sociais consigam detetar operações de influência depois de os conteúdos começarem a circular, a Anthropic observou que:

“Podemos vê-las no Claude quando a operação ainda está a ser construída.”

A empresa divulgou este relatório depois de um dos seus investigadores, Jacob Coxon, anunciar a sua demissão por recear que a Anthropic e a sua principal rival, OpenAI, estejam “a correr diretamente em direção a uma superinteligência autoaperfeiçoável e a apostar com as nossas vidas”.

Na sua publicação, Coxon alertou que alguns dos seus colegas acreditam atualmente que a IA poderá ameaçar a vida humana até ao final desta década.

Ainda assim, a Anthropic afirmou ter bloqueado todas as atividades maliciosas identificadas, utilizado a experiência adquirida para reforçar as suas salvaguardas e partilhado informações com autoridades governamentais e parceiros da indústria.

“Esperamos que as conclusões deste relatório ajudem outros desenvolvedores a reconhecer padrões semelhantes nas suas próprias plataformas, proporcionem aos governos e à sociedade civil uma compreensão mais clara da forma como as ameaças emergentes se desenvolvem e reforcem as defesas coletivas”, concluiu a Anthropic.

Com Associated Press