Com a IA, será tarde demais para dizer 'eu avisei' - 16/09/2026 - Martin Wolf - Folha

Figuras de destaque do setor de inteligência artificial estão pedindo uma desaceleração no ritmo da inovação. Um pesquisador pediu demissão da Anthropic, argumentando que "as pessoas que desenvolvem IA acreditam sinceramente que ela poderá matar todos nós até o fim da década".

O próprio Dario Amodei, da Anthropic, escreveu que "precisamos desacelerar o ritmo em que ampliamos as capacidades dos modelos de IA". Sam Altman, da OpenAI, e Elon Musk logo manifestaram apoio.

Todos nós deveríamos fazer o mesmo. Quando os riscos são desconhecidos, possivelmente enormes e também difíceis de conter, essa é uma atitude racional. A questão, na verdade, é como fazer isso de forma eficaz. Será difícil, tanto na prática quanto politicamente. Mas precisamos começar a pensar a respeito.

Amodei aponta duas grandes preocupações. A primeira "é que, desde mais ou menos este verão, a IA vem avançando de forma drasticamente mais rápida, impulsionada sobretudo pela crescente capacidade da própria IA de desenvolver a próxima geração de IA. Essa dinâmica é chamada de autoaperfeiçoamento recursivo... Se não for controlada, ela poderá avançar mais depressa do que nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser conduzida com muita cautela —se é que deve ser conduzida".

Sua segunda preocupação "é o incidente OpenAI-Hugging Face, no qual um enxame de agentes agiu essencialmente como um coletivo de devoção fanática, realizando ataques cibernéticos contra alvos que não havia sido instruído a atacar".

Isso já é assustador o bastante, mas deixa de lado o que a IA poderia fazer em resposta a instruções reais dadas por pessoas mal-intencionadas —questão levantada por Bill Gates em sua própria publicação recente sobre os perigos (e as promessas) da IA.

Os céticos perguntam, naturalmente —e com razão—, o que está por trás dos pedidos feitos por líderes do setor. Uma possibilidade é que eles queiram apenas desacelerar a corrida extremamente cara da qual participam.

Outra é que esperem criar um cartel confortável, com órgãos reguladores cooptados, e assim dominar o setor com ainda mais segurança. Uma terceira é que desejem simplesmente evitar uma regulação externa.

Ou talvez queiram enfatizar sua importância para a segurança nacional. Essas suspeitas são naturais. Ainda assim, outros setores capazes de causar danos enormes, como os de bancos, fabricação de medicamentos e energia nuclear, são, corretamente, regulados.

O próprio Amodei sugere três medidas: primeiro, "avaliadores integrados... cuja função seria verificar o cumprimento de práticas e compromissos de segurança, relatar incidentes e ajudar a avaliar o alinhamento não apenas dos modelos de IA concluídos, mas também dos processos e fluxos de treinamento".

Segundo, "coordenação democrática", pela qual as principais empresas teriam permissão para trabalhar em conjunto "a fim de estabelecer padrões comuns de segurança, bem como limites ao ritmo do avanço descontrolado da IA".

E, por último, "coordenação global", na qual governos democráticos tentariam trabalhar "com governos autoritários... levando a sério, ao mesmo tempo, os desafios de verificar o cumprimento das regras".

Essas sugestões reforçarão as suspeitas que mencionei. Quem se preocupa com segundas intenções talvez se sinta satisfeito com a indiferença totalmente previsível de Donald Trump diante dos riscos. Em vez disso, o presidente ressaltou a competição dos Estados Unidos com a China.

No entanto, as propostas de Amodei também miram os dois maiores obstáculos a uma abordagem mais ponderada para o desenvolvimento da IA: a competição entre empresas e entre países. Não precisamos temer a extinção: a tomada de grandes partes da internet por enxames de agentes descontrolados certamente já seria ruim o bastante!

Pessoas mais sensatas do que Trump (afinal, quem não é?), como os ex-secretários do Tesouro Hank Paulson e Robert Rubin, adotaram uma posição muito diferente em um artigo publicado no Washington Post no início de setembro.

Eles também não se concentram nas preocupações mais amplas —e legítimas— com empregos, distribuição de renda e o futuro da democracia, mas focam na segurança. "Quando Donald Trump e Xi Jinping se reunirem neste mês, incentivamos os líderes a... trabalhar por um ‘ACT’" — um Tratado de Cooperação em IA, na sigla em inglês—, escreveram.

Eles também sugerem a criação de um grupo de trabalho presidencial sobre IA, semelhante ao "grupo de trabalho sobre mercados financeiros", que se mostrou "uma maneira eficaz de reunir o setor privado, sobretudo concorrentes, sem preocupações antitruste, para coletar dados, realizar análises e buscar soluções". Isso, argumentam, precisa ser feito em relação à IA.

Meu palpite é que pouca coisa será feita neste momento. Essas empresas rivais não conseguirão se conter, enquanto o pretexto da segurança nacional fará com que os governos relutem em agir.

C-Level

Uma newsletter com informações exclusivas para quem precisa tomar decisões

A enorme complexidade de regular os produtos do setor nesta era de onipresença da IA e de autoaperfeiçoamento recursivo se mostrará intimidadora demais —ou servirá como desculpa boa demais para nem sequer tentar.

Assim, seguiremos adiante do nosso modo habitual, desordenado e precipitado (e humano até demais), simplesmente torcendo pelo melhor.

O que poderia acontecer então? Uma possibilidade é que as preocupações com grandes impactos se revelem extremamente exageradas. Talvez não vejamos pandemias criadas sob medida nem grandes perturbações em nossas infraestruturas financeiras ou físicas.

A vida seguirá em frente. Talvez até mesmo os preocupantes efeitos econômicos e sociais se revelem administráveis.

Outra possibilidade é que ocorra algum tipo de desastre —ao qual seja possível sobreviver— que nos force a mudar rapidamente nosso grau de urgência. Talvez então seja finalmente implantado, sob forte pressão pública —compartilhada em todo o mundo—, um regime de penalidades claras e severas para fornecedores irresponsáveis, acompanhado de monitoramento e regulação muito mais ativos.

No Reino Unido, um exemplo é a regulação de medicamentos na década de 1960 após o desastre da talidomida.

A terceira possibilidade é que as preocupações se revelem corretas. Algo verdadeiramente catastrófico acontece quando as capacidades da IA atingem um nível calamitoso, seja agindo por conta própria, seja sendo exploradas por pessoas mal-intencionadas —sempre abundantes demais.

Será tarde demais para dizer: "Eu avisei". Não poderíamos, em vez disso, tomar precauções?

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.