Quase uma guerra por causa de um relatório que a IA inventou

Forças especiais se preparavam para abordar um navio chinês com base num relatório que um chatbot fabricou. A resposta em negociação entre Washington e Pequim é um mecanismo para avisar antes de agir: um telefone, não uma regra sobre onde a IA pode ficar.

As forças especiais estavam prontas, com apoio de aeronaves, para abordar um navio chinês no Oriente Médio. O que sustentava a operação era um relatório de inteligência afirmando que a carga incluía componentes para um programa de armas nucleares. A revisão posterior mostrou outra coisa: o analista havia alimentado os dados iniciais num chatbot, e o chatbot inventou a carga.

A CNN revelou o caso em 18 de setembro. O episódio é da primavera de 2026, em plena guerra dos Estados Unidos contra o Irã, e ficou meses fora do público. Uma fonte descreveu à emissora a inteligência como “inteiramente falsa” e disse que ela “quase começou uma guerra”. A CNN não conseguiu apurar qual era a carga real do navio.

O que o relatório dizia, e o que ele era

O detalhe técnico é o que interessa. A ferramenta misturou dados de fontes abertas com inteligência de sinais secreta e, nessa mistura, identificou errado o conteúdo. Depois, o analista usou o mesmo tipo de ferramenta para formatar o resultado no padrão de disseminação – o formato que circula dentro da máquina e vira base para decisão operacional.

A cadeia tem três elos, e nenhum deles foi auditado antes de a operação virar preparativo real. O primeiro é a entrada de dados: informação aberta e secreta num mesmo cano, sem separação de confiança. O segundo é a inferência: um sistema que produz uma afirmação categórica a partir de material heterogêneo, sem indicar o quanto está supondo. O terceiro é a embalagem: a formatação no padrão oficial, que dá ao texto a aparência de trabalho verificado justamente porque obedece ao formulário.

Inventar a carga foi o erro. Assinar o formulário foi o que quase transformou a invenção em operação.

É o primeiro caso documentado em que uma alucinação de modelo de linguagem atravessou toda a cadeia de inteligência de um Estado nuclear e chegou à beira de uma operação contra um navio de outra potência nuclear, num teatro de guerra ativo. A diferença entre este episódio e dezenas de outros parecidos é que houve revisão a tempo.

A mesa de Nova York

Quatro dias depois da publicação, o secretário do Tesouro americano, Scott Bessent, e o vice-premiê chinês He Lifeng passaram cerca de oito horas reunidos na sede do JPMorgan, em Nova York, segundo a Reuters, a CNBC e a AFP. Com eles estava o representante comercial americano, Jamieson Greer. O encontro é o preparo do que vem depois: uma reunião entre Trump e Xi Jinping na Casa Branca, na quinta-feira, 24 de setembro.

A pauta é o retrato de como as duas economias se tornaram inseparáveis e hostis ao mesmo tempo. Trégua tarifária que vence em 10 de novembro, salvaguardas para o desenvolvimento de inteligência artificial, controle de exportação de chips, ímans de terras raras e minerais críticos, compras chinesas de produtos agrícolas americanos e a pressão americana sobre o Irã, cuja guerra entrou no sétimo mês. A CNA registrou o item mais interessante: Washington propôs um mecanismo bilateral de notificação de incidentes, incluindo ameaças à segurança. Bessent classificou as conversas como “muito bem-sucedidas” e as partes concordaram em voltar a se encontrar.

Guardrails, para quê

A palavra que a imprensa adotou é guardrails, salvaguardas. Vale ler o que ela cobre na prática. O que está na mesa é o ritmo de desenvolvimento da tecnologia e o acesso a chips, ou seja, a disputa industrial – quem constrói mais rápido e com que insumo. O que o incidente do navio expôs foi outra coisa: o uso da tecnologia dentro do ciclo de decisão do Estado, onde o erro não tem mercado para corrigir e onde não existe segunda tentativa depois do tiro.

Nenhuma das duas delegações chegou a Nova York com uma proposta sobre onde a IA pode ou não ser plugada. Chegaram com propostas sobre quem fabrica o quê.

Há uma simetria incômoda no calendário. O mecanismo de notificação de incidentes que os americanos propuseram é, com outro nome, o mesmo instrumento que existia na Guerra Fria para o telefone entre Washington e Moscou: uma linha para avisar antes de agir, não uma regra sobre o que se pode fazer. É útil, é barato e não resolve o problema que o episódio do navio revelou.

E há o pano de fundo regional. O navio estava no Oriente Médio, e o Irã é hoje o ponto em que as duas potências negociam por procuração: a China compra boa parte do petróleo iraniano e sustenta diplomaticamente Teerã, enquanto os Estados Unidos conduzem uma guerra que já dura sete meses. Uma abordagem americana a um navio chinês nesse teatro não seria um erro burocrático. Seria o tipo de acidente que ninguém planeja e que nenhuma das partes consegue desfazer.

O que fica

O que quase aconteceu na primavera foi um erro corrigido pela revisão humana, e é isso que faz o caso valer como aula: o que falhou foi um processo que confiou no formato. O mecanismo de notificação que agora se negocia trata do susto seguinte, não da fonte do susto.

Na quinta-feira, Trump e Xi Jinping se encontram com a pauta de sempre, comércio, tecnologia e minerais. O relatório que um chatbot inventou não está na lista – e deveria, porque foi ele que quase pôs forças especiais americanas num navio chinês, e nenhuma das duas delegações tem, até agora, uma regra que impeça a repetição.