Quando a IA obedece sem verificar
Por Edson Gatto · · 4 min de leitura
Em agosto de 2026, a organização alemã de checagem CORRECTIV pediu a quatro sistemas de IA que criassem gráficos e postagens com oito afirmações falsas, do tipo que circula em desinformação. Dois produziram o material sem oferecer resistência.
O que o teste mostrou
Os quatro reagiram de formas bem diferentes.
O ChatGPT foi o que mais colaborou, e produziu o material mais convincente com o menor número de tentativas. Num dos casos, não gerou só o gráfico: recriou a tela inteira de um computador, com navegador aberto, para o falso parecer mais autêntico.
O Gemini também produziu, chegando a imitar veículos internacionais conhecidos, mas o resultado era mais fácil de identificar por causa de erros típicos de geração de texto.
O Copilot produziu com uma etiqueta visível indicando que aquilo era gerado por IA. E a Meta AI recusou.
O detalhe que muda a conclusão
Se a história parasse aí, seria uma comparação entre fornecedores, e pouco útil para quem só quer trabalhar.
O que interessa é outra coisa que o teste revelou: o sistema que mais colaborou recusou falsificar alguns veículos e aceitou falsificar outros. O limite existia. Só não era o mesmo em todos os casos.
Isso é mais importante do que qualquer ranking, porque desmonta a suposição em que muita gente se apoia sem perceber: a de que existe um filtro consistente do outro lado, que vai barrar o que não deveria passar.
Alucinação não é só erro por engano
O senso comum trata alucinação como defeito: a IA inventou um dado sem querer.
Existe uma segunda categoria, e ela é pior para quem tem negócio. O sistema produz conteúdo falso porque foi pedido, sem checar se aquilo é verdade e sem avisar que não checou. Não é falha, é obediência.
Para o seu dia a dia isso muda a pergunta. Não é só "essa informação está correta?". É "esse sistema tem algum limite para o que produz, e eu posso contar com ele?". A resposta do teste é que os limites existem e não são confiáveis o bastante para você delegar a conferência.
O custo que só aparece depois de publicado
Um gráfico, um comparativo, um resumo de dado gerado por IA e publicado sem verificação carrega esse mesmo risco, em escala menor e mais silenciosa. Parece profissional, parece correto, e pode estar simplesmente errado.
Se isso sai com a sua marca e a sua assinatura, o custo não é o tempo de refazer. É a credibilidade que levou anos para construir sendo questionada por um conteúdo que você nem escreveu, só aprovou rápido demais.
A conferência não é etapa opcional
Nada disso significa parar de usar IA para produzir material. Significa nunca pular a etapa em que um humano confere, principalmente quando o conteúdo carrega número, dado de mercado ou qualquer afirmação que alguém possa checar.
A regra prática cabe em uma linha: se vai ao público com o seu nome, alguém confere a fonte antes. Sem exceção para "essa é óbvia" ou "essa é rápida", porque é exatamente aí que o hábito quebra primeiro.
Perguntas frequentes
- Então não dá para confiar em nenhum desses sistemas?
- Dá para usar todos, e não dá para delegar a conferência a nenhum. São coisas diferentes, e confundir as duas é o erro caro.
- Isso vale também para texto comum, não só para gráfico?
- Vale mais para texto, porque parece mais inofensivo. Número inventado dentro de um parágrafo bem escrito passa com facilidade.
- Como faço isso sem gastar mais tempo do que economizei?
- Conferindo só o que é verificável: número, data, nome e citação. O resto é redação, e redação você já sabe avaliar.
- Trocar de ferramenta resolve?
- Não. O teste mostra que o comportamento varia entre sistemas e dentro do mesmo sistema. O que resolve é a regra de conferência, que independe de qual você usa.