Por que a IA inventa informação e como conferir antes de publicar

Por que a IA inventa informação e como conferir antes de publicar

Você pediu um texto ao ChatGPT, achou ótimo e já ia publicar. Aí resolveu conferir um número e descobriu que ele estava errado.

Isso acontece com muita gente, e não é azar. A IA escreve uma informação falsa no mesmo tom seguro com que escreve uma verdadeira. Se você publica sem conferir, quem leva a fama do erro é você.

A saída é simples: entender onde a IA costuma errar e conferir cada fato em quatro passos, só com o celular.

O que é uma resposta inventada pela IA

Imagine um colega muito simpático que nunca diz “não sei”. Se você pergunta algo que ele não domina, ele responde mesmo assim, com firmeza, porque admitir a dúvida parece pior do que arriscar.

A IA se comporta assim. Em uma pesquisa publicada no site da OpenAI, os autores explicam que ela aprende prevendo a próxima palavra de um texto. E os testes usados para avaliá-la premiam o chute mais do que a admissão de dúvida.

O exemplo da pesquisa é o aniversário de uma pessoa. Quem chuta uma data tem uma chance em 365 de acertar; quem diz “não sei” não ganha ponto nenhum. Fatos soltos e raros como esse não seguem um padrão que dê para deduzir, e é aí que o modelo inventa.

O nome técnico é alucinação: uma resposta bem escrita, convincente e errada. A própria OpenAI diz que ela diminuiu nos modelos novos, mas continua acontecendo.

Se o seu plano é usar a IA para criar vídeos e vender como afiliado, a IA Academy, do Igor Henrique, ensina oito formatos de vídeo com IA. Cada um vem com o seu prompt (o comando que você escreve para a IA), em aulas curtas que abrem no celular. A garantia é de 7 dias, sem precisar justificar. (link de afiliado)

Onde o erro costuma aparecer

A IA erra mais quando a resposta é um detalhe exato, que não dá para adivinhar pelo jeito da frase. Fique atento a:

  • Números: valores, taxas, porcentagens e quantidades.
  • Datas: quando algo começou, mudou ou acaba.
  • Nomes: pessoas, livros, estudos, leis e links de sites.
  • Regras de plataforma: requisito de cadastro, prazo de saque, nome de menu.

A central de ajuda da OpenAI avisa que o ChatGPT pode errar e soar confiante mesmo assim. Os termos de uso da OpenAI vão além: quem usa a ferramenta deve avaliar se a resposta está correta antes de usá-la ou compartilhá-la.

Cuidado: regra de plataforma muda, e a IA pode responder com uma versão antiga ou inventada. Antes de ensinar ou publicar uma regra, confira na página oficial.

Como conferir em quatro passos

Use este método com qualquer texto feito por IA, antes de postar ou enviar.

  1. Marque os fatos. Releia o texto e sublinhe todo número, data, nome e regra. Opinião e explicação você julga pelo bom senso; fato precisa de prova.
  2. Procure a fonte oficial. No Google, digite o nome da plataforma, “central de ajuda” e o assunto. Para lei, use o site do governo. Prefira o resultado com o endereço da própria empresa, e não um blog qualquer.
  3. Compare palavra por palavra. Na página aberta, toque nos três pontos do navegador e use a busca na página (no Chrome, “Localizar na página”). Digite a palavra-chave e veja se o número, o nome e a condição batem com o texto da IA.
  4. Corte ou corrija. Achou diferença, troque pelo que está na fonte. Não achou nada, tire a frase. Dado sem fonte não vai para o ar.

Exemplo: a IA escreveu que o saque de uma plataforma leva um certo número de dias. Você pesquisa “Hotmart central de ajuda prazo de saque”, abre a página da própria Hotmart e busca “saque”. Se o texto da IA e a página divergirem, vale a página.

Mãos segurando um celular com a página de ajuda aberta e a busca na página destacando a palavra saque

Dica: no celular, deixe o texto da IA aberto no aplicativo de notas e a fonte oficial no navegador. Alterne entre os dois para comparar frase por frase.

Como pedir à IA que mostre a fonte

Você pode usar a própria IA para adiantar a conferência. Cole este pedido logo depois do texto:

  • “Liste cada número, data, nome e regra do texto acima.”
  • “Para cada item, diga onde eu confirmo: o nome do site oficial e a página.”
  • “Se você não tiver certeza de algum item, diga ‘não tenho certeza’.”

Quando a precisão importa, a central de ajuda da OpenAI sugere usar a busca do próprio ChatGPT e abrir os links da resposta para ver as fontes. A lista que a IA devolve é só o mapa: quem confere é você.

Cuidado: a IA também pode inventar a fonte, com nome de site e link que não existem. Toque no link e veja se a página abre e se diz mesmo o que ela afirma.

Seu próximo passo

Pegue um texto que você já tem, feito por IA ou não. Escolha um fato dele, como um número ou uma regra de plataforma, e siga os quatro passos até achar a página oficial que o confirma ou o desmente.

Comece por um fato só. Depois de algumas vezes, procurar a fonte vira hábito antes de cada publicação.