Inteligência artificial pode errar? Como conferir uma resposta antes de confiar nela

1. Uma resposta convincente ainda pode estar errada

Modelos generativos produzem linguagem fluente.

Isso é uma capacidade útil, mas cria uma armadilha: texto bem escrito pode parecer mais confiável do que realmente é.

Uma resposta pode soar segura e ainda conter:

• data errada;
• nome trocado;
• fato inexistente;
• informação desatualizada;
• conceito misturado;
• fonte inventada;
• conclusão mais forte do que a evidência permite.

O NIST usa o termo confabulação para conteúdo falso ou errôneo que sistemas generativos podem apresentar com confiança. No uso cotidiano de IA, também é comum chamar esse fenômeno de “alucinação”.

Aqui, “alucinação” não é um conceito médico ou psicológico.

É apenas um rótulo usado para uma resposta que parece plausível, mas contém informação não sustentada, fabricada ou incorreta.

OpenAI, Google e Microsoft também reconhecem publicamente que seus sistemas podem produzir respostas imprecisas ou convincentes apesar de erradas.

Por isso:

tom é estilo; evidência é outra coisa.

2. Primeiro pergunte: o que acontece se essa informação estiver errada?

Nem toda resposta exige o mesmo nível de verificação.

Consequência baixa

Exemplos:

• ideias para título;
• brainstorming;
• reescrita informal;
• sugestões criativas.

Você pode avaliar principalmente utilidade e adequação.

Consequência média

Exemplos:

• estudo;
• relatório de trabalho;
• troubleshooting técnico;
• comparação de produtos;
• planejamento.

Aqui, fatos importantes já merecem conferência.

Consequência alta

Exemplos:

• saúde;
• direito;
• finanças;
• segurança;
• identidade e contas;
• compliance;
• decisão profissional difícil de reverter.

Nesses casos, a IA não deve ser a única autoridade.

Esse raciocínio é consistente com gestão de risco: não basta perguntar a probabilidade de erro; importa também o tamanho da consequência.

3. Separe fato, inferência e recomendação

Respostas de IA frequentemente misturam categorias diferentes no mesmo parágrafo.

Por exemplo:

• fato: “o produto foi lançado em determinada data”;
• inferência: “isso sugere que a empresa mudou de estratégia”;
• recomendação: “por isso, você deveria comprar agora”;
• incerteza: “não há informação suficiente para saber se isso continuará”.

Essas frases exigem evidências diferentes.

Um prompt útil é:

“Separe o que é fato, o que é inferência, o que é recomendação e o que precisa ser confirmado.”

Isso ajuda a enxergar onde a resposta depende de interpretação.

Mas há um limite:

a própria classificação feita pela IA também pode estar errada.

Se a distinção for importante para a decisão, volte às fontes.

4. Fontes citadas pela IA precisam existir e sustentar o que foi dito

Uma citação bem formatada não é prova.

Se a IA citar:

• artigo;
• lei;
• livro;
• estudo;
• documentação;
• norma;
• página da web;

faça quatro perguntas:

1. a fonte existe?
2. autor, título e data conferem?
3. o trecho relevante realmente diz isso?
4. essa fonte tem autoridade suficiente para a decisão?

Pesquisas revisadas por pares já documentaram referências bibliográficas inventadas e erros em referências reais geradas por modelos de linguagem.

O perigo é justamente a aparência plausível.

Um título pode parecer acadêmico. Um nome de revista pode soar correto. Um identificador pode parecer legítimo.

Ainda assim, a referência pode não existir.

Não use exemplos fictícios de DOI ou artigos para “treinar o olho”: isso só cria mais nomes que podem ser confundidos com fontes reais.

5. Informação atual exige data e fonte atual

Alguns tipos de informação envelhecem rápido:

• preço;
• estoque;
• legislação;
• norma;
• cargo público;
• agenda;
• versão de software;
• especificação de produto;
• vulnerabilidade;
• incidente de segurança;
• notícia.

Uma resposta pode ter sido correta meses atrás e estar errada hoje.

Também não presuma que toda IA possui acesso à internet ou que sempre usa informação em tempo real.

Alguns sistemas podem:

• trabalhar apenas com conhecimento previamente disponível;
• usar pesquisa web em certos modos;
• acessar fontes apenas quando uma ferramenta específica está habilitada;
• receber documentos do usuário;
• operar com dados corporativos restritos.

Quando a data importa, peça explicitamente:

“Use informação atual e mostre a data das fontes.”

Depois confira a data você mesmo.

6. Uma segunda IA não é uma confirmação independente

Se duas IAs dão a mesma resposta, isso pode aumentar sua confiança psicológica.

Mas não transforma a resposta em evidência independente.

Sistemas diferentes podem:

• ter aprendido com fontes semelhantes;
• reproduzir o mesmo erro comum;
• interpretar a pergunta da mesma forma;
• copiar uma informação popular, mas errada.

Por isso:

IA A concorda com IA B não equivale a fonte primária confirma a afirmação.

Se duas IAs discordam, também não escolha pela que escreve melhor.

Volte à evidência.

7. Volte à fonte primária ou autoridade apropriada

A melhor fonte depende do tipo de afirmação.

Exemplos:

“Fonte primária” também não significa “fonte infalível”.

Um fabricante pode errar. Um órgão pode atualizar uma orientação. Um estudo pode ter limitações.

O objetivo é começar pela evidência mais próxima do fato e depois, quando necessário, cruzá-la com outra fonte confiável.

Se você estiver usando IA para estudar, veja também [Como usar inteligência artificial para estudar e aprender sem apenas copiar respostas](/br/35/software-it/ai-tools/como-usar-inteligencia-artificial-para-estudar).

8. Recalcule números, datas e percentuais importantes

IA pode errar:

• soma;
• porcentagem;
• conversão;
• data;
• diferença entre valores;
• aplicação de fórmula;
• interpretação de tabela.

Não confie em um resultado apenas porque a resposta exibiu etapas.

Quando o número importa:

• use calculadora;
• use planilha;
• confira os dados de entrada;
• refaça a conta;
• valide unidade e arredondamento.

Exemplo:

Se a IA diz que um desconto, juros ou retorno financeiro equivale a certo percentual, confira em ferramenta adequada antes de agir.

O mesmo vale para datas.

Uma sequência aparentemente lógica pode começar com um valor incorreto e terminar com uma conclusão igualmente incorreta.

9. Compare resumos e citações com o documento original

Quando a IA resume um arquivo, ela pode:

• omitir uma exceção;
• perder uma condição;
• combinar trechos distantes;
• simplificar demais;
• inverter a importância de uma cláusula;
• atribuir uma ideia à seção errada.

Se você forneceu um documento, uma instrução útil é:

“Use apenas este material. Se a informação não estiver nele, diga que não é possível concluir.”

Isso reduz extrapolações externas, mas não garante leitura perfeita.

Para trechos decisivos:

1. peça que a IA indique a seção relevante;
2. abra o documento original;
3. leia o trecho;
4. confira contexto anterior e posterior.

O mesmo vale para citações textuais.

Se aspas exatas importam, confirme no original: modelos podem parafrasear, alterar palavras ou atribuir uma frase à pessoa errada.

10. Use a própria IA para apontar incertezas, mas não como verificação final

A IA pode ajudar na checagem preliminar.

Perguntas úteis:

“Quais partes desta resposta precisam de verificação?”

“Quais premissas você usou?”

“Onde existe maior incerteza?”

“Que fonte primária confirmaria cada afirmação importante?”

“Compare esta resposta com o documento enviado e marque afirmações sem suporte.”

Isso pode revelar:

• premissas escondidas;
• lacunas;
• contradições;
• dados sem fonte.

Mas a própria IA não consegue certificar a própria correção.

A Microsoft, por exemplo, orienta usar a IA como revisora ou ferramenta para encontrar lacunas, mas ressalta que o resultado ainda precisa ser confirmado em fontes confiáveis quando a consequência importa.

Autocrítica é ferramenta de revisão.

Verificação independente é outra etapa.

Se você quiser melhorar a forma como pede fontes, incerteza e limites, veja [Como escrever um bom prompt: o que informar para a IA entender melhor o que você quer](/br/35/software-it/ai-tools/como-escrever-um-bom-prompt).

11. Em temas de alto impacto, aumente o nível de checagem

Se a resposta envolve:

• diagnóstico ou tratamento de saúde;
• obrigação jurídica;
• investimento ou crédito;
• fraude;
• segurança digital;
• procedimento físico perigoso;
• compliance;
• decisão profissional com grande consequência;

não trate a IA como autoridade única.

Use-a, quando apropriado, para:

• organizar perguntas;
• explicar termos;
• localizar o que precisa ser pesquisado;
• resumir material que você depois confere;
• comparar fontes já verificadas.

Depois volte à:

• autoridade oficial;
• fonte atual;
• documentação técnica;
• literatura apropriada;
• profissional qualificado, quando necessário.

Google, por exemplo, alerta que respostas de IA não devem ser tratadas como recomendação médica, legal ou financeira. O NIST também destaca que conteúdo confabulado se torna especialmente relevante em decisões consequenciais.

Em segurança e fraude, uma resposta de IA também não prova que um link é seguro, que existe malware ou que uma conta foi invadida.

Use evidência oficial.

Para links suspeitos, veja [Recebi um link suspeito: como saber se é golpe, phishing ou site falso antes de clicar](/br/35/software-it/cybersecurity-vpn-privacy/link-suspeito-golpe-phishing-site-falso).

12. O que nunca deve ser usado como prova de que a IA está certa

Nenhum destes itens, sozinho, prova correção:

• tom confiante;
• resposta longa;
• linguagem técnica;
• tabela bonita;
• muitos tópicos;
• referência formatada;
• URL aparentemente plausível;
• acordo de outra IA;
• frase “tenho certeza”;
• explicação passo a passo;
• ausência de aviso de incerteza.

A evidência forte está fora da aparência da resposta.

Procure:

• fonte real;
• dado original;
• cálculo reproduzível;
• documento oficial;
• data atual;
• contexto correto;
• confirmação independente.

Conclusão

Uma boa rotina de verificação segue:

consequência do erro → afirmações importantes → fato vs inferência → fontes → fonte existe? → sustenta a afirmação? → está atual? → cálculo/documento original → confirmação independente.

IA pode ser excelente para acelerar pesquisa, explicação e organização.

Mas a regra permanece simples:

fluência ajuda a comunicar; verificação é o que sustenta confiança.

Fontes públicas

• NIST — Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile.
• UNESCO — Guidance for generative AI in education and research.
• OpenAI Help Center — O ChatGPT diz a verdade?
• Google Gemini Apps Help — informações básicas sobre respostas do Gemini.
• Microsoft Support — Validate Copilot output before you act on it.
• Microsoft Support — documentação sobre fontes e grounding no Copilot.
• Google Workspace Learning Center — documentação sobre fontes em respostas do Gemini.
• Scientific Reports — Fabrication and errors in the bibliographic citations generated by ChatGPT.