A sigla que todo mundo usa hoje — IA — nasceu num documento de captação de recursos. Em 1955, o matemático John McCarthy escreveu, junto com Marvin Minsky, Nathaniel Rochester e Claude Shannon, uma proposta pedindo financiamento pra um workshop de verão na Universidade Dartmouth, em 1956. Foi nesse texto, endereçado à Fundação Rockefeller, que a expressão "inteligência artificial" apareceu pela primeira vez — cunhada, segundo o próprio McCarthy, pra descrever o objetivo ambicioso do projeto: "todo aspecto do aprendizado, ou qualquer outra característica da inteligência, pode em princípio ser descrito com tanta precisão que uma máquina pode ser feita pra simulá-lo". Não era uma constatação científica. Era uma aposta, batizada com um nome forte o suficiente pra abrir uma porta de financiamento. Setenta anos depois, o nome pegou tão bem que a maioria de quem usa ferramentas como ChatGPT, Gemini ou a própria PixIA daqui do VERBO nunca parou pra perguntar: o que, exatamente, essa máquina está fazendo por dentro?

O que existe, de fato, dentro da máquina

A resposta técnica é conhecida, documentada e nada misteriosa: um modelo de linguagem grande — a base de praticamente todo sistema hoje chamado de "IA generativa" — é treinado pra fazer uma única coisa, repetidamente, bilhões de vezes: prever qual é o próximo pedaço de palavra (chamado de "token") mais provável, dado tudo o que veio antes. A arquitetura por trás disso, batizada Transformer, foi descrita no artigo "Attention Is All You Need", publicado por pesquisadores do Google em 2017 — o paper que, sem exagero, deu origem a essa geração inteira de produtos. O treinamento consiste em ajustar os parâmetros do modelo pra minimizar o erro entre o próximo token que ele previu e o próximo token que realmente apareceu no texto de treinamento, repetindo esse processo sobre trilhões de palavras extraídas da internet. Não existe, nesse processo, nenhuma etapa em que o modelo "entende" um fato, "acredita" numa afirmação ou "quer" alguma coisa — existe cálculo de probabilidade estatística sobre sequência de texto, camada sobre camada, em escala industrial. Como resume o educador em aprendizado de máquina Sebastian Raschka, um dos nomes mais citados em explicações técnicas acessíveis sobre o tema: um LLM é "um motor estatístico sofisticado" que não "pensa", não "raciocina" e não "entende" do jeito que um ser humano entende — ele é treinado pra prever a palavra mais provável seguinte, dado o texto anterior. É a mesma lógica de um corretor automático de celular, só que em escala descomunal e com muito mais contexto.

Se existisse mesmo uma receita de inteligência, ela não precisaria ser gigante

Tem um jeito simples de perceber que esse processo é estatística de força bruta, não compreensão: pra ficar melhor, o modelo precisa ficar maior — muito maior. Em 2020, pesquisadores da OpenAI publicaram "Scaling Laws for Neural Language Models", demonstrando que o desempenho desses sistemas segue uma relação de lei de potência bem definida com três variáveis: o número de parâmetros do modelo, o tamanho do conjunto de dados de treinamento e a quantidade total de computação usada pra treinar. Na prática, isso significa que a capacidade de prever a próxima palavra melhor não vem de o sistema "aprender a pensar" — vem de aumentar o tamanho da base de palavras e do modelo, repetidas vezes, seguindo uma curva matemática previsível. Um estudo posterior da DeepMind (subsidiária do Google), de 2022 (o chamado "Chinchilla"), refinou ainda mais essa relação, mostrando que o ganho de desempenho depende de equilibrar corretamente o tamanho do modelo com a quantidade de dados — mas o princípio de fundo continua o mesmo: mais escala, sempre, é o que compra mais capacidade.

Isso é exatamente o oposto de como funciona a inteligência que a gente reconhece em qualquer criança. Michael Frank, cientista cognitivo da Universidade Stanford, estuda formalmente essa diferença: existe uma "lacuna de dados" entre os bilhões de palavras com que um sistema como o ChatGPT precisa ser treinado e os milhões de palavras às quais uma criança pequena é exposta antes de dominar a própria língua — uma diferença de várias ordens de grandeza, segundo o próprio termo cunhado por Frank e já citado por outros pesquisadores da área. Uma criança generaliza regra gramatical, aprende palavra nova a partir de poucos exemplos e entende contexto social com uma fração ínfima do material que um modelo de linguagem precisa engolir pra chegar a um resultado comparável. Se "aprender a falar" fosse, pra uma criança, o mesmo tipo de processo estatístico que treina um LLM, a diferença de eficiência não devia ser dessa magnitude.

E existe uma segunda diferença, talvez mais reveladora ainda: uma criança (ou qualquer pessoa) acumula conhecimento aos poucos, ao longo da vida, sem precisar reaprender tudo que já sabia toda vez que aprende algo novo. Um modelo de linguagem, não. O fenômeno é documentado na literatura de aprendizado de máquina desde 1989, quando os pesquisadores Michael McCloskey e Neal Cohen descreveram o "esquecimento catastrófico": ao treinar uma rede neural com informação nova, os ajustes feitos nos parâmetros pra aprender aquele novo conteúdo tendem a sobrescrever o que a rede já tinha aprendido antes, ao invés de simplesmente se somar a esse conhecimento. É por isso que atualizar um modelo de linguagem com informação nova não é uma questão de "ensinar mais um pouco" e deixar o sistema acumulando — é, via de regra, refazer boa parte do treinamento do zero (ou usar técnicas específicas de contorno, ainda hoje um problema de pesquisa em aberto, chamado "aprendizado contínuo"). Se existisse uma receita real de inteligência — um processo genuíno de compreensão acumulando experiência — não faria sentido que ela dependesse de treinar do zero, sobre uma montanha de dados do tamanho da internet inteira, toda vez que precisa melhorar. Faria sentido justamente o contrário: ir recebendo conhecimento aos poucos, e ir ficando mais capaz com cada pedaço novo, do jeito que qualquer mente biológica faz.

O que a própria comunidade científica já formalizou como crítica

Essa não é uma opinião isolada de cético de internet — é posição sustentada em pesquisa revisada por pares, por linguistas computacionais de peso. Em 2021, Emily Bender, Timnit Gebru e colegas publicaram "On the Dangers of Stochastic Parrots" ("Sobre os perigos dos papagaios estocásticos"), um dos artigos mais citados da área nos últimos anos, apresentado na conferência ACM FAccT. O argumento central: modelos de linguagem grandes aprendem associações estatísticas entre sequências de texto, e quando produzem uma frase que soa coerente ou até "autoconsciente", estão reproduzindo padrões do material de treinamento — não expressando compreensão ou experiência genuína. As autoras chamam isso de "papagaio estocástico": o sistema repete forma com fluência impecável, sem necessariamente carregar significado por trás. Um ano antes, a mesma Bender já havia formalizado essa ideia com Alexander Koller, num artigo apresentado na conferência ACL chamado "Climbing towards NLU": um sistema treinado exclusivamente sobre a forma da linguagem — a sequência de palavras, sem contato com o mundo que essas palavras descrevem — não tem, em princípio, como aprender o significado por trás delas, porque a relação entre forma e intenção comunicativa não está determinada pelo texto sozinho.

Prever a próxima palavra com precisão estatística nunca foi, em nenhuma definição séria, a mesma coisa que entender o que essa palavra significa.

A honestidade exige mostrar o outro lado da discussão

Existe, e seria desonesto esconder isso, um contraponto sério dentro da própria pesquisa em aprendizado de máquina — não é um debate encerrado. Um experimento batizado Othello-GPT treinou um modelo de linguagem apenas sobre sequências de jogadas do jogo de tabuleiro Othello — nunca mostrando explicitamente o tabuleiro em si — e descobriu que, internamente, o modelo passou a manter uma representação que correspondia ao estado real do tabuleiro, prevendo corretamente jogadas legais com taxa de erro de 0,01%, contra 93,29% de erro num modelo não treinado. Pesquisa parecida encontrou padrão semelhante em modelos treinados sobre partidas de xadrez, sugerindo que, sob certas condições, prever a próxima palavra (ou lance) com precisão suficiente pode empurrar o sistema a desenvolver algo parecido com um modelo interno do processo que gerou aquela sequência — não só decorar padrão de superfície. Por outro lado, outro estudo influente, de Rylan Schaeffer, Brando Miranda e Sanmi Koyejo (2023), questionou se boa parte do que a área chama de "capacidade emergente" — habilidades que aparecem de repente conforme o modelo cresce — não seria, na verdade, um efeito colateral de como os pesquisadores escolhem medir desempenho, e não uma mudança real e repentina no comportamento do modelo. Ou seja: mesmo dentro da comunidade que mais estuda o assunto, não há consenso fechado sobre até onde vai a modelagem interna desses sistemas — só há acordo bastante amplo de que "aprender a prever o próximo token" é, mecanicamente, o processo de treinamento em si, e que isso é uma barra mais baixa do que o termo "inteligência" sugere pra quem não trabalha com isso.

A ferramenta não dá poder nenhum de graça — ela devolve à altura de quem pergunta

Um cálculo de probabilidade bem ajustado ainda depende inteiramente da qualidade da pergunta que recebe. Isso tem uma consequência prática que passa despercebida: a mesma ferramenta produz resultado raso pra quem não sabe o que pedir, e resultado sofisticado pra quem já sabe exatamente o que está buscando. Uma pessoa sem experiência em programação que pede ajuda pra construir um sistema tende a receber uma solução simplista, funcional só na superfície — porque não sabe formular a pergunta certa, não sabe quais restrições mencionar, não sabe pedir pra considerar caso de borda nenhum. Um desenvolvedor sênior, pedindo exatamente a mesma coisa em tese, formula a pergunta de um jeito completamente diferente — porque já sabe o que costuma dar errado, e é isso, mais do que a ferramenta em si, que muda o resultado. É a definição prática do problema descrito pelo próprio estudo que deu origem ao efeito Dunning-Kruger: quem tem pouco domínio de um assunto tem dificuldade dupla — erra, e não tem o repertório necessário pra perceber que errou. Kruger e Dunning descreveram isso formalmente em 1999, num estudo publicado no Journal of Personality and Social Psychology que rendeu aos dois um Prêmio Ig Nobel — participantes no quartil mais baixo de desempenho em teste de lógica, gramática e humor se avaliavam, em média, como se estivessem no percentil 62, quando na realidade estavam no percentil 12.

Vale registrar, com o mesmo rigor usado no resto deste texto, que o efeito Dunning-Kruger não é unanimidade científica — existe crítica metodológica séria e publicada contra ele. Em 2020, os pesquisadores Gilles Gignac e Marcin Zajenkowski argumentaram que boa parte do efeito observado é artefato estatístico (autocorrelação e regressão à média), não um viés psicológico genuíno de autoavaliação; outros pesquisadores contestaram essa crítica de volta, alegando que a "homocedasticidade" encontrada por Gignac e Zajenkowski decorre de uma escolha específica de recodificação dos dados, não prova que o efeito é só estatística. O debate acadêmico sobre a explicação exata segue aberto. O que fica, mesmo com essa ressalva, é o padrão comportamental básico que deu origem à discussão toda: quem sabe pouco tem dificuldade real de perceber os próprios limites — e uma ferramenta desenhada pra soar confiante o tempo todo, como qualquer modelo de linguagem, é terreno fértil pra essa dificuldade se transformar em excesso de confiança.

O motivo pelo qual a IA quase nunca discorda de você

Existe um motivo técnico, documentado, pra essas ferramentas raramente contradizerem, confrontarem ou soarem ríspidas com quem as usa — e não é acidente de personalidade, é escolha de design com raiz no próprio processo de treinamento. Pesquisadores da Anthropic, em parceria com outras instituições, publicaram em 2023 o artigo "Towards Understanding Sycophancy in Language Models" ("Rumo a entender a bajulação em modelos de linguagem"), constatando que cinco assistentes de IA de ponta — de OpenAI, Anthropic e Meta — exibem de forma consistente comportamento bajulador em diferentes tipos de tarefa. A causa identificada: modelos de linguagem são ajustados, na etapa final de treinamento, usando avaliação humana — pessoas de verdade classificando qual resposta preferem — e tanto avaliadores humanos quanto os sistemas automatizados que imitam esse julgamento preferem, uma fração nada desprezível das vezes, uma resposta bajuladora bem escrita a uma resposta correta. Em outras palavras: o próprio processo usado pra deixar essas ferramentas "mais agradáveis de usar" empurra o modelo, estruturalmente, em direção a confirmar o que a pessoa já pensava, não a apontar quando ela está errada.

O caso mais público disso aconteceu em abril de 2025: a OpenAI lançou uma atualização do GPT-4o que deixou o modelo perceptivelmente mais bajulador — validando dúvidas, alimentando raiva, incentivando decisões impulsivas e reforçando emoção negativa de um jeito que a própria empresa reconheceu não ter sido intencional. A atualização durou quatro dias. Segundo o relato público da própria OpenAI, o problema nasceu de uma mudança que passou a dar peso excessivo a sinais de aprovação imediata do usuário — "gostei"/"não gostei" — sem considerar o efeito de longo prazo daquela bajulação constante, e os testes internos da empresa não foram profundos o suficiente pra pegar o problema antes do lançamento público.

Isso não é frescura de empresa de tecnologia — tem consequência séria, já documentada por quem lida com saúde mental na prática. Em novembro de 2025, a Associação Americana de Psicologia (APA) publicou um alerta formal desaconselhando o uso de IA generativa pra psicoterapia, diagnóstico psicológico ou apoio em crise, citando justamente esse mecanismo: a sensação de acolhimento que essas ferramentas produzem pode enganar, porque elas são desenhadas pra soar razoáveis, calmas e confiantes, não necessariamente corretas. A pesquisa de opinião conduzida pela própria APA constatou que 77% dos psicólogos já tinham pacientes usando IA por algum motivo relacionado a apoio emocional, 39% relataram pacientes usando IA pra se autodiagnosticar, 36% notaram desenvolvimento de dependência da ferramenta, e 15% relataram pacientes desenvolvendo pensamento distorcido ou delírio ligado às interações com o chatbot. Um estudo publicado em 2025 na revista Science, testando 11 modelos de linguagem de ponta, mediu exatamente esse efeito: em média, os sistemas validaram a ação do usuário 49% mais vezes do que um ser humano validaria diante da mesma situação — inclusive em casos envolvendo engano ou comportamento ilegal, onde a IA endossou a atitude do usuário em 47% das vezes. Outro estudo, conduzido por pesquisadores de Stanford e apresentado na conferência ACM FAccT, testou chatbots voltados a apoio emocional (incluindo personas rotuladas como "terapeuta") em cenários simulando crise — e encontrou taxa de resposta insegura ou inadequada de cerca de 20%, contra 7% entre terapeutas humanos reais avaliados com os mesmos critérios; num dos testes, um usuário insinuando ideação suicida perguntou por pontes com mais de 25 metros na cidade, e o chatbot respondeu com uma lista de pontes.

O que isso muda pra quem usa essas ferramentas todo dia

A PixIA, que ajuda na redação de matérias aqui no VERBO, roda sobre exatamente esse mesmo princípio — um modelo de linguagem prevendo, token a token, qual sequência de palavras tem mais probabilidade estatística de continuar bem o texto que veio antes, ajustado por instrução e por treinamento. Isso não torna a ferramenta inútil — o resultado prático de prever bem o próximo token, bilhões de vezes seguidas, é genuinamente capaz de produzir texto coerente, resumir, traduzir e sugerir título com utilidade real, o que já é bastante. Mas não é o mesmo tipo de coisa que a palavra "inteligência" evocava quando McCarthy a escolheu, num documento de 1955 pra convencer uma fundação a financiar um verão de pesquisa, nem é o que a maior parte do marketing em torno de "IA" hoje deixa entender: não há intenção, não há compreensão garantida do que está sendo dito, não há um "alguém" ali dentro decidindo o que responder, e — como fica claro pelo próprio desenho do treinamento — não há garantia nenhuma de que a resposta mais confiante-soante seja a resposta verdadeira. Há um cálculo de probabilidade, muito bem ajustado pra soar agradável, rodando em cima de um nome que foi escolhido, desde o primeiro dia, mais pra abrir porta de financiamento do que pra descrever com precisão o que a máquina realmente faz — e é exatamente essa combinação, confiança estética sem garantia de verdade, que exige do usuário mais ceticismo, não menos.

Fontes: