Os modelos de linguagem artificial como o ChatGPT não pensam nem compreendem como humanos, apesar de parecerem racionais. Eles apenas preveem palavras com base em padrões estatísticos, sem acessar significado real. Atribuir a eles consciência ou raciocínio pode levar a riscos e ilusões sobre suas limitações e usos.
Como funcionam os modelos de linguagem
Os chamados Grandes Modelos de Linguagem (LLMs) operam prevendo a próxima palavra em uma sequência, baseando-se em vastos volumes de textos para aprender padrões linguísticos. O resultado das respostas é uma cadeia de predições, onde cada palavra é escolhida conforme a probabilidade de ocorrer após as anteriores. Segundo os linguistas Emily Bender e Alexander Koller, esses modelos captam apenas a forma da linguagem, sem acessar seu significado. O que parece compreensão é apenas o reflexo de padrões estatísticos extraídos do uso humano da linguagem.
Explicações enganosas e a caixa-preta da IA
Pesquisadores desenvolveram mecanismos para que os LLMs expliquem seu processamento, como a técnica chain-of-thought, mas estudos mostram que essas explicações são falaciosas. Quando afirmam “estar pensando”, os modelos apenas geram texto com base em cálculos probabilísticos, sem relatar o real processo computacional. Até operações matemáticas são resolvidas por padrões estatísticos, não por lógica formal, e justificativas apresentadas podem ser incorretas, mesmo com respostas certas. A Apple publicou recentemente um artigo destacando essas limitações, especialmente em problemas lógicos e matemáticos.
Atribuição de consciência e implicações éticas
A tendência de atribuir pensamento humano a sistemas artificiais é chamada de pareidolia cognitiva. Emily Bender ressalta que a interface textual dos LLMs explora essa vulnerabilidade, levando usuários a projetar agência e consciência em máquinas. Cientistas alertam que essas ferramentas são feitas para soar convincentes, não para pensar como humanos. O The Atlantic apontou riscos como a “psicose induzida por ChatGPT”, em que usuários acreditam interagir com entidades conscientes.
Essa confusão permitiu a comercialização de substitutos artificiais para relações humanas, como terapeutas e parceiros, explorando nossa tendência de associar linguagem a consciência. Usuários criam vínculos emocionais com máquinas incapazes de reciprocidade, sacrificando interações genuínas. Segundo Melanie Mitchell, antropomorfizar esses sistemas leva a avaliações imprecisas e expectativas desalinhadas. Pesquisas mostram que LLMs falham em tarefas que exigem raciocínio causal ou senso comum.
Limitações e usos adequados
Apesar de impressionantes, os LLMs produzem informações falsas com confiança (as “alucinações de IA”), reproduzem vieses, não acessam dados em tempo real nem verificam fatos. Têm dificuldades com lógica, abstração e manutenção de contexto, e não possuem consciência ou experiência do mundo físico, limitando julgamentos sobre empatia ou ética. Reconhecer essas limitações permite uso mais realista: os sistemas são úteis para tarefas como resumo, tradução, automação e apoio à programação, ampliando a capacidade humana sem substituir relações autênticas.