Há algum tempo, interagir com computadores requeria capacidade técnica. Só seria preciso olhar para como eram utilizados os antigos sistemas operacionais para executar tarefas que hoje foram reduzidas a uma interface em uma aplicação interna de uma versão mais atual dele, para perceber essa fronteira entre o saber e o não saber. Antes do que temos hoje, você ligava o computador, caía em um ambiente como o MS-DOS, abria um interpretador como o BASIC e era necessário escrever instruções detalhadas para obter qualquer resultado. 

Visando uma operação simples de adição, fazer a soma de dois números nunca foi difícil, mas o difícil era saber como pedir isso para um computador. No MS-DOS, não existia campo nem botão; existia um cursor piscando e a expectativa de que você soubesse o que fazer. Essa fronteira, que discernia quem sabia de quem não sabia, foi se desvanecendo aos poucos, até chegarmos aonde estamos hoje. 

Nos tempos atuais, nos encontramos na situação oposta, em que a barreira de conhecimento técnico tem sido reduzida cada vez mais, e, com o advento de tecnologias baseadas na Inteligência Artificial, essa redução atinge um nível inédito, em que não é mais necessário saber como pedir algo a um computador: basta dizer o que você quer. 

Interfaces conversacionais transformam instruções em linguagem natural, em que o que antes exigia seguir sintaxe, comandos precisos e todo um conhecimento prévio agora aceita ambiguidade, contexto e até erro. 

A máquina se adapta ao usuário, não o contrário. À primeira vista, isso seria o princípio da democratização definitiva da tecnologia; porém, essa pode ser uma leitura superficial da realidade, já que, quando eliminamos a necessidade de saber como pedir, eliminamos também a necessidade de entender o que está sendo respondido. Antes, o erro era explícito: um comando inválido retornava uma falha; um programa mal escrito não funcionava. Criava-se uma fricção através do erro, que antes era informativa. 

Hoje, visualizamos a situação oposta, em que o erro é silencioso e ocultado pela barreira linguística que modelos de IA nos apresentam. A máquina responde com fluidez, organiza ideias, sustenta argumentos, mas não entende nada do que diz. Não há intenção nem verificação; tudo se baseia em um processo de previsão de palavras, formado por padrões nos quais foi treinada. Isso, por si só, já consegue enganar facilmente, apresentando informações incorretas com uma linguagem refinada, dando a ilusão de correção por utilizar os mesmos padrões que geralmente usamos para avaliar a veracidade de um conteúdo que estamos consumindo, tornando indistinguível o correto do incorreto. 

O problema apresentado não se origina de qualquer tecnologia emergente que tem ganhado espaço nos ambientes em que atuamos hoje, mas sim na forma como interpretamos os conteúdos gerados por essas tecnologias. Quando tratamos retornos gerados por IAs como conhecimento absoluto, cometemos um erro de categoria: não estamos consultando a fonte original, mas sim uma simulação construída a partir de padrões de dados, guiada por cálculos probabilísticos em grande escala. Isso desloca a responsabilidade de saber operar para a de saber duvidar, o que requer repertório, contexto, verificação e tempo, exatamente o que essas ferramentas prometem economizar. 

Quando visualizamos essa troca implícita – ganhar velocidade e reduzir a fricção no acesso à informação em troca de um critério questionável – somos levados a considerar que não é que a máquina vise nos enganar, mas sim que devemos refletir sobre o quanto estamos dispostos a aceitar coerência como evidência de verdade. 

Conclui-se que a máquina apenas finge saber; o risco real começa quando deixamos de perceber isso. 

Por Fábio Augusto 
Analista de Inteligência Artificial na Precisão Sistemas

Imagem: <a href=”https://freepik.com.br/fotos/inteligencia-artificial”>Baixar inteligência artificial — Freepik.com.br</a>