Faça um teste honesto. Lembre da última vez em que você fez uma pergunta a uma inteligência artificial.

Faça um teste honesto. Lembre da última vez em que você fez uma pergunta a uma inteligência artificial. / Foto: Divulgação.

Faça um teste honesto. Lembre da última vez em que você fez uma pergunta a uma inteligência artificial. A resposta veio rápida, bem escrita, segura. Você conferiu em outra fonte antes de usar? Se a sua resposta for não, este texto é sobre você. E sobre mim, e sobre praticamente todo mundo.

Um estudo da empresa de segurança digital F-Secure, publicado neste mês, entrevistou 1.500 consumidores nos Estados Unidos e no Reino Unido sobre como eles usam assistentes de IA no dia a dia. O achado central é uma contradição que merece ser lida duas vezes. De um lado, 89,5% das pessoas afirmam que conferir as respostas da IA é responsabilidade delas, não da máquina. De outro, 70,1% admitem que conferem só às vezes, raramente ou nunca. Quase todo mundo acredita que deve verificar. Quase ninguém verifica.

O dado mais revelador do estudo é o motivo. Não é preguiça, não é falta de tempo, não é ignorância sobre como checar. A razão mais citada, com o dobro da frequência de qualquer outra, é esta: quando a resposta soa certa, a pessoa simplesmente para de questionar. O sinal que encerra a dúvida não vem de uma checagem. Vem do tom da resposta. A pesquisa chama esse fenômeno pelo nome técnico, viés de automação: quanto mais fluente e confiante um sistema soa, menos vigilância o cérebro humano aplica, independentemente de a resposta estar certa ou errada. E os sistemas atuais soam impecáveis o tempo todo, inclusive quando erram.

Os achados secundários completam o retrato. Mais de um terço dos usuários, quando quer confirmar uma resposta da IA, pergunta de novo para a própria IA, e se sente verificado, o que equivale a pedir à testemunha que confirme o próprio depoimento. E há um padrão que deveria tirar o sono de qualquer gestor: quanto mais amplo o uso, menor a exigência. Entre quem usa IA só para tarefas simples, 28,6% aceitam respostas sem conferir. Entre quem usa para muitos tipos de tarefa, 59,7%. O dobro. A confiança construída nas tarefas banais transborda para as importantes: funcionou para a receita de bolo, deve funcionar para a dúvida trabalhista. O cérebro generaliza a confiança na ferramenta em vez de julgar cada resposta pelo risco que ela carrega.

Agora transporte esse retrato para dentro da sua empresa, porque ele já está lá. Os usuários amplos do estudo são os seus funcionários. Gente boa, bem intencionada, usando IA para responder cliente, redigir contrato, calcular prazo e orientar decisão, no mesmo padrão comportamental que a pesquisa mediu: aceitando o que soa bem, conferindo cada vez menos, com a régua caindo à medida que o uso cresce.

A reação instintiva do gestor diante disso é um comunicado interno pedindo atenção redobrada e uso responsável. O estudo mostra por que isso não funciona. A crença na responsabilidade já existe, está em 89,5%, e não muda o comportamento. Pedir mais vigilância ao cérebro humano diante de respostas fluentes é pedir algo que ele comprovadamente não entrega. Campanha de conscientização não vence viés de automação.

O que vence é estrutura. E aqui o próprio estudo aponta o caminho, talvez sem querer: o maior obstáculo citado por quem não confere não é motivacional, é estrutural. As pessoas dizem que não verificam porque não têm uma fonte confiável contra a qual verificar. Essa frase, lida do ponto de vista de uma empresa, é um projeto. A empresa precisa ser a fonte confiável contra a qual se confere. Isso significa conhecimento institucional organizado, para que a resposta que circula internamente venha ancorada no que a empresa sabe, e não no que um modelo genérico supõe. Significa registro do que os sistemas dizem e decidem, para que o erro seja encontrável antes de virar prejuízo. E significa verificação embutida no fluxo das decisões que importam, feita por desenho do processo, não pela boa vontade de cada usuário num dia corrido.

Os leitores desta coluna vão reconhecer um tema antigo aqui. Semanas atrás, escrevi sobre o estofo, o repertório que permite a um profissional experiente reconhecer a resposta errada que soa certa. O estudo da F-Secure mediu, em escala, o que acontece na ausência dele: diante da fluência, quem não tem referência própria aceita. Formar gente com estofo e construir estrutura que confere são as duas metades da mesma resposta.

A boa notícia é que nada disso exige desconfiar da tecnologia, e muito menos abandoná-la. A IA que soa certa e está certa é uma das maiores alavancas de produtividade já colocadas na mão de uma empresa. O problema nunca foi a resposta boa. É a resposta ruim vestida de boa, atravessando uma organização inteira sem encontrar um único ponto de conferência pelo caminho.

Seu cérebro parou de conferir. O da sua equipe também. A pergunta que fica não é como fazer todo mundo prestar mais atenção, porque essa batalha a biologia já venceu. É outra: o que, na sua operação, confere quando ninguém está conferindo?