ChatGPT pode ser uma fonte de imprecisões e desinformação

Como qualquer outra ferramenta, se mal usada, a Inteligência Artificial pode “alucinar” e trazer mais dados do que benefícios a usuários.

O grito de independência, às margens do Ipiranga, teria reunido mais de mil pessoas de todas as classes sociais; Lenin e James Joyce, autor de Ulisses, ambos exilados políticos, se encontram em Zurique antes da jornada do russo pela independência em 1916; Bolacha é um termo mais antigo do que biscoito, dessa forma, botando fim à rixa secular entre paulistas e cariocas. À primeira vista, todas essas informações teriam sido apuradas e estariam corretas, mas não é bem assim. Na verdade, todas foram “especuladas” pela Inteligência Artificial (IA).

Como afirmam especialistas, o famoso “Independência ou Morte!”, não passou de uma propaganda do regime monarquista brasileiro; embora tenham vivido a mesma época, não há registros oficiais sobre o encontro entre Lenin e Joyce, nem sobre seu impacto na Revolução de Outubro; e por fim, segundo linguistas, “biscoito” teve seu registro oficializado antes de “bolacha” entrar em dicionários portugueses, sendo assim, o termo mais antigo da língua, ainda que, tão correto quanto seu par paulistano. Mas, uma dúvida persiste: como a IA chegou a resultados tão estranhos?

De acordo com o Jornal New York Times, que repetiu o mesmo experimento que a redação da IAIH, o fenômeno faz parte da natureza de como plataformas como ChatGPT e Bard são projetadas. Por receberem e computarem bilhões de dados simultâneos (input), o resultado dessas pesquisas (output) pode ser sugestionado ou completamente falso. Em outras palavras, o compromisso do algoritmo é completar lacunas, nem sempre de forma confiável.

O mercado de software define essa imprecisão das máquinas de “alucinações tecnológicas”, embora alguns pesquisadores considerem o termo pouco para representar o conceito: um risco de credibilidade. De acordo com Subbarao Kambhampati, professor de IA na Universidade do Arizona, muitos confiam sua saúde, inclusive se automedicando, no “oráculo digital”. “Se já tem a resposta de antemão, por que fazer a pergunta? A chance de você sair decepcionado com o resultado, ou pior, acreditar que aquilo seja verdade é grande”, disse.

Aprendizado de Máquina, um dom ou uma ameaça?

Para Kambhampati, o grande responsável pelo aumento de confusões da máquina é seu modelo de aprendizado autônomo, também chamado de Aprendizado de Máquina. Com ele, a plataforma consegue absorver todas as informações disponibilizada pelo usuário e, baseada em resultados prévios, antever as soluções mais prováveis. Uma ferramenta semelhante à usada por sites de buscas, ainda que utilize um formato preditivo de soluções, ou seja, que completa partes da resposta, mesmo que não estejam corretas, para o atender ao enunciado.

Assim, a plataforma responderá que houve o grito de independência e que milhares de pessoas rondaram às águas do Ipiranga, caso seja direcionado para esse número. Serviços como o Bard ou o ChatGPT partirão de dados reais sobre Dom Pedro I e então elaborarão uma resposta como: “Dom Pedro I desafiou a Metrópole Portuguesa e instaurou o Império Brasileiro em 1822, nas margens do Rio Ipiranga ao lado _________ pessoas”.

Frente a esse desafio, plataformas tentam reduzir esse fenômeno. O ChatGPT, por exemplo, oferece um serviço mais minucioso e apurado, caso o internauta pague a versão premium. Com ela, a máquina não completará lacunas e dirá que só pode ajudar o usuário de forma geral. Já no caso da Bard, funcionários da plataforma procuram as “alucinações mais comum” dentro do seu ambiente digital e otimizam os resultados de maneira artesanal, assim mitigando riscos. 

No entanto, a dúvida persiste: o comportamento de algoritmos afastará usuários da plataforma? Só os próximos meses dirão.