Chat de Inteligência Artificial é demitido após xingar cliente que buscava atendimento

Revoltado com a ferramenta, Ashley Beauchamp caçoou do aplicativo pedindo que falasse mal da própria empresa e registrou tudo no X 

Mundialmente conhecida no mercado de transporte e entregas de cargas, a DPD é uma multinacional que sempre teve dificuldades no atendimento de clientes em tempo real. Com mais 50 escritórios ao redor do globo, a empresa decidiu modernizar suas operações no fim de 2023 e instalou o Chatbot, programa de autoatendimento, habilitado com tecnologia de Inteligência Artificial (IA). Alguns meses depois da experiência, o software foi desabilitado do site da empresa e deu lugar a atendentes humanos. O motivo do desligamento da ferramenta? Calúnia de clientes e depreciação da marca.

É isso que conta Ashley Beauchamp, professor particular de música, em seu perfil do X, antigo Twitter. De acordo com o músico, a troca de profissionais humanos pela ferramenta de Inteligência Artificial tornou o atendimento ineficiente, fazendo-o ficar minutos na frente do computador para ter respostas.

Como uma forma de vingança, Beauchamp brincou com a ferramenta, pedindo que ela o xingasse e falasse mal da própria empresa na forma de um haicai, poema japonês de três estrofes. Em uma das respostas ao cliente, o modelo de inteligência artificial escreveu a pérola: “DPD é inútil; Um Chatbot que não pode ajudá-lo; Nem perca tempo ligando para eles”.

A reação da DPD foi imediata. No próprio X, antigo Twitter, da empresa, a organização ressaltou que “vem utilizando ferramentas de IA nos últimos anos de maneira satisfatória” e que devido a um erro de programação, o software teve alucinações que o tornaram impróprio para a comunicação humana. Após o post de Beauchamp, o serviço foi temporariamente suspenso.

Inteligência Artificial e alucinações, uma velha conhecida

A conversa de Beauchamp com a Inteligência Artificial reacendeu o debate sobre o comportamento que ferramentas e Chatbots podem apresentar. Chamadas por técnicos de “alucinações”, configuram momentos em que a IA não possui uma resposta exata para a pergunta do usuário e, por espontânea escolha, começa a divagar sobre os necessários possíveis dentro do contexto fornecido pelo internauta. Em um capítulo recente da série Não Falo com Gente, o Bard, ferramenta do Google, teve a proeza de criar uma política nacional baseada no nacionalismo, desenvolvimentismo e na coxinha, quase um Getulio Vargas contemporâneo.

Por sorte, um experimento recente da Vectara, uma startup fundada por ex-profissionais do Google, relatou que a ocorrência de alucinações é baixa, mas varia de acordo com o software utilizado. Para realizar a experiência, os funcionários da empresa pediram que diferentes aplicativos de IA — ChatGPT (OpenAI), Lhama (Meta) , Cohere, Claude 2 (Anthropic), Mistral 7B e Palm (Google) — fizessem uma tarefa simples, elaborar resumos de documentos.

Como resultados da pesquisa, o ChatGPT apresentou uma taxa de 3% a 3,5% de alucinação a cada 100 palavras lidas; o Lhama, de 5% a 6%; Cohere, entre 7,5% e 8,5%; Claude, 8,5%; Mistral 7B, 9,4% e o Palm Google de 12,1% a 27,2%. Segundo os funcionários da Vectara, a maior quantidade de alucinações do Palm ocorre no Chat Palm que normalmente reproduz contextos mais elaborados para cada resposta, levando a mais imprecisões.  

Ainda segundo os profissionais, o experimento não invalida outras experiências de alucinações de IA vivenciadas por internautas. Apenas demonstra que ferramentas de Inteligência Artificial precisam ser frequentemente polidas para apresentar informações verídicas e respostas sem vieses.