Brasileiros treinam inteligência artificial para lidar com temas sensíveis como racismo, nazismo e álcool

Divulgação Dig Watch| CC

Por Eric Finger

Diante da crescente influência da inteligência artificial em áreas diversas do cotidiano, pesquisadores e desenvolvedores brasileiros têm se mobilizado para tornar os sistemas mais conscientes e responsáveis na forma como lidam com temas sensíveis, como racismo, nazismo e consumo de álcool. O esforço envolve o refinamento de algoritmos e o treinamento de modelos para que consigam responder a esses assuntos de maneira ética, informativa e sem reproduzir preconceitos ou incentivar comportamentos prejudiciais.

Uma das iniciativas está sendo conduzida por uma equipe de engenheiros, linguistas e especialistas em ética e tecnologia, que utilizam situações reais e hipóteses desafiadoras para ajustar o comportamento de grandes modelos de linguagem. O objetivo é ensinar a IA a identificar contextos perigosos ou delicados e a responder de maneira adequada, especialmente em temas historicamente marcados por violência ou desinformação.

Um exemplo citado pelos especialistas é o tratamento dado ao tema do nazismo. O foco é garantir que a IA compreenda os impactos históricos desse regime e jamais reproduza ou relativize discursos negacionistas. Quando o tema é o racismo, o treinamento busca evitar respostas neutras que possam suavizar situações de discriminação, instruindo a IA a reconhecer desigualdades estruturais e promover respostas assertivas e educativas.

Outro ponto importante é o consumo de álcool. Muitos sistemas, sem supervisão adequada, podem incentivar ou banalizar o consumo excessivo. Para evitar isso, os brasileiros envolvidos no projeto estão programando as IAs para reforçar o consumo responsável e, sempre que necessário, orientar o usuário a procurar ajuda profissional.

Segundo os pesquisadores, o trabalho de treinamento é contínuo, pois os modelos de IA aprendem com grandes volumes de dados disponíveis na internet, que muitas vezes carregam preconceitos e visões distorcidas, os chamados vieses de informação.