OpenAI planeja ação contra Deepfakes durantes as eleições de 2024, setor sem regulamentação específica  

Por ora, serviços semelhantes de produção de imagens e áudios oferecidos pela Google, MidJourney e Stability IA não apresentaram planos

A popularização de ferramentas de Inteligência Artificial (IA) trouxe riscos para empresas e consumidores. Além de produzir textos, músicas, imagens e até vídeos com uma precisão extraordinária para aumentar a produtividade, a chegada dessas aplicações fez explodir o número de deepfakes (farsas que utilizam a IA). A artimanha tem sido usada para divulgar fake news. Frente a esses desafios, a OpenAI, dona do ChatGPT, publicou um artigo apresentando suas medidas contra a desinformação.

Em 2024, 50 países terão eleições em municípios ou para presidência, entre eles estão Brasil, Argentina, Estados Unidos e África do Sul. Além dos pleitos, outra característica une essas nações, há pouca ou nenhuma regulamentação para o controle de partidos que utilizarem a Inteligência Artificial para espalhar fake news ou desenvolver deep fakes. Adiantando-se à mudança, a Open AI apresentou seu plano de redução de danos eleitoral apoiado sobre três eixos: prevenir abusos, promover transparência de conteúdos gerados por IA e facilitar o acesso às autoridades que organizam a disputa. 

De acordo com a organização, usuários do ChatGPT estarão proibidos de reproduzir imagens de pessoas reais e impedidos de inserir áudios alterados para produção de distorções eleitorais. Ainda segundo a empresa, clientes da versão paga não poderão mais utilizar Chatbots para auxiliar campanhas.

Diferentemente da OpenAI, empresas com seus próprios recursos de Inteligência Artificial generativa como Google, MidJourney e Stability AI — estes dois últimos mais voltados à produção de imagens e áudios — ainda não detalharam seus programas de combate às fakes news. De acordo com uma nota enviada à Folha, o Google afirma que sempre teve cautela no desenvolvimento de suas ferramentas de IA e está preparado para qualquer desafio que apareça com a tecnologia emergente.

Redes sociais também se movimentam  

Se empresas como Midjourney e Stability AI ainda não têm respostas para os desafios dos pleitos de 2024, a Meta, proprietária do Facebook, Instagram e do aplicativo de mensagens WhatsApp tem estabelecido novas regras para coibir a divulgação dessas imagens e conteúdos. No ano passado, a empresa anunciou alterações em sua política de propaganda política que envolve o impulsionamento de páginas. Com as mudanças, campanhas devem divulgar se o conteúdo é produzido por IA ou se houve uso da ferramenta para alterar dados. Perfis que não seguirem essas diretrizes estão sujeitos a punições.

No entanto, essas novas regras são válidas apenas para conteúdo impulsionado, ou seja, que possuem maior alcance das plataformas. Além disso, anúncios comuns, que não fazem parte das mudanças da Meta, já conseguiram propagar fake news e golpes de Deep Fake no Facebook e no Instagram sem conhecimento da Meta.

O TikTok, por sua vez, também criou uma regulamentação própria sobre deepfakes. Vídeos que utilizem essa ferramenta devem ter um emblema que os identifique como tal e não podem fazer referência a menores de idade e a pessoas públicas. Por fim, a empresa proibiu a modalidade para o auxílio de campanhas políticas, por violar as políticas internas do aplicativo.

Já o X, ex-Twitter, não detalhou a estratégia para o combate aos deepfakes durante as corridas eleitorais.