Entre o progresso e o regresso, redes sociais e ferramentas de IA redefinem a infância e adolescência

Por Ingrid Lacerda

Nos últimos anos, novas tecnologias têm redefinido a infância e a adolescência de jovens no mundo inteiro. Apesar dos benefícios de alguns dispositivos eletrônicos nas áreas de educação, socialização e entretenimento, sobretudo durante a pandemia, essas ferramentas também apresentam um potencial negativo para o desenvolvimento, amadurecimento e integração na sociedade.

De acordo com uma pesquisa realizada com mais de 2.400 crianças, entre março e agosto de 2024, pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic), aponta que 83% das crianças e adolescentes que usam internet no Brasil, têm contas em redes sociais como WhatsApp, Instagram, TikTok e YouTube. Os números expõem o uso intenso em plataformas de vídeo e mensagens, aplicativos relevantes para a ajuda e comunicação de grupos de jovens minoritários e marginalizados, além da aplicação de IAs, ferramentas com competência de auxiliar na educação.

Plataformas de IAs são capazes de melhorar a educação, como Khan Academy, que utilizam a tecnologia para ajustar o conteúdo às necessidades de cada estudante. Além disso, podem promover a criatividade, fazendo com que crianças expressem as suas ideias por meio de fotos, vídeos e músicas. Contudo, até que ponto as IAs e redes sociais são saudáveis?

Embora proporcionem práticas de aprendizagem, a exposição excessiva diminui a capacidade de resolver problemas de forma independente. Além disso, a maioria das plataformas de inteligência artificial exige a coleta de dados pessoais, violando a privacidade deste público. Em um relatório da ONG Human Rights Watch, pesquisadores apontaram o uso de fotos de crianças e adolescentes brasileiros, sem autorização, para treinamento de inteligências artificiais (IAs). As imagens são usadas para o conjunto de dados chamado LAION-5B, utilizado no desenvolvimento de tecnologias de ferramentas de IA.

Fora da área da educação, jogos virtuais e redes sociais utilizam algoritmos para personalizar conteúdo, e se não forem devidamente regulamentadas, também podem comprometer a segurança de informações pessoais. Em uma publicação feita pelo The New York Times, em março de 2024, foram discutidos os algoritmos específicos que viciam em relação à saúde mental dos jovens. O artigo questiona os reais impactos do uso abusivo das redes, que incentiva padrões de beleza e popularidade irreais, afetando o comportamento dos adolescentes, especialmente de meninas.

A generalização de conteúdo dessas ferramentas também podem influenciar com falas problemáticas, fake news e deepfakes. O relatório de 2023 da Sumsub Identity Fraud Report indica que deepfakes crescem 830% no Brasil em um ano devido ao uso excessivo dessas ferramentas. A criação de imagens falsas ou manipuladas para práticas de bullying e a clonagem de voz podem ser empregadas ​​para ameaçar jovens e influenciá-las a realizar autolesão, violência e, em alguns casos, suicídios.

No Brasil, entre agosto de 2021 e março de 2023, um canal na plataforma Discord era usado como ponto de encontro para chantagens sexuais, estupros virtuais e constrangimentos contra adolescentes, majoritariamente mulheres — seus dados pessoais eram coletados, e os conteúdos eram vendidos. Já em 2024, nos Estados Unidos, aos 14 anos, Sewell Setzer, se suicidou após se apegar romanticamente em uma figura de chatbot que simulava uma personagem da série “Game of Thrones”. Segundo a mãe de Sewell, Megan Garcia, o adolescente teve pensamentos suicidas durante conversas com o programa, frequentemente lembradas e influenciadas pela personagem na plataforma, além de apresentar mensagens de cunho sexual e antropomórficas ao adolescente.

O fácil acesso dessas tecnologias exige abordagens e discussões regulatórias mais amplas, principalmente a respeito da vulnerabilidade de crianças e adolescentes no ambiente digital. Especificamente no Brasil, o Projeto de Lei nº 2338/23 representa um grande passo para integrar a proteção virtual no desenvolvimento e uso de tecnologias de IA no país, tornando-se uma esperança na implementação de avanços que preservem os direitos e o bem-estar dos jovens.