"Não tem como a democracia não ser tomada pela IA”, diz filósofo da USP

Nos últimos dois anos, não houve outro assunto tão dominante no noticiário e em muitas mesas de bar quanto a Inteligência Artificial (IA). De ferramentas para aumentar a produtividade no trabalho ou encontrar o par perfeito em aplicativos a discussões sobre a predominância das Big Techs em nossas vidas, o tema levanta discussões importantes sobre o papel de democracias na criação de leis e no desenvolvimento de práticas de transparência para a IA.

Em entrevista exclusiva ao IAIH, Lucas Vilalta, pesquisador no projeto IA Responsável na Cátedra Oscar Sala do Instituto de Estudo Avançados da USP, diz que a democracia e a Inteligência Artificial são indissociáveis. “As brigas recentes com Elon Musk (Dono do X) e o STF (Supremo Tribunal Federal) são mais uma prova de que muitos desses sites funcionam como instituições digitais dentro da própria democracia internacional. Ou seja, é preciso responsabilizar essas companhias pelas atividades que ocorrem dentro de plataformas”, afirmou.   

Na conversa, além de falar do papel coletivo para quebrar a “caixa preta” que existe dentro de algoritmos, Vilalta explica que a única forma de encontrar uma saída aos dilemas contemporâneos é constituir uma sociedade baseada na "Cosmotécnica” — em outras palavras, que considere a tecnologia como um atributo fundamental para pensarmos decisões individuais e coletivas. Confira os melhores trechos da entrevista.

IAIH: Por que a IA se tornou tão fascinante nos últimos tempos? Muitos dizem que ela “desmaterializou” a tecnologia. O que você acha?

Lucas Vilalta: Com o digital, passamos a entender os seres humanos como relações. No entanto, muitas pessoas dizem que a informação não é matéria nem energia, ela seria algo imaterial, um composto etéreo que ronda celulares, computadores e outras plataformas.

No meu entender, esse tipo de pensamento é uma simplificação, porque a relação [entre informações] existe em vários objetos presente no dia a dia. Os DataCenters, por exemplo, precisam de uma quantidade enorme de energia e de água para funcionar. Em outras palavras, a Internet, assim como a IA, só se sustentam porque existem uma base material.

Por outro lado, o interesse recente pela inteligência artificial veio com a sofisticação de algoritmos. Por mais que técnicas, como redes neurais e aprendizado de máquina estejam em uso há muito tempo, a grande novidade está na maneira como empresas adicionaram a tecnologia como um alicerce do modelo de negócios global. Assim, na atual conjuntura, a IA transformou a maneira econômica, política e social como pessoas vivem e planejam ações.

Na reta final de seu doutorado pela USP, Vilalta propõe análise filosófica sobre o conceito de informação, que permite pensar em políticas públicas, sociais e na subjetividade humana ao lado das máquinas e da tecnologia. Foto: Acervo do autor.

Como essas mudanças transformam nossas vidas?

Lucas Vilalta: Antes, existia uma inteligência artificial 1.0, que é mais ou menos o que aconteceu com a internet. Não havia pessoas que atuavam como produtores de conteúdo, apenas um certo número de páginas que usuários poderiam navegar. Com o tempo, mais pessoas começaram a entender o processo de criação e a experiência foi democratizada. Esse é o atual momento que vivemos com a IA.

Então meu ponto é que, junto com o hype da produtividade e deslumbramento com a tecnologia, a IA deixa de ser um mediador de relações humanas como dentro de aplicativos de música, paquera e até buscadores on-line (vide o Google) para se tornar um assistente personalizado.

Ou seja, na “edição IA 2.0”, usuários poderão utilizar os prompts para seus próprios interesses privados. A contrapartida, no entanto, é que iremos normatizar essas práticas e automatizar o uso de tecnologias em tarefas rotineiras, abraçando cada vez mais uma abordagem “automática” fornecida por algoritmos. E claro, estaremos mais expostos à captura dos dados por plataformas e Big Techs, uma discussão que agora se tornou rotineira.

Em seu último artigo para o jornal da USP, você aborda os impactos estruturais da IA na democracia. Quais aspectos devemos estar de olho para que a democracia não seja tomada pela inteligência artificial? 

Lucas Vilalta: De cara, não tem como a democracia não ser tomada pela IA. A ideia de uma técnica separada da vida social se apoia muito que uma ferramenta poderia ser neutra, como empunhar um martelo ou uma vara de pescar. No entanto, quando aparecem as primeiras máquinas industriais, é a tecnologia quem dita o ritmo da indústria, da economia e da vida social.

É a técnica que produz um tipo de relação “transindividual” que organiza e estabelece a maneira como indivíduos irão se relacionar. E mesmo quem busque viver afastado da tecnologia, não consegue se distanciar muito dela. Primeiro, porque as plataformas jamais explicam como funcionam seus algoritmos e, segundo, porque ainda não existem boas práticas internacionais que exijam a transparência desses conglomerados.

Além disso, as brigas recentes com Elon Musk [Dono do X] e o STF (Supremo Tribunal Federal) são mais uma prova de que muitos desses sites funcionam como instituições  digitais dentro da própria democracia internacional. Ou seja, é preciso responsabilizar essas companhias pelas atividades que ocorrem dentro de plataformas. 

Agora, o outro lado disso tudo é entender o próprio tempo histórico que nossa democracia vive. As instituições tradicionais nasceram na Revolução Francesa, momento em que o aparato de Estado surge com características econômicas, políticas e sociais muito próprias do contexto e dos valores da época.

Assim, precisamos pautar uma reconfiguração institucional na maneira de conceber a política e a democracia, senão continuaremos enxugando gelo e remendando buracos, batendo contra a caixa preta de algoritmos.

Empresas, plataformas e, sobretudo, Big Techs dispõem recursos que superam em muito o PIB de várias nações, então por que não poderiam ser regulamentadas e arbitradas como qualquer outro player internacional? 

É possível utilizar a IA sem entrar no jogo das Big Techs?

Eu acredito muito no que o filósofo [Gilbert] Simondon coloca: criar uma sociedade em torno da técnica. Não é possível continuar vivendo no séc. XXI separando tecnologia de sociedade e estipulando que as decisões políticas, sociais e econômicas vivam em um mundo à parte.

Foi a tecnologia que nos constitui como seres humanos. Se pensarmos no Homo Sapiens, todo o desenvolvimento da nossa espécie surgiu por meio do avanço técnico. Isso quer dizer, devemos deixar de lado a figura do “Senhores da tecnologia” e entender que nossas invenções são tão responsáveis como nós do mundo que vivemos. Mais do que isso, elas são testemunhas de processos sociais e históricos de diferentes sociedades.

Eu chamo esse tipo de relação de "Cosmotécnica", porque representa algo inesperável na maneira de constituímos diferentes tipos de sociedades. A bomba atômica foi a síntese muito clara de tensões políticas e econômicas que vivíamos na década de 1950, da mesma forma que IA é o espelho de nossos projetos e desejos contemporâneos.

Em tempo, é urgente entender que nem tudo vem de mão beijada. Os avanços legislativos e as conquistas sociais que adquirimos são fruto muitos de embates e lutas, inclusive em torno dos usos da tecnologia.  Se pararmos para pensar, a própria noção de cidadania é muito recente na régua histórica, ela nasce no século XIX e só se consolida a partir de 1900. Ou seja, nos parece óbvio que cada um deva ter direito ao voto e tenha acesso a condições mínimas de vida. Mas essa obviedade levou anos e anos para ser consolidada.

Nesse sentido, o primeiro passo para desenvolver IAs transparentes é plantar a semente da educação. Nenhuma mudança é simplesmente puxada pela cartola. Toda revolução de mentalidade e transformação de comportamento requer tempo, conversas, debates e ações. A chave para resolver a maioria dos obstáculos de hoje e do futuro passa por, sem dúvida, pensar em um mundo em que tecnologia e sociedade estejam conectadas em diferentes contextos sociais e permitam a troca mútua de saberes e experiências.