Estamos vivendo em uma IA-cracia?
Postado em 2024-01-08Ergon Cugler
Imagine um país que proibisse, de forma autoritária, seus cidadãos de lerem sobre temas políticos que o governo não concordasse; ou então onde indivíduos terraplanistas passassem a receber, em suas caixas de correio, panfletos com teorias da conspiração selecionadas de forma personalizada. Se alguém reclamasse de censura ao ser proibido de falar sobre algum assunto, não haveria julgamento e também não teria a quem recorrer, pois o governo de tal país decidiu ter uma sede fora do próprio território que governa, sendo imune à qualquer decisão da Justiça.
Obviamente, se qualquer país tivesse tal postura, chamaríamos de autoritária, mas quando foi que deixamos meia dúzia de companhias globais - Big Techs -, passarem a decidir o que podemos e o que não podemos falar ou até mesmo ler? Mais do que isso, como é possível companhias com lucro anual de dezenas de bilhões de dólares não possuírem sequer um escritório em muitos dos países que operam, estando imunes às leis, inclusive leis para o combate à crimes de violência e exploração de crianças e adolescentes?
Público vs. Privado
Em 2023, durante o International Conference on Theory and Practice of Electronic Governance (ICEGOV), o pesquisador Bruno Henrique Sanches (FGV EAESP) e eu buscamos refletir sobre a natureza e as características das plataformas digitais, propondo frameworks para observar a chamada ‘tecnosfera’, isto é, a dimensão tecnológica que se materializa por meio da construção humana, envolvendo a internet, as plataformas e os meios que usamos para nos conectar.
O que se observou é que apesar das companhias possuírem uma natureza privada e os algoritmos possuírem seus diversos aspectos técnicos, a dinâmica em que se opera na tecnosfera faz com que o ambiente das plataformas passe a ter características públicas, ou seja, com seus algoritmos servindo como instrumentos políticos, disputando não apenas a narrativa do ambiente digital, mas influenciando os próprios rumos de políticas públicas e eleições em países.
Como não há neutralidade em redes, inclusive com as plataformas decidindo quais debates irão ou não irão engajar, a disputa política da democracia passa a ser desbalanceada, tendo o juiz da casa como decisor de quais termos os algoritmos deverão alavancar ou restringir. Exemplo disso foi a própria disputa pela narrativa do Projeto de Lei 2630/2020, conhecido como ‘PL das Fake News”, onde houveram diversas denúncias contra as plataformas por estas praticarem censura em publicações que apoiassem o PL, sem contar o chamado ‘shadowban’, que limita o alcance de publicações sem nem precisar derrubá-las, tendenciando assim o debate público em favor do que pensa quem detém a plataforma. E há ainda casos em que publicações ou contas inteiras são derrubadas, sem que o usuário tenha sequer um serviço de atendimento ao cidadão (SAC) para ligar, ou prazo de resposta da plataforma para solucionar seus problemas.
Em uma democracia, o que se tem são debates e fóruns para decidir os rumos do que afeta a sociedade e o interesse comum. Audiências públicas, eleições periódicas, mandatos eletivos, instâncias contramajoritárias, conselhos participativos, fóruns da sociedade civil organizada; não faltam exemplos de mecanismos de controle social no que diz respeito às atividades públicas e da dinâmica política. Já no caso de atividades privadas, temos modelos de agências reguladoras, ou ainda comitês intersetoriais, fato é que nem mesmo uma padaria das mais simples possui licença para operar sem uma autorização sanitária, caso contrário, haveria um impacto direto na saúde pública com alimentos oferecendo risco, sem controle de qualidade ou mesmo segurança.
Porém, sem sede em território nacional, por vezes as Big Techs não se veem no compromisso de cumprir a legislação do país em que operam. Exemplo disso, vimos o Telegram se recusando de entregar os dados de usuários envolvidos em aliciamento de menores e planejamento de ataques em ambiente escolar. Ou ainda, plataformas como o Facebook (Meta) impulsionando anúncios com desinformação e teorias da conspiração, colocando vidas em risco. Sem contar, as práticas de shadowban, que restringem o alcance de usuários que expressam opiniões divergentes, sem sequer transparência de quais critérios foram elencados pela plataforma.
Há quem possa dizer que as plataformas são empresas privadas e que o usuário escolhe qual empresa frequentar. Mas em meio à polarização que se coloca entre o ambiente das plataformas possuir uma natureza privada e possuir características públicas; ou ainda entre seus algoritmos se restringirem à aspectos técnicos e servirem como instrumentos políticos, a concepção de que esses espaços podem ser estritamente classificados em categorias binárias não reflete a complexidade intrínseca desses ecossistemas. Até porque, as plataformas digitais, mesmo sendo empresas privadas com fins lucrativos, transcenderam sua natureza, tornando-se arenas públicas fundamentais para o engajamento cívico, o discurso e as atividades políticas.
De tal forma, a natureza privada dessas plataformas é coexistente com seu caráter público, desafiando a ideia de uma divisão nítida entre essas esferas. Isto é, a ausência de uma regulação efetiva por parte da sociedade através do Estado, transforma a internet em uma terra sem lei, onde cada plataforma estabelece seus próprios termos de uso, muitas vezes dissociados das legislações nacionais. Essa lacuna na regulação tecnológica cria um ambiente propício para abusos, monopolização e viés algorítmico, sem prestação de contas.
Poder Decisório
A complexidade dessas plataformas exige uma abordagem de governança mais sofisticada e multifacetada. Um modelo de governança intersetorial como inspira o Comitê Gestor da Internet (CGI.br), que transcenda a polarização entre público e privado, ou técnico e político; e inserindo a sociedade civil para pautar qual deve ser o design dos algoritmos na construção do debate público que influencia a sociedade. Caso contrário, estamos delegando à meia dúzia de Big Techs, com parâmetros desconhecidos, o poder decisório sobre qual será a pauta do país e abrindo mão dos inúmeros mecanismos de participação e controle social, permitindo que estas influenciem diretamente os debates, as legislações, as políticas públicas e os resultados eleitorais.
É preciso provocar que os algoritmos não são apenas um debate técnico de empresas privadas, mas um debate político de arena pública. Em uma abordagem colaborativa deve-se integrar usuários, entidades privadas, autoridades governamentais, universidades e grupos de pesquisa e a sociedade civil, visando salvaguardar direitos e deveres individuais, promover a transparência e a responsabilidade ao mitigar vieses algorítmicos.
Em última análise, a compreensão das plataformas digitais como ambientes híbridos, complexos e de interesse intersetorial desafia as noções simplistas e destaca a necessidade de uma abordagem regulatória abrangente. Até porque, talvez não tenhamos percebido, mas abrimos mão em algum momento de entender a tecnosfera e a internet como arenas públicas, imersas em disputas de interesses políticos e econômicos, com algoritmos que não possuem neutralidade. E como não há vácuo na política, tais companhias privadas se apropriaram desse terreno fértil, colocando-se acima da lei em um mantra de uma falsa liberdade de expressão, que só funciona para quem se alinha com tais termos de uso particulares da plataforma em questão.
Se já não abrimos mão o suficiente de nossa democracia, é preciso encarar os algoritmos como elemento de debate público, sabendo que estruturalmente todas as demais discussões e políticas públicas passam pela arena digital da tecnosfera em que o algorítmico pesa - e muito. Na contramão de uma IA-cracia, onde algoritmos decidem os rumos de um povo, qual a fronteira para um ponto sem volta, onde um debate como este nem seja possível, por violar os termos de uso?
Sobre o autor:
Ergon Cugler é mestrando em Administração Pública e Governo na FGV EAESP. MBA em Data Science & Analytics (USP) e Bacharel em Gestão de Políticas Públicas (USP). É Pesquisador CNPq, membro do Núcleo de Estudos da Burocracia (NEB), Centro de Estudos da Mídia Alternativa Barão de Itararé e Coalizão Direitos na Rede (CDR)
*Este texto não reflete necessariamente as opiniões do Gestão, Política & Sociedade.
Leia também:
A participação cidadã como um dos princípios de Governo Aberto
Observatórios sociais e desigualdades no Brasil: Uma análise exploratória e descritiva
Intersetorialidade e políticas públicas para as juventudes: contribuições de produções acadêmicas
Organização do trabalho nas dinâmicas de inovação: Evidências na Administração Pública
