O Supremo Tribunal Federalista (STF) está julgando desde o final de novembro se o item 19 do Marco Social da Internet, que trata da responsabilidade das redes sociais sobre conteúdos publicados por seus usuários, é constitucional ou não. Nas sessões, alguns dos ministros têm demonstrado falta de conhecimento sobre as ferramentas tecnológicas que são o próprio foco do julgamento.
Declarações que evidenciam a ignorância dos membros do STF viralizaram nas redes sociais recentemente. A falta de privança com as ferramentas e o caráter superficial e confuso de alguns diálogos nas sessões suscitaram ironias e, ao mesmo tempo, preocupação com o veste de que o rumo das redes sociais no Brasil esteja nas mãos de pessoas com tão pouco domínio do ponto.
Em um dos trechos do julgamento que mais circulou, os ministros conversavam sobre a viralização de conteúdos nas redes e misturaram diversos conceitos de forma desconexa e imprecisa:
Luiz Fux: Quem reproduz essas informações todas é o robô. Nós estamos tratando de liberdade de sentença de pessoas quando, na verdade, no fundo, o grande protagonista dessa circulação de todas essas informações – ou falsas ou verdadeiras ou dirigidas para as bolhas que eles próprios criam – é a lucidez sintético. A culpa é do robô.
Dias Toffoli: É a mão invisível da lucidez sintético. Muito se fala da mão invisível do mercado. Mas existe a mão invisível da lucidez.
Luiz Fux: A gente tem que regular as máquinas…
Flávio Dino: A mão é invisível, mas o cérebro é visível. E os lucros mais ainda. São as maiores empresas do mundo…
O perito em redes e cibersegurança Filipe Augusto da Luz Lemos, professor pesquisador por cortesia da Universidade de Syracuse, diz que a conversa entre os ministros “sugere uma falta de clareza sobre conceitos relacionados à tecnologia, especialmente à inteligência artificial” e que “os ministros deveriam buscar o auxílio de peritos especializados”. Sem isso, diz ele, há “o risco de decisões serem tomadas a partir de discursos vazios ou baseados em conceitos equivocados”.
“A inteligência artificial, ao contrário do que sugerem, não é uma entidade independente ou misteriosa. Trata-se de ferramentas criadas e operadas por pessoas, que funcionam a partir de dados e algoritmos desenvolvidos por programadores. Portanto, falar em ‘regular as máquinas’ ou em ‘mão invisível’ não apenas desvia o foco, mas também evidencia a falta de apoio de profissionais capacitados”, comenta.
Em outra ocasião, o ministro Flávio Dino, em tom jocoso mas com evidente proporção de seriedade, acusou uma lucidez sintético de mentir sobre sua vida conjugal. “Deparei com informações sobre a minha própria pessoa dessas ferramentas de inteligência artificial que são totalmente impertinentes. Por exemplo, eu sou casado com outra moça, segundo uma dessas ferramentas. Para mim, nada deletério no caso concreto, mas pode gerar alguns transtornos para os respectivos cônjuges, para a minha esposa e, claro, para o marido da moça. Então, quem responde por isso? Nesse caso, nada tem de injurioso, mas é uma informação falsa que pode gerar problemas na intimidade e na privacidade”, disse.
Lemos esclarece que é equivocado falar em “informação falsa” no contexto de uma resposta gerada por lucidez sintético, já que ferramentas do tipo “não têm consciência nem intenção ao gerar respostas”. “Elas simplesmente analisam padrões em grandes volumes de dados e produzem resultados com base no que foi aprendido”, explica. Ou por outra, lembra ele, “os próprios modelos alertam que podem cometer erros e recomendam que as informações fornecidas sejam verificadas”.
“Eu mesmo já me pesquisei em uma dessas ferramentas e descobri que, segundo ela, eu era um jogador de futebol que já jogou no Botafogo. A confusão aconteceu porque existia outro ‘Filipe Lemos’ nos dados disponíveis, que realmente era jogador de futebol, mas não havia qualquer informação sobre Filipe Augusto da Luz Lemos, que é o meu nome completo. O sistema, então, fez uma associação incorreta”, relata. “Após corrigir a ferramenta e fornecer a informação correta, ela aprendeu quem eu sou e nunca mais cometeu esse erro. É justamente daí que vem o termo ‘aprendizado de máquina’: esses modelos estão sempre aprendendo com novos dados, ajustando suas respostas e se tornando mais completos e precisos com o tempo. Esses sistemas não criam ‘informações falsas'”, acrescenta.
Em outra ocasião do julgamento no STF, o ministro Alexandre de Moraes afirmou que as redes sociais não controlam perfis inautênticos porque “falta boa vontade”, e porque faz secção do gravura do negócio delas “ter mais robôs, ter mais ofensa, mais discurso de ódio, monetizar e ganhar mais dinheiro”. Para Lemos, as suposições de Moraes “não condizem com a lógica dessas plataformas”.
“Como qualquer empresa, as redes sociais dependem de um ambiente saudável e acolhedor para manter os usuários engajados. Se compararmos com uma loja física, ninguém continuaria frequentando um lugar onde os funcionários ofendem os clientes ou incentivam outros a atacá-los. Esse tipo de ambiente não gera lucro – pelo contrário, afasta as pessoas”, comenta.
Sobre os problemas relacionados às contas inautênticas, o perito diz que “as plataformas digitais têm plena consciência disso e já investem em mecanismos para combater perfis inautênticos e conteúdos ofensivos”. “Elas removem contas falsas, recebem denúncias dos usuários e utilizam inteligência artificial para aprimorar constantemente seus processos de moderação. O Facebook e o Instagram, por exemplo, frequentemente incentivam experiências positivas, como destacar boas memórias ou promover conteúdos que reforçam o bem-estar do usuário”, diz.
Para Lemos, o que o ministro do STF descreve reflete uma experiência pessoal que é generalidade a qualquer pessoa com visibilidade pública na internet. “A exposição a críticas e ataques, infelizmente, faz parte do ambiente online”, diz. “A amplificação dessas vozes negativas muitas vezes ocorre porque os próprios usuários lhes dão atenção desproporcional”, acrescenta.
É papo de boteco, com cerveja estragada, diz jurista
Para o jurista André Marsiglia, perito em liberdade de sentença, as falas dos ministros demonstram ignorância sobre o tema em julgamento no STF. “Acreditar que a culpa é do robô é o mesmo que querer punir o ator pela fala do personagem. Além disso, expõe-se uma visão ideológica, de base socialista, que não deveria existir como premissa em um julgamento desse nível, de que quem lucra e prospera está necessariamente mal intencionado. É papo de boteco, com cerveja estragada”, comenta.
Marsiglia diz que as discussões dos magistrados sobre liberdade de sentença têm uma pretensão pueril de saber “a mentira e a verdade puras, cristalinas”. “A liberdade de expressão deve absorver imprecisões, equívocos, como partes da construção do debate. A visão da Corte inviabiliza a liberdade de expressão e a própria inteligência artificial, que aprende a acertar errando. A visão dogmática do STF é um retrocesso e um desserviço à visão clássica das liberdades individuais e à visão moderna sobre tecnologias”, afirma.
Por ignorância tecnológica, STF já misturou abusos com trapalhadas
Em ocasiões recentes, a ignorância tecnológica levou o STF a cometer trapalhadas em meio aos abusos cometidos contra a liberdade de sentença nas redes.
Quando determinou a suspensão do X, Alexandre de Moraes impediu o uso de redes privadas virtuais (VPNs) para acessar a plataforma, impondo multas aos usuários que tentassem contornar restrições com essas ferramentas. No entanto, pela própria natureza técnica das VPNs, a fiscalização do uso da utensílio é praticamente inviável, tornando a ordem pouco eficiente.
Moraes também ordenou que Google e Apple retirassem o chegada a aplicativos de VPN de suas lojas de apps, o que revela ignorância sobre a utilidade das VPNs, que vai muito além de espoliar censuras de governos autoritários: em muitos casos, elas são imprescindíveis até para o funcionamento de empresas, ao protegerem dados sensíveis e permitirem chegada remoto seguro para funcionários.
Nos últimos anos, os ministros também têm revelado um entendimento pobre da dinâmica das redes sociais e da cultura do dedo. Em inquéritos que o STF conduz há anos, eles têm fechado o cerco contra a liberdade de sentença de usuários de redes sociais alegando que eles integram “milícias digitais”, responsáveis por ataques supostamente coordenados contra instituições. As investigações – não se sabe se por mera conveniência ou também por ignorância – frequentemente desconsideram a dinâmica orgânica das redes sociais, em que críticas e comportamentos coletivos surgem de forma espontânea e descentralizada.
