Um ataque coordenado de ódio de extrema direita, potencializado pelos algoritmos das redes sociais, motivou a ONG Código Não Binário a criar uma ferramenta de inteligência artificial para detecção de discurso de ódio anti-LGBT+ e a acionar a Justiça contra as big techs Meta (proprietária do Facebook, do Instagram e do Whatsapp), Google (responsável pelo YouTube), X e ByteDance (TikTok) em ação civil pública que denuncia a violência digital.
As diretoras da Código Não Binário, Veronyka Gimenes e Amanda Claro, participaram nesta segunda-feira (2) do jornal Conexão BdF, da Rádio Brasil de Fato, e contaram sobre o processo que levaram à criação da ferramenta e ao processo judicial – protocolado com apoio do Instituto Brasileiro de Transmasculinidades (Ibrat), do Fórum Nacional de Travestis e Transexuais Negras e Negros (Fonatrans) e da revista AzMina.
Em maio de 2024, um corte de um episódio do podcast Entre Amigues, da Código Não Binário, viralizou nas principais redes. O vídeo falava sobre o termo “boyceta”, usado na periferia de São Paulo para se referir a pessoas transmasculinas. O assunto foi o mais comentado do Brasil no X (rede de Elon Musk) por dois dias, em grande parte com discurso de ódio. O conteúdo também foi impulsionado pelo algoritmo do TikTok para milhões de perfis.
Ao partir para a análise do conteúdo, o grupo, em busca de preservar a saúde mental das pessoas envolvidas, desenvolveu uma metodologia de extração de dados. Dois mil comentários foram classificados manualmente, e, a partir daí, uma ferramenta de inteligência artificial (IA) passou a realizar a análise dos demais. Um relatório técnico foi elaborado e baseou a Ação Civil Pública.
A IA desenvolvida pelo grupo foi batizada de TybyrIA, e homenageia Tybyra do Maranhão, primeira pessoa vítima oficial de LGBTfobia durante a colonização do território do Brasil. Segundo relatos, ele foi amarrado à boca de um canhão, que foi disparado, causando a morte instantaneamente. A ferramenta, gratuita e com código aberto, está disponível no site da Código Não Binário.
“Já que dizem que os dados são o ‘novo petróleo’, a gente levou isso ao pé da letra, e transformou esse ódio nessa riqueza, nessa potência de combater essa circulação de ódio através dessa IA”, resumiu Veronyka na entrevista ao Conexão BdF.
A especialista destacou também a importância de desmitificar alguns conceitos a respeito da inteligência artificial. O tema ganhou força nos últimos anos e seguirá fazendo parte do cotidiano, e as ferramentas não devem ser demonizadas.
“Esse modelo de IA, não é como o ChatGPT”, comparou. “Não tem nada a ver com os grandes modelos de linguagem que geram esse interesse comercial super ganancioso, de criar datacenters do tamanho de cidade pelo mundo inteiro. A gente precisa diferenciar isso, mas é algo que afasta as pessoas da IA e é um desconhecimento sobre o campo”, ponderou.
Os números apurados pela Inteligência artificial mostraram que comentários de ódio têm mais respostas que a média. Foi possível identificar que os algoritmos operam para trabalhar com as emoções mais profundas das pessoas, o que inclui a raiva, e intensificar as respostas a essas emoções, “premiando” esse tipo de conteúdo.
“O nosso direito ainda não é adaptado para entender e para cuidar das redes sociais com a velocidade que as mudanças ocorrem. A iniciativa trabalha nesse sentido”, afirmou Amanda Claro.
Os dados produzidos com a IA e as análises do caso permitiram que fosse lançada a iniciativa jurídica inédita. O processo judicial mira todas as principais redes sociais ao mesmo tempo. Na avaliação do grupo, elas atuam conjuntamente.
“Elas [as redes] formam e operam como um sistema desregulado que permite a circulação livre do ódio e premia esses conteúdos. Não é só um espaço, neutro, que não faz nada. O ódio opera através das regras de engajamento dessas plataformas”, completou Amanda.
Para ouvir e assistir
O jornal Conexão BdF vai ao ar em duas edições, de segunda a sexta-feira: a primeira às 12h e a segunda às 17h, na Rádio Brasil de Fato, 98.9 FM na Grande São Paulo, com transmissão simultânea também pelo YouTube do Brasil de Fato.
