É cada vez mais frequente em nossa sociedade a influência da tecnologia e dos algoritmos. Eles determinam se uma pessoa terá de pagar mais pelo seguro de saúde ou se terá o currículo pré-selecionado para uma vaga de trabalho, podendo influenciar até na pena de um crime, por exemplo.
O tema é abordado no livro Política dos Algoritmos, de Ricardo Mendonça, Fernando Figueiras e Virgílio Almeida, que acabou de ser lançado pela editora Ubu e traz um panorama atual sobre o assunto.
Filgueiras é professor associado na Faculdade de Ciências Sociais da Universidade Federal de Goiás e também atua como diretor de inovação da Secretaria de Gestão da Informação, Inovação e Avaliação de Políticas Educacionais do Ministério da Educação (MEC). Ao Conversa Bem Viver, ele explica o funcionamento das tecnologias e aponta como a sociedade deve se portar diante desse fenômeno.
“Algoritmos são um novo tipo de instituição que emerge nas sociedades contemporâneas. Como os sistemas algorítmicos são estatísticos e usam cálculos para chegar a causalidades, acabamos transferindo a desigualdade via dados ou pela própria construção intencional dos algoritmos. A direção essencial é produzir um processo de democratização e de controle democrático dos algoritmos”, analisa.
Confira a entrevista completa:
Brasil de Fato: No livro, vocês trazem o conceito do algoritmo como novas instituições que vêm transformando as regras da vida social e do jogo político. Como devemos fazer essa relação?
Fernando Filgueiras: Partimos da ideia de que algoritmos nada mais são do que regras de processamento de informações e de dados para produzir um determinado resultado intencional. Partimos dessa ideia, relativamente simples, mas bastante complexa: algoritmos são um novo tipo de instituição que emerge nas sociedades contemporâneas. Esse é o ponto de partida do livro.
Mas precisamos entender algumas questões antes de entrar propriamente na construção dessa tese. Primeiro, este livro é um grande esforço interdisciplinar, pegando contribuições da sociologia, da ciência política e das humanidades com a ciência da computação. Pelo perfil dos três autores: o Virgílio é professor titular de ciência da computação; eu e o Ricardo somos da ciência política, mas o Ricardo tem forte formação em comunicação e eu mais na sociologia. O livro é esse esforço para entender o alcance dessas tecnologias emergentes.
Uma segunda questão importante: não estamos falando apenas de inteligência artificial. Estamos falando de sistemas computacionais de uma forma mais ampla. O fato é que hoje temos uma presença muito grande desses sistemas em diferentes facetas da nossa vida, o que tem produzido uma nova forma de institucionalização.
E aí entramos no primeiro problema: o que são instituições? Instituições não são propriamente um governo, o Judiciário ou o Legislativo. Isso são organizações políticas. Mas toda organização, para funcionar, precisa de um escopo de regras que estabelecem uma intencionalidade e procedimentos.
Ou seja, instituições nada mais são do que normas e regras; no jargão da ciência política, instituições são as “regras do jogo”. Temos instituições como sistemas eleitorais, o sistema legislativo (sobre como as leis são criadas) ou sistemas governamentais, que definem como uma sociedade é governada por meio de um conjunto de regras que estabelecem o escopo das decisões coletivas.
Gosto de fazer uma analogia com crianças brincando coletivamente. A primeira coisa que elas definem é a regra do jogo, que estabelece papéis: quem está com o “pique”, até onde se pode chegar e qual a ordem de alternância. Em todos os lugares, as regras definem papéis, limites, escolhas e ações coletivas.
O que vemos hoje é uma presença gradativa de sistemas algorítmicos em diferentes facetas da vida. Na comunicação, por exemplo, que hoje é feita sobretudo nas redes sociais e na comunicação política, onde os partidos investem muitos recursos. Em cada rede social, existe uma regra de processamento daquilo que será visível, quem pode ver o quê e quando. Isso é definido pelos algoritmos. Isso impacta as instituições tradicionais, como os sistemas eleitorais, que enfrentam problemas com o uso de fake news, desinformação, bolhas e câmaras de eco, mudando a própria dinâmica das escolhas políticas da sociedade.
Outro exemplo é que os governos, em todas as esferas, são cada vez mais digitais. O livro dedica um capítulo inteiro à discussão de governos digitais. Hoje, a prática do serviço público e a forma como ele é prestado são definidas algoritmicamente. Na esfera internacional e na ciência, há o uso cada vez maior de algoritmos sofisticados de inteligência artificial para produzir conhecimento. No mundo contemporâneo, há um processo de desinstitucionalização de práticas tradicionais e uma reinstitucionalização a partir de regras estabelecidas por sistemas computacionais.
Ao estudarmos o livro e outras fontes, deparamo-nos com um problema emergencial: esses algoritmos não são neutros. O livro aborda isso na segurança pública, citando um exemplo de 2020, em Salvador, quando a polícia, por meio de um aplicativo de reconhecimento facial chamado FaceCheck, prendeu 42 pessoas durante o Carnaval. O que esse caso evidenciou?
Vou pegar a questão da segurança pública, mas antes quero voltar ao tema do racismo, que é um bom elemento para discutir essa nova institucionalização. O racismo já existia antes das tecnologias digitais. Nas instituições burocráticas, universidades ou na prática cotidiana, o racismo sempre foi muito presente na sociedade brasileira e nas Américas em geral. Nós, como humanos, temos um viés racial que gera desigualdades, assimetrias e processos violentos de exclusão.
A digitalização não é um processo neutro e isso se reflete nos dados. Os dados crus podem demonstrar, por exemplo, que o grupo que mais pratica determinados crimes no Brasil são homens pretos. Do ponto de vista da sociologia, sabemos que isso ocorre por uma série de fatores ligados a desigualdades estruturais. Quando digitalizamos o serviço público e olhamos apenas o dado cru, o sistema pode inferir que quem praticará um crime é um homem preto jovem.
A questão é a consequência que damos a essa informação. Sistemas de reconhecimento facial têm dificuldades com desigualdades e vieses raciais, tendendo a reproduzir resultados enviesados porque não consideram nuances. O fato de estatisticamente algo ser frequente não significa que um indivíduo, tomado isoladamente, seja um praticante de crime.
Como os sistemas algorítmicos são estatísticos e usam cálculos para chegar a causalidades, acabamos transferindo a desigualdade via dados ou pela própria construção intencional dos algoritmos.
Sistemas de reconhecimento facial erram bastante porque não absorvem diferenças raciais ou étnicas. Estudos no Canadá mostraram que esses sistemas em aeroportos eram extremamente enviesados contra pessoas com características que sugeriam origem muçulmana. Portanto, a institucionalização via algoritmos — a digitalização do mundo — não significa que as desigualdades deixarão de existir. Mesmo sendo funções matemáticas racionais, algoritmos podem ser grandes reprodutores de desigualdades.
Há intencionalidade nesses erros?
Sim, existe uma intencionalidade. Todo sistema é construído com um propósito. Na ciência da computação, a construção de um sistema se justifica pela otimização organizacional. Uma empresa pode coletar dados para personalizar padrões de consumo, ou um governo pode querer racionalizar uma política pública.
Um sistema bancário não pode falhar; ele é calibrado com precisão para garantir o acesso do cliente à conta. Por outro lado, muitas falhas são intencionais. Pode-se calibrar sistemas para perseguir determinadas populações. Estudos em países asiáticos mostram sistemas feitos para identificar e perseguir minorias étnicas ou religiosas.
Vivemos um momento de regulamentação no Brasil, seja de streaming ou de inteligência artificial, buscando responsabilizar as Big Techs. Como devemos caminhar em relação a essas ferramentas algorítmicas?
O livro não oferece uma resposta única, mas a direção essencial é produzir um processo de democratização e de controle democrático dos algoritmos — o conceito de accountability democrática da ciência política. Precisamos questionar a atuação das empresas de tecnologia. Hoje vemos um oligopólio das Big Techs que controlam o fluxo de informação global para interesses diversos.
Devemos discutir de maneira madura e serena como produzir esse controle democrático. Esse é o ponto de chegada do livro e um convite para a sociedade debater as consequências dessa institucionalização via algoritmos.
Conversa Bem Viver
Em diferentes horários, de segunda a sexta-feira, o programa é transmitido na Rádio Super de Sorocaba (SP); Rádio Palermo (SP); Rádio Cantareira (SP); Rádio Interativa, de Senador Alexandre Costa (MA); Rádio Comunitária Malhada do Jatobá, de São João do Piauí (PI); Rádio Terra Livre (MST), de Abelardo Luz (SC); Rádio Timbira, de São Luís (MA); Rádio Terra Livre de Hulha Negra (RN), Rádio Camponesa, em Itapeva (SP), Rádio Onda FM, de Novo Cruzeiro (MG), Rádio Pife, de Brasília (DF), Rádio Cidade, de João Pessoa (PB), Rádio Palermo (SP), Rádio Torres Cidade (RS); Rádio Cantareira (SP); Rádio Keraz; Web Rádio Studio F; Rádio Seguros MA; Rádio Iguaçu FM; Rádio Unidade Digital ; Rádio Cidade Classic HIts; Playlisten; Rádio Cidade; Web Rádio Apocalipse; Rádio; Alternativa Sul FM; Alberto dos Anjos; Rádio Voz da Cidade; Rádio Nativa FM; Rádio News 77; Web Rádio Líder Baixio; Rádio Super Nova; Rádio Ribeirinha Libertadora; Uruguaiana FM; Serra Azul FM; Folha 390; Rádio Chapada FM; Rbn; Web Rádio Mombassom; Fogão 24 Horas; Web Rádio Brisa; Rádio Palermo; Rádio Web Estação Mirim; Rádio Líder; Nova Geração; Ana Terra FM; Rádio Metropolitana de Piracicaba; Rádio Alternativa FM; Rádio Web Torres Cidade; Objetiva Cast; DMnews Web Rádio; Criativa Web Rádio; Rádio Notícias; Topmix Digital MS; Rádio Oriental Sul; Mogiana Web; Rádio Atalaia FM Rio; Rádio Vila Mix; Web Rádio Palmeira; Web Rádio Travessia; Rádio Millennium; Rádio EsportesNet; Rádio Altura FM; Web Rádio Cidade; Rádio Viva a Vida; Rádio Regional Vale FM; Rádio Gerasom; Coruja Web; Vale do Tempo; Servo do Rei; Rádio Best Sound; Rádio Lagoa Azul; Rádio Show Livre; Web Rádio Sintonizando os Corações; Rádio Campos Belos; Rádio Mundial; Clic Rádio Porto Alegre; Web Rádio Rosana; Rádio Cidade Light; União FM; Rádio Araras FM; Rádios Educadora e Transamérica; Rádio Jerônimo; Web Rádio Imaculado Coração; Rede Líder Web; Rádio Club; Rede dos Trabalhadores; Angelu’Song; Web Rádio Nacional; Rádio SINTSEPANSA; Luz News; Montanha Rádio; Rede Vida Brasil; Rádio Broto FM; Rádio Campestre; Rádio Profética Gospel; Chip i7 FM; Rádio Breganejo; Rádio Web Live; Ldnews; Rádio Clube Campos Novos; Rádio Terra Viva; Rádio interativa; Cristofm.net; Rádio Master Net; Rádio Barreto Web; Radio RockChat; Rádio Happiness; Mex FM; Voadeira Rádio Web; Lully FM; Web Rádionin; Rádio Interação; Web Rádio Engeforest; Web Rádio Pentecoste; Web Rádio Liverock; Web Rádio Fatos; Rádio Augusto Barbosa Online; Super FM; Rádio Interação Arcoverde; Rádio; Independência Recife; Rádio Cidadania FM; Web Rádio 102; Web Rádio Fonte da Vida; Rádio Web Studio P; São José Web Rádio – Prados (MG); Webrádio Cultura de Santa Maria; Web Rádio Universo Livre; Rádio Villa; Rádio Farol FM; Viva FM; Rádio Interativa de Jequitinhonha; Estilo – WebRádio; Rede Nova Sat FM; Rádio Comunitária Impacto 87,9FM; Web Rádio DNA Brasil; Nova onda FM; Cabn; Leal FM; Rádio Itapetininga; Rádio Vidas; Primeflashits; Rádio Deus Vivo; Rádio Cuieiras FM; Rádio Comunitária Tupancy; Sete News; Moreno Rádio Web; Rádio Web Esperança; Vila Boa FM; Novataweb; Rural FM Web; Bela Vista Web; Rádio Senzala; Rádio Pagu; Rádio Santidade; M’ysa; Criativa FM de Capitólio; Rádio Nordeste da Bahia; Rádio Central; Rádio VHV; Cultura1 Web Rádio; Rádio da Rua; Web Music; Piedade FM; Rádio 94 FM Itararé; Rádio Luna Rio; Mar Azul FM; Rádio Web Piauí; Savic; Web Rádio Link; EG Link; Web Rádio Brasil Sertaneja; Web Rádio Sindviarios/CUT.
O programa de rádio Bem Viver vai ao ar de segunda a sexta-feira, às 7h, na Rádio Brasil de Fato. A sintonia é 98,9 FM na Grande São Paulo. A versão em vídeo é semanal e vai ao ar aos sábados a partir das 13h30 no YouTube do Brasil de Fato e TVs retransmissoras.
Assim como os demais conteúdos, o Brasil de Fato disponibiliza o programa Bem Viver de forma gratuita para rádios comunitárias, rádios-poste e outras emissoras que manifestarem interesse em veicular o conteúdo. Para ser incluído na nossa lista de distribuição, entre em contato por meio do formulário.
