Temos observado dia após dia a parcial ou a total substituição de agentes humanos por modelos de inteligência artificial (IA) em processos de seleção, avaliação, moderação e recrutamento. Diante do panorama que envolve vieses e discriminações, principalmente, nas plataformas de mídias sociais digitais, tem emergido na pesquisa da Ciência da Computação e da Ciência da Informação o campo da Explainable AI ou IA Explicável (XAI).
O que é a IA Explicável (XAI)?
O principal destaque da IA Explicável é a possibilidade de tornar passível de interpretação o processo de decisão de algoritmos e modelos já existentes, bem como desenvolver modelos desenhados para serem interpretáveis aos humanos.
Segundo Alsubaie e Aleisa (2025), a integração da IA explicativa pode transformar sistemas de IA opacos em modelos transparentes. A XAI tem como objetivo tornar os algoritmos opacos dos modelos tradicionais de machine learning (ML) mais transparentes, fornecendo compreensão ou indicadores sobre os fatores que influenciam as previsões Alsubaie e Aleisa (2025)¹.
Segundo pesquisas (Ferraz, et al, 2024; Alsubaie; Aleisa, 2025) há evidências de que critérios e decisões transparentes explicadas ao usuário têm o potencial de reduzir vieses e a recorrência do compartilhamento de notícias falsas.
Dados enviesados geram modelos enviesados
O impacto de vieses na IA é evidente em decisões automatizadas que replicam padrões preexistentes de pensamento social, reforçando estereótipos prejudiciais. Por exemplo, algoritmos podem perpetuar preferências históricas para candidatos do sexo masculino em papéis de liderança, discriminando, assim, as mulheres. (Gabino-Campos; Baile; Padilla-Martínez, 2025²).
Um desafio crítico na abordagem de vieses em conteúdo gerado por IA é sua opacidade inerente e a percepção da IA como uma ferramenta objetiva e neutra. Por exemplo, ao contrário dos textos de autoria humana, as saídas geradas por IA geralmente possuem um alto grau de autoridade epistêmica, pois são percebidas como baseadas em fatos e livres de influências subjetivas. Tal percepção, que muitas vezes evita questionamentos às saídas e aos resultados produzidos por este modelos, reduz a análise, tornando os preconceitos incorporados em narrativas geradas por IA mais difíceis de detectar e mais propensos a serem inconscientemente aceitos como verdade (Gillespie 2014³).
Divindade algorítmica nos processos seletivos
O discurso que constantemente paira na atualidade coloca a tecnologia como Deusa e os modelos de linguagem como divindades mágicas e personificadas. Nesse sentido, o fenômeno da objetividade algorítmica contribui para esse problema, pois os usuários tendem a confiar em saídas de IA sem questionar suas suposições subjacentes, dados de treinamento ou possíveis distorções. Isso é particularmente preocupante na geração criativa de texto, onde os preconceitos podem moldar as representações de grupos sociais de maneiras sutis, mas pode causar influências na tomada de decisão.
Nesse contexto, a adoção de IA Explicável (XAI) é uma solução proposta que advoga pela adoção de algoritmos que permitem a interpretação dos processos decisórios e a implementação de critérios transparentes e socialmente definidos. A pesquisa (Ferraz et al, 20244) em XAI demonstra a viabilidade de modelos transparentes com alta performance, permitindo tanto o desenvolvimento de sistemas de moderação explicáveis quanto a auditoria de sistemas existentes, promovendo maior accountability e alinhando a moderação de conteúdo com os princípios éticos e legais.
O uso de modelos de inteligência artificial no papel de julgadores para processos seletivos e contratação, seja para vagas no mercado de trabalho ou premiações, suscita importantes paradoxos éticos. Além das implicações filosóficas inerentes à tomada de decisões sobre direitos humanos por máquinas, a natureza opaca (“caixa-preta”) dos modelos complexos amplamente empregados dificulta a detecção de vieses implícitos. Esses vieses podem resultar em discriminação algorítmica, afetando desproporcionalmente grupos minoritários. Conforme colabora Ferraz et al (2024), para além da questão filosófica de máquinas, tomando decisões sobre o direito dos humanos, a natureza opaca dos modelos de maior complexidade utilizados dificulta a percepção de vieses inconscientes, que podem tratar de forma prejudicial grupos sociais minoritários em comparação com outros, um fenômeno chamado discriminação algorítmica.
Os princípios da XAI giram em torno de tornar os sistemas de IA mais transparentes, justos, interpretáveis, confiáveis e eticamente sólidos, como mostrado na Figura a seguir:
A XAI procura garantir que as decisões de IA sejam tomadas sem viés em relação a qualquer grupo ou indivíduo. Isso é importante para promover a equidade e prevenir a discriminação (Alsubaie; Aleisa, 2025).
Deveria ser imprescindível a XAI para mitigar vieses em processos seletivos
O desenvolvimento e a implantação de sistemas de IA devem aderir a padrões éticos, garantindo que essas tecnologias beneficiem a sociedade. A explicabilidade ajuda nisso, garantindo que as operações dos sistemas de IA se alinhem com os valores e normas da sociedade, promovendo um impacto positivo.
Os grandes modelos de linguagem, como Chat GPT, DeepSeek, Gemini, por exemplo, também necessitam cada vez mais da incorporação de processos que atendam aos princípios da XAI. A pesquisa de Gabino-Campos, Baile e Martínez (2025) realizou uma análise das 100 histórias geradas pelo ChatGPT-4 que revelou vieses significativos na representação de gênero, idade, etnia, orientação sexual, status socioeconômico e de profissões. Vale salientar que muitos processos de seleção e recrutamento tem se utilizado de APIs desses modelos de linguagem.
A inteligência artificial, quando treinada com dados tendenciosos, sem curadoria e sem explicar como chegou ao resultado, pode perpetuar e amplificar estereótipos pré-existentes, o que por sua vez reforça as desigualdades na representação de determinados grupos sociais. Assim, destaco a necessidade urgente de desenvolver sistemas de IA mais inclusivos e representativos.
Referências:
1 – Alsubaie, N.; Aleisa, N. “Mitigating Bias in AI Model Using explainable AI in Terms of Hireing Process in the Industry”, in IEEE Access, vol. 13, pp. 147218-147241, 2025, doi: 10.1109/ACCESS.2025.359947.
2 – Gabino-Campos, M.; Baile, J.I.; Padilla-Martínez, A. Vieses Sociais em Textos Criativos Gerados por IA: Uma Abordagem de Métodos Mistos no Contexto Espanhol. Então. Sci. 2025, 14, 170.
3 – Gillespie, Tarleton. 2014. A relevância dos algoritmos. Em Media Technologies: Ensaios sobre Comunicação, Materialidade e Sociedade. Edição: Tarleton Gillespie, Pablo J. Boczkowski e Kirsten A. Pé. Cambridge: MIT Press, pp. 167–94.
4 – Ferraz TP, Duarte CHD, Ribeiro MF, Takayanagi GGB, Alcoforado A, Lopes R de D, et al.. Inteligência Artificial explicável para atenuar a falta de transparência e a legitimidade na moderação da Internet. Estud av [Internet]. 2024;38(111):381–405. Available from: https://doi.org/10.1590/s0103-4014.202438111.020.
**Este é um artigo de opinião e não necessariamente representa a linha editorial do Brasil do Fato.
