Leonardo Lazarte*
A recente irrupção na sociedade em geral da chamada Inteligência Artificial (IA) impacta a capacidade de reflexão autônoma, a coesão social, a soberania e a preservação de culturas, preocupações antigas na área da educação. Este é mais um capítulo nos
desafios que as tecnologias, especialmente as digitais, trazem aos processos de aprendizagem e de ensino.
O termo “Inteligência Artificial” tem recentemente sido usado para designar tecnologias de processamento de grandes volumes de dados capazes de apresentar resultados por meio de linguagem natural. É importante ter presente que, nesse contexto, a palavra “inteligência” tem mais a ver com marketing do que com os processos cognitivos humanos.
O primeiro passo rumo à autonomia em relação a essas tecnologias é compreender o que de fato elas fazem. Resumidamente, os grandes modelos de linguagem varrem imensos volumes de informação, capturando padrões de forma e de significado. Suas respostas se baseiam na informação que lhes foi fornecida, que pode ser incompleta, incorreta, ou enviesada, tanto por limitações da informação incorporada automaticamente quanto por intervenções humanas orientadas por interesses específicos.
O ponto crucial, quando se fala em soberania digital no contexto da Inteligência Artificial (grandes modelos de linguagem), é a compreensão de que há grandes interesses por trás de cada uma dessas intervenções (os “algoritmos”), controlados por empresas mais poderosas que a maioria dos Estados e, por trás dessas empresas, ou simbióticas com elas, estão os governos dos países hegemônicos.
Poucas evidências dessa simbiose são tão simbólicas quanto a foto dos “donos” das grandes empresas de tecnologia dos Estados Unidos na posse do atual presidente desse país.
Além dos simbolismos, a prática mostra o controle arbitrário desses ambientes tecnológicos. Exemplo emblemático é o caso em que o presidente dos Estados Unidos determinou à empresa Microsoft que bloqueasse o e-mail do promotor do Tribunal Penal Internacional, como retaliação pelo indiciamento de responsáveis por crimes de guerra.
Detalhe relevante, o servidor de e-mail em questão não se encontra no território dos Estados Unidos, mas a legislação desse país permite esse tipo de intervenção no exterior (Cloud Act). Esse exemplo mostra que a localização geográfica não resolve a questão da soberania digital.
Potências e limitações
Tanto na Inteligência Artificial quanto nas Plataformas Educativas, os pontos críticos são o domínio das tecnologias e o controle de seu uso em todas as etapas. Esse domínio começa pela compreensão de sua natureza, abandonando expressões genéricas como Inteligência Artificial, falando em termos mais precisos, como aprendizagem de máquina, ou grandes modelos de linguagem.
O passo seguinte é conhecer as tecnologias, desenvolver a capacidade de reproduzi-las, modificá-las e utilizá-las de forma consciente, sabendo de seu potencial e suas limitações.
O Brasil tem uma tradição de décadas de profissionais que atuam na perspectiva de software livre, aberto, cientes da relevância dessa autonomia tecnológica. O desafio atual é difundir amplamente o conhecimento sobre o potencial e os riscos dessas tecnologias para a sociedade em geral.
O Plano Brasileiro de Inteligência Artificial (PBIA) deveria incorporar uma dimensão educacional dirigida a todos os setores sociais, promovendo tanto o uso ético e eficiente dessas ferramentas na vida pessoal, social e profissional quanto a conscientização sobre seus riscos. As abordagens dessa questão variam, têm iniciativas nacionais, como na China, outras com legislação nacional articulada com outros países, como na Europa, ou descentralizada, como nos Estados Unidos.**
Na educação formal, o principal desafio é a formação crítica dos profissionais da área: compreender do que se trata a tecnologia e utilizá-la de forma coerente com os princípios pedagógicos desejados. Isso vale tanto para a IA quanto para as plataformas educativas.
No caso das plataformas, é essencial:
- Escolher ambientes que não gerem dependência de decisões externas;
- Examinar os princípios pedagógicos embutidos em cada sistema;
- Avaliar os conteúdos e itinerários de aprendizagem disponíveis, atentos a possíveis vieses e os interesses que representam;
- Proteger os dados pessoais e possíveis monitoramentos das formas de interação na plataforma ou com ambientes externos, o que pode ser explorado para fins de controle social ou de mercado. A conjugação entre autonomia tecnológica, consciência crítica e princípios pedagógicos sólidos são elementos essenciais para a construção de uma verdadeira soberania digital na educação.
*Leonardo Lazarte é professor da Universidade de Brasília (UnB), tem trabalhado na implantação e análise de impactos sociais de tecnologias digitais.
**Este estudo comparativo ilustra algumas das dimensões abordadas em vários países: Soberania Digital: Algumas inspirações para o Brasil (acesse neste link).
***Este é um artigo de opinião. A visão da autora não necessariamente expressa a linha editorial do jornal Brasil de Fato – DF.
:: Receba notícias do Brasil de Fato DF no seu Whatsapp ::
