27/09/2024 - 18:00
Hoje já ficou impossível dissociar nossas experiências reais do que acontece no mundo virtual. Utilizamos redes sociais, fazemos buscas em sites, lojas, ouvimos músicas e consumimos conteúdo de provedores de vídeo on demand o todo tempo. Tudo isso feito por milhões de pessoas, associado aos dados relacionados com o tempo de permanência de cada usuário em uma plataforma específica, além dos produtos adquiridos, acaba de certa forma “ensinando” à inteligência artificial – ou não tão artificial assim – o que merece ser apontado ou escondido dentro do ambiente virtual.
Enquanto alguns resultados passam a ser normalizados e recorrentes, outros, não aleatoriamente, acabam por cair em um lugar de quase inexistência. Um verdadeiro “não lugar”. Ou ainda pior: existem relatos de apontamentos nitidamente enviesados por recortes racistas. É o chamado “racismo algorítmico”.
Estamos diante de nada mais que uma sequência de comandos que o computador ou a rede segue para executar cada tarefa, como um “passo a passo” para atender às buscas por infomação. Esta é a base de toda programação, determinando como redes sociais, sistemas de busca, programas de computadores e outros irão funcionar. Trabalho que não nasce do zero, mas sim de conceitos e parâmetros pré-estabelecidos, seja diretamente por programadores, seja pela compilação de dados referentes a resultados apontados por sistemas de pesquisa e busca, e a análise de retenção maior ou menor dos usuários.
Trazendo a conversa para o recorte racial, algumas reflexões merecem ser feitas, sob pena de, deixando-as de lado, normalizar situações de nítido racismo e que podem acabar açambarcadas por um discurso de falha no sistema.
Tarcízio Silva, um dos grandes nomes que vêm à tona quando estudamos o racismo algorítmico, diz que a expressão é utilizada para explicar como tecnologias podem acabar por fortalecer ordens de privilégios e exclusões, vistos na relação interpessoal, também no mundo digital.
A grande questão que se coloca diante de tecnologias e bancos de dados é o alcance e a noção de certeza gerada pelo seu uso. Ora, se realizo uma busca em navegadores de internet, tenho o que eles trazem como resultados como verdades absolutas, bem como excluo automaticamente tudo o que não me é mostrado de plano.
O algoritmo dita o que veremos e molda nossa forma de enxergar o mundo. Seja influenciando em escolhas de mercado, apontando como resultado de busca determinados candidatos a cargos públicos, enquanto “esconde” outros, ou mesmo reforça os pilares do privilégio branco e do racismo estrutural.
Muitos são os relatos que se tem do resultado prático do algoritmo reproduzindo situações de inequívoco racismo. São sistemas de reconhecimento facial que não identificam rostos negros, pesquisas que retornam imagens de pessoas negras quando o parâmetro de busca é “macaco”, ou somente homens negros quando o termo utilizado é “bandido”. Além do clássico “mulher bonita”, que retorna como resultados apenas imagens de mulheres brancas.
Cuida-se, sem sombra de dúvidas, de uma camada adicional do racismo estrutural que, por seu alcance e alto uso, acaba por fortalecer relações de poder, adicionando mais opacidade sobre a exploração e a opressão global que já ocorriam desde o projeto colonial do século XVI e seguem vivas e repaginadas nos dias atuais.
*Este texto não reflete, necessariamente, a opinião da IstoÉ
Veja Também
Protagonistas: agora sim, o padrão de beleza está mudando nas novelas de TV
Direito às origens: o encontro do filho adotivo com a família biológica
Julho das Pretas: para mudar o país onde só 3% dos cargos de liderança são ocupados por mulheres negras
PL do aborto: por que a adoção não é justificativa para a gestação, em caso de estupro
Ajustar a expectativa dos pais com o perfil das crianças é um dos desafios da adoção no Brasil
