Por Nana Miranda.

Se você utiliza alguma rede social, provavelmente já viu alguém comentar sobre as ações dos algorítmos, como eles são e como funcionam. Apesar de certa popularidade, nem todo mundo compreende a relevância que eles possuem na sociedade. De forma geral os algoritmos são um conjunto de instruções que, seguidos à risca, proporcionam resultados esperados, como uma receita de bolo ou manual de instruções de aparelhos. Na computação, os algoritmos são sequências de instruções construídas para que se possa, por meio de dispositivos computacionais, chegar a determinados objetivos (FORBELLONE; EBERSPACHER, 2005). 

Com a internet e os dispositivos eletrônicos sendo progressivamente incorprados na rotina das pessoas, os algorítmos também passaram a fazer parte da nossa vida. Nas plataformas digitais existem diversos algoritmos em operação, executando distintas funções, afim de dar conta de grandes volumes de dados, que vão desde a ordenação de conteúdos publicados até a recuperação de informações e organização de resultados possíveis para expressões inseridas em mecanismos de busca. Ao fazermos uma pesquisa na web, ao usarmos as redes sociais online, pedirmos um carro ou comida por aplicativo ou escolhermos uma música para ouvir em uma plataforma de streaming, por exemplo, estamos lidando com algoritmos que modulam nossas experiências nesses ambientes e dispositivos. 

A predominância dos algoritmos nas dinâmicas digitais, faz com que pesquisadores de diversas áreas do conhecimento investiguem como essas estruturas estão inseridas em diferentes processes sociais, deslocando seu caráter técnico computacional e os observando com um agente social. Embora os algoritmos pareçam possuir um caráter neutro, eles não devem ser compreendidos assim, pois são construídos com base nas experiências humanas. Eles são operados por lógicas pré-estabelecidas e, por isso, carregam consigo perspectivas sociais, políticas econômicas quanto aos critérios de relevância, uma vez que são produzidos para atender às estratégias comerciais das instituições que os capitalizam.  Se os algoritmos estão incorporados no cotidiano e nossa visão de mundo também é construída a partir do processo de mediação dos algoritmos, então podemos dizer que eles reverberam a representação de determinados grupos sociais.

A partir dos rastros digitais coletados pelas plataformas, os algoritmos selecionam o que o usuário vai ter acesso, mapeiam as preferências, induzem tendências, e indiretamente, passam a moldar sua conduta, muitas vezes de forma imperceptível. Se as plataformas passaram a ter centralidade na vida cotidiana de um número cada vez maior de pessoas, é importante compreender a dimensão política dos processos interacionais ocorridos nessa ambiência midiática, pois as plataformas permitem a produção, circulação e troca de sentidos, estabelece vínculos e medeiam relações de poder e construção de realidades. Portanto, é necessário considerar a tecnicidade constitutiva dessa dimensão política, visto que essas mediações culturais também são feitas pelos algoritmos.

Isto posto, chamo a atenção para as decisões maquínicas que afetam a representação midiática das mulheres negras. A mídia e os meios de comunicação, em geral, têm sua contribuição para a construção de uma imagem social, que se baseia no padrão estético e cultural masculino, branco e euro-norte-americano cêntrico; na manutenção desse padrão e na perpetuação de preconceitos e estigmas. Isso significa, que os processos de digitalização, ao qual os meios de comunicação passam na contemporaneidade conectam o racismo à tecnologia.

Em 2018, a professora da University of Southern California (USC) Safiya Noble lançou o livro “Algorithms of Oppression: How Search Engines Reinforce Racism”, que denuncia como o racismo pode se manifestar nos resultados de busca do Google. A autora mostrou que resultados de busca manipulados por fórmulas algorítmicas, reproduzem e fortalecem uma estrutura racista e machista, sobretudo no que diz respeito a representação de mulheres e garotas negras. Para explicar, Noble expôs alguns exemplos que mostram essa representação nociva a partir de buscas simples como “black girls”, que resultam um padrão de busca por conteúdo sexual e pornográfico.

A associação entre mulheres negras e pornografia no buscador do Google também foi apontada no Brasil. Em outubro de 2019, uma denúncia ganhou repercussão nas redes sociais e virou notícia em vários portais de notícias. Resultados exibidos para “mulher negra dando aula”, no campo de imagens, mostrava conteúdos pornográficos. O mesmo não aconteceu para “mulher dando aula”, onde o resultado mostrou professoras em sua maioria branca, em sala de aula interagindo com alunos ou escrevendo na lousa. 

Em outro exercício de interrogação crítica do buscador Google, foi possível ver como os resultados refletem e intensificam o racismo da sociedade. Também em 2019 usuários do Twitter relataram na rede social, que ao pesquisar “trança bonita” o resultado destaca tranças feitas em mulheres brancas e ao pesquisar “trança feia” o resultado exibe tranças feitas em mulheres negras. 

Os casos supramencionados são apenas alguns exemplos, que demonstram a parcialidade dos algoritmos. A ideia de que os algoritmos sejam neutros além de ajudar a perpetuar preconceitos inadvertidamente, beneficia e isenta de responsabilidade as empresas que os utilizam. As plataformas, como meios de comunicação contemporâneos, são agentes importantes na emergência de uma rede de significações e produção de sentidos para um número cada vez maior de pessoas. As informações e ações comunicacionais que circulam nas plataformas são frutos do agenciamento sociotécnico entre humanos e não humanos. Os algoritmos atuam com base em bancos de dados que armazenam os rastros digitais deixados pelos usuários, a fim de tomar decisões de visibilidade, acesso e classificação supostamente imparciais. Contudo, é importante dizer que sistemas regidos por algoritmos possuem um papel significativo na massificação de imagens de controle de mulheres negras, através da mediação de representações que, calcadas na opressão de gênero sustentam uma pretensa superioridade racial.

Por isso investigações acerca das mediações algorítmicas exigem senso de urgência e afinco no mapeamento crítico dos processos pelos quais algoritmos e agentes artificiais influenciam a experiência dos indivíduos racializados também na internet, especialmente nas plataformas de mídias sociais. Dessa forma é essencial desnudar a política de comunicação das redes técnicas, sociais e computacionais que se engendram nas plataformas que constroem
importantes referências de representações no mundo contemporâneo.

REFERÊNCIAS

EBERSPACHER, H. F.; FORBELLONE, A. L. V. ​Lógica de Programação: A construção de algoritmos e estruturas de dados. 3ª Edição. São Paulo: Prentice Hall, 2005.

NOBLE, Safiya Umoja. ​Algorithms of Oppression: How search engines reinforce racism.NYU Press, 2018.

Nana Miranda é mestranda do Programa de Pós-Graduação em Comunicação Social da PUC Minas.