Se você fizer uma busca no Google por “mulher brasileira”, tem ideia do que vai encontrar? E se você é mulher ou homem, que tipo de propaganda aparece no Facebook ou Instagram? Pode parecer que os algoritmos em sites, redes sociais e aplicativos produzem indicações personalizadas para cada uma e cada um de nós, mas as desigualdades de gênero e raça estão atravessadas aí também, sabia?!
Vivemos na era da Inteligência Artificial (IA). O uso massificado da internet e dos aparelhos eletrônicos fez com que esses recursos fossem crescendo e se aprimorando. Pode parecer, a princípio, que a Inteligência Artificial das máquinas seja algo neutro, baseado em uma lógica puramente matemática de dados e combinações. Mas não é bem assim…
As máquinas não só obedecem aos comandos, mas aprendem a partir de dados coletados, que refletem uma sociedade complexa, desigual e que reforça determinados papéis e padrões de comportamento. Inclusive diferenciados por gênero e raça. E mais: a Inteligência Artificial é produzida por seres humanos, pessoas que vivem nessa sociedade e que também reproduzem suas ideologias. E será que há uma diversidade representada aí?
De todos os profissionais que trabalham em IA, apenas 22% são mulheres. Google e Facebook relatam que as mulheres, em 2019, representaram 10% e 15%, respectivamente, de seus trabalhadores na área. Em relação ao acesso à internet, a desigualdade também aparece, como na América Latina onde apenas 38% dos usuários são mulheres. A desigualdade salarial também é uma marca: no Reino Unido, mulheres que trabalham em segurança cibernética ganham 16% a menos em comparação aos homens da mesma função.
Quando consideramos a raça, o cenário é ainda pior. Em 2018, o Google reportou que 25,7% das posições técnicas eram ocupadas por mulheres, mas esse número cai para 0,8% se considerarmos mulheres negras. A mesma tendência existe em outras grandes empresas de tecnologia, como Facebook, Apple e Microsoft, evidenciando a crise da diversidade.
Os exemplos de como os dados controlados por IA podem ser machistas e racistas são vários: desde sistemas de recrutamento que priorizam candidatos homens brancos; programas de reconhecimento facial baseados no estereótipo de homem branco que erram ao ler rostos de mulheres e pessoas negras; identificação de figuras femininas em fotos de cozinha com algum indivíduo, mesmo que seja um homem; perfis de mulheres que recebem mais propagandas de produtos de beleza ou incentivos ao emagrecimento, enquanto aos perfis de homens chegam propagandas de assinatura de jornal ou de cursos de graduação e pós-graduação; e um longo etc.!
Mas, ironicamente, a “mãe” de todos os algoritmos é uma mulher: a inglesa Ada Lovelace (1815-1852), autora do primeiro código complexo de programação do mundo! Isso demonstra o quanto nada deve ser tomado como impossível de mudar, e mesmo os algoritmos devem ser ensinados a lidar com a diversidade e a igualdade de gênero e raça, começando por garantir a presença de mais e mais mulheres, especialmente negras, elaborando seus códigos e projetando os sistemas.
Referências:
https://revistatrip.uol.com.br/tpm/os-algoritmos-tentam-identificar-seu-genero-mas-muitas-vezes-reforcam-representacoes-sexistas
https://www.opendemocracy.net/pt/algoritmos-reproduzem-desigualdades-de-genero-e-raca/
https://brasil.elpais.com/brasil/2017/09/19/ciencia/1505818015_847097.html
https://claudia.abril.com.br/sua-vida/algoritmo-machismo-racismo/