Os avanços tecnológicos e sua ampla difusão nos setores público e privado, incluindo os sistemas que utilizam inteligência artificial, têm gerado uma dupla percepção sobre os impactos da sua expansão em relação a inclusão e diversidade.
De um lado, é fato que eles podem ajudar a eliminar os preconceitos humanos em determinadas situações, como processos de recrutamento e seleção. Isso porque, a inteligência artificial, quando integrada a um sistema dedicado à área de recursos humanos, pode ser treinada para analisar objetivamente um currículo, permitindo uma avaliação mais objetiva das pessoas candidatas, reduzindo o impacto de vieses inconscientes que podem ocorrer durante o processo [1].
No entanto, de outro lado, os algoritmos têm demonstrado um potencial discriminatório [*], derivado da replicação dos preconceitos apresentados pelas pessoas por trás do seu desenvolvimento e dos bancos de dados utilizados na aprendizagem de padrões pela máquina (machine learning) para que possam tomar as decisões autonomamente.
Quando essas decisões decorrem da reprodução de padrões de discriminação presentes na sociedade, damos o nome de discriminação algorítmica ou viés algorítmico.
Um exemplo claro disso são as frequentes falhas dos sistemas de reconhecimento facial utilizados na segurança pública. Dados da Rede de Observatórios de Segurança [2], apontam que no Brasil, 90,5% das vezes, os sistemas apontam pessoas pretas [**] como autores de crimes, sendo que muitos nunca tiveram passagem pela polícia – o que demonstra o racismo estrutural incrustrado nas investigações criminais, eis que jovens pretos são alvo dos agentes de segurança.
Outro exemplo que pode ser mencionado é o das assistentes virtuais – Siri e Alexa –, que, quando foram lançadas no mercado, reproduziam falas sexistas e, embora com nome e voz femininas, apresentavam-se como submissas à xingamentos e violências de gênero, conforme comprova estudo divulgado pela UNESCO em 2019 [3].
Situações como essas, apenas para mencionar alguns exemplos, têm despertado especial atenção dos reguladores ao redor do mundo.
A União Europeia foi a precursora nesse aspecto e editou a primeira regulação sobre a inteligência artificial no mundo, a IA Act. Dentre as justificativas que acompanharam a sua proposição, está a de que a adoção dessa norma “complementa a legislação da União em vigor em matéria de não discriminação com requisitos específicos que visam minimizar o risco de discriminação algorítmica, em particular no que diz respeito à conceção e à qualidade dos conjuntos de dados utilizados para o desenvolvimento de sistemas de IA, complementados com obrigações em matéria de testes, gestão de riscos, documentação e supervisão humana ao longo do ciclo de vida dos sistemas de IA” [4].
No Brasil, a discussão tem avançado no Congresso Nacional com diversos projetos de lei (como os PL 872/2021, PL 21/2020 e PL/2019 que estão em tramitação) e na Comissão Temporária Interna sobre Inteligência Artificial no Brasil instituída no âmbito do Senado Federal.
Dentre as preocupações que deverão nortear a regulação de novas tecnologias está a adoção de mecanismos que impeçam o desenvolvimento de algoritmos enviesados, além de prever sanções em caso de descumprimento da norma e violação dos direitos das pessoas afetadas, o que é extremamente necessário para trazer segurança jurídica.
Para além disso, enquanto essas discussões avançam entre técnicos e legisladores, é importante que haja uma reflexão e uma atitude ativa para diminuir o gap tecnológico vivido por mulheres e pessoas pretas e que as afasta da própria participação no desenvolvimento dessas tecnologias.
Um relatório divulgado pela ONU aponta que mulheres são minoria de estudantes nas áreas de ciência, tecnologia, engenharia e matemática (apenas 35%) e em tecnologia da informação, esse número ainda é menor (3%). Globalmente, apenas 19,9% das profissionais de ciência e de tecnologia são mulheres [5].
Outro estudo feito pela McKinsey aponta que no mercado estadunidense, apenas 8% dos empregados em tecnologia são pessoas pretas. Nos cargos de gestão do setor, esse número reduz para 3% [6].
A ausência de diversidade no setor de tecnologia e inovação indiscutivelmente acarreta o desenvolvimento de tecnologias sem o olhar dos impactos das vulnerabilidades e potencialidades para esses grupos, o que pode ser bastante alarmante, em especial na proteção dos direitos civis e direitos humanos dessas pessoas.
Sem a participação ativa de pessoas diversas no desenvolvimento destas tecnologias, há uma grande possibilidade de que a discriminação algorítmica seja o próximo grande desafio social e jurídico que vamos enfrentar nos próximos anos, tamanha a capacidade de gerar equívocos na tomada de decisão, principalmente em se tratando de segurança pública.
Para inverter esse cenário, é necessário que haja um verdadeiro elo entre sociedade, setor público e privado para estimular que pessoas diversas adentrem no setor da tecnologia, com incentivo e capacitação adequada, além da criação de oportunidades de trabalho com remuneração e planos de carreira equiparados aos seus pares.
Afinal, pessoas com diferentes repertórios e diferentes pontos de vista, quando colocadas lado a lado para dialogar e trabalhar em conjunto, chegam a soluções mais inovadoras e mais humanas.
Notas e referências
[1] BOTARO, Daniele. Inteligência artificial: aliada ou vilã da diversidade? MIT Sloan Management Review Brasil. 06 de fevereiro de 2023. Disponível em: https://www.mitsloanreview.com.br/post/inteligencia-artificial-aliada-ou-vila-da-diversidade Acesso em 19 set. 2023.
[2] REDE OBSERVATÓRIOS DA SEGURANÇA. Retratos da violência: cinco meses de monitoramento, análises e descobertas. 2019. Disponível em: http://observatorioseguranca.com.br/wordpress/wp-content/uploads/2019/11/1relatoriorede.pdf Acesso em 19 set. 2023.
[3] WEST, Mark; KRAUT, Rebecca; CHEW HAN EI. UNESCO. I'd blush if I could: closing gender divides in digital skills through education. 2019. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=1 Acesso em 19 set. 2023.
[4] EUROPEAN UNION. COM(2021) 206 final. Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS. Brussels, 21.4.2021. Disponível em. Acesso em 19 set. 2023.
[5] UNITED NATIONS. UN Women and United Nations Department of Economic and Social Affairs. Progress on the Sustainable Development Goals: The gender snapshot 2022. 2022. Disponível em: https://www.unwomen.org/en/digital-library/publications/2022/09/progress-on-the-sustainable-development-goals-the-gender-snapshot-2022 Acesso em 19 set. 2023.
[6] BROWN, Jan Shelly; FINNEY, Matthew; MCMILLAN, Mark; PERKINS, Chris. How to close the Black tech talento gap. McKinsey Institute for Black Economic Mobility. February, 3, 2023. Disponível em: https://www.mckinsey.com/bem/our-insights/how-to-close-the-black-tech-talent-gap Acesso em 19 set. 2023.
[*] Recomendo a leitura de NOBLE, Safiya Umoja. Algoritms of oppression: how search engines reinforce racism. NYU Press, 2018.
[**] Sobre esse assunto: MAGNO, M. E. da S. P.; BEZERRA, J. S. Vigilância negra: O dispositivo de reconhecimento facial e a disciplinaridade dos corpos. Novos Olhares, São Paulo, v. 9, n. 2, p. 45-52, 2020. Disponível em: https://www.revistas.usp.br/novosolhares/article/view/165698 . Acesso em 19 set. 2023.
Imagem Ilustrativa do Post: QV Concrete 'n me // Foto de: s2art // Sem alterações
Disponível em: https://www.flickr.com/photos/s2art/70214362
Licença de uso: http://creativecommons.org/licenses/by/4.0/legalcode
