O uso de tecnologia de reconhecimento facial aumentou significativamente nos últimos 10 anos, tanto pelo setor público quanto pelo privado. Uma pesquisa desenvolvida pelo grupo Surfshark envolvendo a análise do uso dessa tecnologia em todos os países do mundo, possibilitou a identificação dos principais motivos que levaram um país a banir ou permitir o uso de reconhecimento facial, e quais as principais finalidades para o uso dessa tecnologia.

Dentre os 196 países analisados, 109 já fazem uso de tecnologia de reconhecimento facial com propósito de vigilância, tendo como principais motivos para defender o uso dessa tecnologia a possibilidade de aumento na vigilância em locais públicos e privados, melhoria na segurança em bairros, em transportes e controle de fronteiras, auxilio às atividades policiais para encontrar pessoas suspeitas, criminosos e crianças desaparecidas, aumentar a eficiência das investigações e inibir praticas futuras de delitos[1].

A força policial é quem faz principal uso dessa tecnologia, apresentando como finalidade para sua implementação a celeridade e o grande aumento na eficiência das investigações, uma vez que o uso de reconhecimento facial para fins investigatórios ajuda a diminuir a quantidade de trabalho que envolve a identificação de um criminoso; a tecnologia é muito utilizada para encontrar pessoas que estão desaparecidas (como crianças e pessoas debilitadas), suspeitas de crimes ou criminosos. A segurança pública é uma das principais razões para que a polícia faça uso do reconhecimento facial e para que câmeras de segurança instaladas nas ruas tenham embutidas nelas essa tecnologia, principalmente para melhorar o controle em determinadas áreas que são consideradas de risco e como uma tentativa de inibir a prática de crimes futuros.

Outras finalidades encontradas para o uso de reconhecimento facial são muito recorrentes em aeroportos, com o monitoramento de pessoas circulando e por meio do controle de passaporte; também com câmeras de segurança instaladas em fronteiras para controle de acesso no país e para identificação de pessoas. Além destes, tem sido muito comum o uso de reconhecimento facial em transportes públicos em determinadas localidades para analisar as expressões das pessoas, tendo como finalidade desta análise o oferecimento dirigido de produtos/serviços que correspondam com o provável sentimento do indivíduo. No Brasil, a concessionária da linha de metrô amarela (Via Quatro) de São Paulo/SP fez isso em 2019, sendo rapidamente sancionada pelo Judiciário[2] e pelos órgãos de proteção ao consumidor[3].

O Japão, assim como a grande maioria dos países, faz uso da tecnologia para melhorar a segurança pública e a eficiência da força policial, mas além disso, encontraram outras finalidades para implementação do reconhecimento facial: controlar vício em jogos monitorando quantas vezes as pessoas são identificadas em cassinos, e para fiscalizar motoristas que estejam muito cansados enquanto dirigem a fim de evitar acidentes, fazendo com que o carro assuma o controle da direção quando necessário[4].

Em contrapartida, apenas 3 países baniram o uso de tecnologia de reconhecimento facial (Bélgica, Luxemburgo e Marrocos); e nos demais países não foi encontrado evidências de uso dos sistemas de reconhecimento facial. Dentre os principais motivos que levaram estes países a banirem o uso dessa tecnologia ou ainda não a estarem utilizando, estão o fato de que (i) o uso dessas tecnologias ainda não está de acordo com as regras de proteção de dados; (ii) as leis do funcionamento da polícia; (iii) podem violar direitos humanos como privacidade, proteção de dados e liberdade dos cidadãos e (iv) pela falta de regulamentação adequada[5].

A preocupação em torno dos direitos humanos sendo violados com o uso de tecnologia de reconhecimento facial tem crescido cada vez mais, não só no tocante a questões relacionadas a privacidade, mas também quanto aos vieses existentes nos algoritmos que determinam o comportamento da tecnologia, oferecendo grande risco à população negra.

Como o reconhecimento facial faz parte de grande parte das operações policiais, auxiliando na identificação de suspeitos de crimes, a preocupação quanto a tecnologia reproduzir comportamentos racistas aumenta, uma vez que estudos sobre reconhecimento facial mostraram que essas tecnologias cometem uma quantidade de erros maiores na identificação de pessoas negras; e essa questão acabou por ganhar mais espaço após a morte de George Floyd nos EUA, em 25 de maio de 2020, que deu início a uma série de protestos contra o racismo no mundo inteiro.

Não foi por acaso que este episódio iniciou uma onda de banimento quanto ao uso de reconhecimento nos EUA por parte das principais empresas que desenvolvem essas tecnologias. A primeira empresa a banir o uso de tecnologia de reconhecimento facial para identificação em massa foi a IBM, por motivos de violação aos direitos de liberdade, proibindo o uso de software pela polícia para fins investigatórios e pedindo por leis nacionais que regulem o uso da tecnologia[6]. A Amazon, em seguida, anunciou que baniria o uso da tecnologia para uso da força policial por um ano, e ainda exigiu que fossem elaboradas normas rígidas e eticamente fortes para que a tecnologia possa ser utilizada futuramente. A empresa Microsoft também decidiu por limitar o uso da tecnologia, banindo a utilização pela polícia, até que existam leis federais que regulem seu uso[7].

A fim de evidenciar ainda mais estes riscos, outro episódio nos EUA pode ser levado em consideração. No dia 24 de junho de 2020 houve denúncia daquele que parece ser o primeiro caso no país de erro cometido pelo reconhecimento facial com uma pessoa negra. Após uso da tecnologia, policiais prenderam um homem negro sob a alegação de que o sistema de reconhecimento facial o havia identificado como autor de um crime de roubo. Após horas preso e depois de reanalise das evidências, o homem foi liberado e o caso deverá ser extinto[8]. No Brasil, contudo, esse problema é bem mais antigo e os erros ocorrem sem maiores preocupação por parte do Poder Público[9]. Além deste triste episódio, estudo recente aponta que 90% das pessoas presas por reconhecimento facial no Brasil são negras, seguindo a tendência da população carcerária brasileira[10]

Antes mesmo do episódio de George Floyd e da prisão indevida do outro cidadão norte americano em 2020, a União Europeia divulgou, no início de 2020, que está considerando uma medida de banimento do uso de reconhecimento facial por 5 anos, com a finalidade de evitar discriminações por parte dos algoritmos enviesados e em nome da proteção à privacidade das pessoas[11].

Nem todas as empresas que desenvolvem softwares de reconhecimento facial que estão adotando as mesmas medidas. Google e Apple, grandes empresas que operam com tecnologias de reconhecimento facial, continuam fazendo uso do reconhecimento facial em seus produtos, e ainda não se manifestaram quanto ao banimento do uso dos seus softwares. Ainda, nesse mês de junho a Apple anunciou que expandiria o uso do seu reconhecimento facial nos aparelhos, e incorporaria a tecnologia em seus acessórios HomeKit (um conjunto de acessórios inteligentes feitos para a casa)[12].

A China, no mesmo sentido, vem ao longo dos anos se valendo cada vez do uso de reconhecimento facial em diversas áreas, sendo a líder mundial no desenvolvimento dessa tecnologia. O uso de softwares de reconhecimento facial já se tornou parte do dia a dia da população chinesa, sendo utilizada não só pela polícia no auxílio das investigações, controle e segurança pública, mas também para que as pessoas paguem suas contas em restaurantes/supermercados, comprar medicamentos, comprar e utilizar um celular ou mesmo utilizar transporte público[13].

Recentemente, em decorrência da pandemia do COVID-19, houve um aumento na utilização de reconhecimento facial por parte do governo chinês, que acelerou os estudos e aprimoramento da tecnologia, com o intuito de impedir que houvesse maior propagação do vírus, controlando as pessoas que estão infectadas para que não viajem[14]. O aumento na utilização de câmeras de reconhecimento facial nos últimos três anos foi significativamente alto, sendo em 2017 um total de 176 milhões de câmeras, e em 2020 626 milhões. Esse aumento faz surgir inúmeros questionamentos e preocupações quanto a questões de privacidade e coleta de dados.

A população chinesa tem se preocupado cada vez mais com o fato de que estão sendo rastreados a todo momento e se questionado sobre a finalidade da coleta de dados que os sistemas de reconhecimento facial fazem (tanto por câmeras de segurança quanto por aplicativos de celular), desejando poder verificar quais informações foram coletadas e se possível, excluí-las. Mas a preocupação com a coleta de dados feitas pela China, a partir de aplicativos de celulares não se limita apenas à população chinesa.

Nos últimos dias, temos visto uma acalorada disputa entre Estados Unidos e China, referente a coleta de dados a partir do sistema de reconhecimento facial existente no tão popular aplicativo chinês, TikTok. Os Estados Unidos ameaçam banir o uso do aplicativo sob a alegação de que ele estaria sendo utilizado pela China para fins de acessar e coletar os dados dos usuários a partir da análise de outros aplicativos instalados, localização e acesso às fotos. Desta forma, a China poderia coletar dados biométricos não só do dono do celular, mas das pessoas que estão presentes em seu círculo social[15]. 

Os problemas apresentados - falha de segurança do aplicativo e a proteção de dados dos usuários – são tão preocupantes que a Índia, país com o maior número de downloads do aplicativo, baniu o uso do TikTok em todo o país[16]. Diante das discussões, a rede de hackers Anonymous alertou todos os usuários do aplicativo para que o deletassem, pois ele estaria sendo usado pelo governo chinês para executar uma grande operação de espionagem em massa[17].

Podemos, ainda, lembrar de um outro aplicativo – desta vez russo – bastante contestado no Brasil e no mundo, inclusive em órgãos de proteção ao consumidor: o FaceApp, aplicativo que permite criar uma versão mais velha das pessoas a partir da coleta dos dados biométricos da imagem tirada pela câmera do celular.

A resposta do aplicativo (TikTok) sobre todas as acusações de falha na segurança foi a de que eles estão constantemente analisando os alertas emitidos sobre o aplicativo e que, além disso, nenhum dado é fornecido ao governo chinês, e mesmo que pedissem a empresa não os disponibilizaria.  

Os ambientes virtuais devem oferecer segurança aos usuários, principalmente durante uma crise pandêmica como a atual. É importante que aplicativos que façam uso de software de reconhecimento facial tenham políticas de proteção de dados fortes e que possibilitem que seus usuários possam analisar os dados coletados e ainda, excluí-los quando assim desejarem. Muitos são os riscos de falhas de segurança com operações de vigilância em massa para os direitos à privacidade e a liberdade dos usuários.

Ao mesmo tempo, é necessário que Estados, empresas e sociedade civil se unam a fim de criar regras básicas – e principiológicas – sobre o uso destas novas tecnologias. A ausência de regulação adequada coloca em risco boa parte da população mundial. Se é verdade que a pandemia acelerou o uso destas novas tecnologias em 10 anos[18], então precisamos igualmente acelerar os debates públicos e a regulação adequada.

Notas e Referências

[1] SURFSHARK. The facial recognition world map. Disponivel em: <https://surfshark.com/facial-recognition-map>. Acessado em: 21.07.2020.

[2] Disponível em https://canaltech.com.br/seguranca/justica-ordena-fim-de-coleta-de-dados-faciais-na-linha-amarela-do-metro-de-sp-122744/. Acessado em 26.07.2020.

[3] Disponível em https://g1.globo.com/sp/sao-paulo/noticia/2018/08/31/concessionaria-do-metro-de-sp-e-processada-por-painel-que-faz-reconhecimento-facil-de-passageiros.ghtml. Acessado em 26.07.2020.

[4] ROBOTIC BUSINESS REVIEW. Facial Recognition Cameras and AI: 5 Countries with the fastest adoption. 21 de dec. 2018. Disponivel em: <https://www.roboticsbusinessreview.com/ai/facial-recognition-cameras-5-countries/>. Acesso em: 21 de jul. 2020.

[5] SURFSHARK. The facial recognition world map. Disponivel em: <https://surfshark.com/facial-recognition-map>. Acesso em: 21 de jul. 2020.

[6] THE GUARDIAN. IBM quits facial-recognition market over police racial-profiling concerns. 9 de jun. 2020. Disponivel em: <https://www.theguardian.com/technology/2020/jun/09/ibm-quits-facial-recognition-market-over-law-enforcement-concerns>. Acesso em: 22 de jul. 2020.

[7] THE WASHINGTON POST. Microsoft won’t sell police its facial-recognition technology, following similar moves by Amazon and IBM. 11 de jun. 2020. Disponivel em: <https://www.washingtonpost.com/technology/2020/06/11/microsoft-facial-recognition/>. Acesso em: 22 de jul. 2020.

[8] THE NEW YORK TIMES. Wrongfully Accused by an Algorithm. 24 de jun. 2020. Disponivel em: <https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest.html>. Acesso em: 22 de jul. 2020.

[9] Disponível em https://g1.globo.com/rj/rio-de-janeiro/noticia/2019/07/11/sistema-de-reconhecimento-facial-da-pm-do-rj-falha-e-mulher-e-detida-por-engano.ghtml. Acessado em 26.07.2020.

[10] Disponível em https://www.seaaccampinas.org.br/90-das-pessoas-presas-por-reconhecimento-facial-no-pais-sao-negras/. Acessado em 26.07.2020.

[11] BBC NEWS. Facial recognition: EU considers ban of up to five years. 17 de jan. 2020. Disponivel em: <https://www.bbc.com/news/technology-51148501>. Acesso em: 22 de jul. 2020.

[12] HEILWEIL, Rebecca. How can we ban facial recognition when it’s already everywhere? Vox: 06 de jul. 2020. Disponível em: <https://www.vox.com/recode/2020/7/3/21307873/facial-recognition-ban-law-enforcement-apple-google-facebook>. Acesso em: 23 de jul. 2020.

[13] DUDLEY, Lauren. China’s Ubiquitous Facial Recognition Tech Sparks Privacy Backlash. The Diplomat: 07 de Mar. 2020. Disponível em: <https://thediplomat.com/2020/03/chinas-ubiquitous-facial-recognition-tech-sparks-privacy-backlash/>. Acesso em: 23 de jul. 2020.  

[14] DUDLEY, Lauren. China’s Ubiquitous Facial Recognition Tech Sparks Privacy Backlash. The Diplomat: 07 de Mar. 2020. Disponível em: <khttps://thediplomat.com/2020/03/chinas-ubiquitous-facial-recognition-tech-sparks-privacy-backlash/>. Acesso em: 23 de jul. 2020. 

[15] BBC NEWS. TikTok: How app got caught up in the US-China clash. 21 de jul. 2020. Disponível em: < https://www.bbc.com/news/technology-53476117>. Acesso em: 23 de jul. 2020.

[16] BBC NEWS. TikTok: How app got caught up in the US-China clash. 21 de jul. 2020. Disponível em: < https://www.bbc.com/news/technology-53476117>. Acesso em: 23 de jul. 2020.

[17]ZOFFMAN, Zak. Anonymous Hackers Target TikTok: ‘Delete This Chinese Spyware Now’. Forbes: 01 de jul. 2020. Disponível: < https://www.forbes.com/sites/zakdoffman/2020/07/01/anonymous-targets-tiktok-delete-this-chinese-spyware-now/#20f7e6bd35cc>. Acesso: 23 de jul. 2020.

[18] Disponível em https://epocanegocios.globo.com/Empresa/noticia/2020/06/para-fundador-da-khan-academy-pandemia-acelerou-digitalizacao-da-educacao-em-pelo-menos-dez-anos.html. Acessado em 26.07.2020.