Coluna O Direito e a Sociedade de Consumo / Coordenador Marcos Catalan
A utilização das novas tecnologias anda perpassando por várias nuances de nossas vidas sociais: Instagram, Twitter, Facebook; chamadas de vídeos substituem, ainda mais em meio à pandemia do Coronavírus, alguns velhos meios de sociabilidades e interações antes utilizados. Por vezes facilitadores de trocas, essas novas tecnologias adentram nas tramas constitutivas de novos agires de diversas instituições sociais; com a utilização de grandes montantes de dados, podemos dizer que estamos vivendo na Era Big Data[1]. Na área de segurança pública não poderia ser diferente: reconhecimento facial, predição, drones e sensores de ambientes são algumas das tecnologias associadas ao policiamento preditivo.
Policiamento preditivo seria, resumidamente, uma análise de uso de dados para predizer crimes futuros; ou melhor, “aplicação da modelagem por computadores a dados criminais passados para predizer atividade criminal futura” (BACHNER, apud JOH, 2014, p. 42). Desse modo, vendido como uma forma de atuação neutra e imparcial da polícia, já que sua atuação se regula por meio de algoritmos e softwares, o policiamento preditivo, em um primeiro momento, poder ser entendido como uma espécie de salvador das mazelas discriminatórias existentes na atuação policial. Ora, lembremos que, segundo o Anuário Brasileiro de Segurança Pública, no ano de 2019 no Brasil, 79,1% das vítimas de intervenções policiais eram negras, 74,3% eram jovens de até 29 anos, e 99,2% eram homens[2].
Ademais, são extensos os estudos na área de ciências sociais e ciências criminais que andam direcionando suas pesquisas para o entendimento do agir racializado dessas instituições: em relação às formas de policiamento, vasta bibliografia nacional já vem se debruçando sobre a temática das atuações dessas instituições estatais e seus cruzamentos com diferentes marcadores sociais e com as legitimidades do agir das instituições aqui envolvidas (LIMA; BUENO; SINHORETTO, 2015; MUNIZ; PAES-MACHADO, 2010; MUNIZ, 1999; MUNIZ; SILVA, 2010).
Contudo, como de fato se organiza esse tipo de policiamento já implementado em outras partes do mundo, como EUA, que é entendido como uma sociedade, assim como a nossa, racializada, e o que podemos aprender com as experiências já existentes? A partir da nova roupagem de predição, a atuação institucional dos policiais parece ficar sem discriminação. Mas, ao que tudo indica, apenas parece. Vários estudos[3] têm mostrado que essas ferramentas perpetuam o racismo sistêmico, mas ainda sabemos muito pouco sobre como funcionam, quem as está usando e com que propósito.
Como antes salientado, o policiamento preditivo é criado dentro do mundo entendido como do Big Data, onde são utilizados métodos de mineração de dados para conjecturar correlações entre resultados criminais (outcome), e os diversos dados sociais coletados que foram colocados no sistema (input), tais como localização, dados comerciais, etc. Assim, se utilizam da análise desses dados para prever crimes, resultando em algo como uma fusão de informação tecnológica, teoria criminológica e algoritmos preditivos (SELBST, 2017). A mineração de dados seria entendida como o uso de técnicas de aprendizado de uma máquina para encontrar padrões e relacionamentos úteis nos dados.
A inovação no policiamento preditivo seria exatamente o uso de inteligência artificial na análise e entendimento desses conjuntos de dados, realizando correlações. Esses modelos preditivos, muitos deles utilizados nos EUA, confiam e são firmados em observações estabelecidas sobre a distribuição espacial do comportamento criminoso, destacando que os crimes tendem a ocorrer, segundo a utilização do sistema, em pequenas áreas limitadas. Assim, a relação entre crime e lugar influencia diretamente nos modelos de computador adotados para a previsão de crimes - e parece que por eles também são influenciados. A aplicação de inteligência artificial nos programas utilizados nesse grande conjunto de dados tende a identificar as possíveis áreas de cometimento de crimes futuros - utilizando-se dos fatores que alimentam o software, os bancos de dados, e traçando correlações.
A questão parece ganhar maior magnitude quando nos deparamos com quais os bancos de dados são utilizados para a alimentação e treinamento desses softwares, bem como com os tipos de modelos desse policiamento – que se relacionam veementemente com o olhar vigilante dessa instituição. Existem três tipos de policiamento preditivo: a) place-based predictive policing; b) person-based predictive policing; c) suspect-based predictive policing. O item “a” se direciona para identificar áreas de maior cometimento de delitos e lá direcionará os recursos para a atuação da polícia sobre alguns delitos específicos (roubos, furtos, etc.). O item “b” se direciona mais para o risco que a pessoa apresenta dentro do meio social, entrando aqui o chamado “heat list”, gerando uma maior vigilância para as pessoas com algum contato com crimes. Por fim, o “c” estaria baseado no suspeito, onde existe a criação de um modelo de criminoso, o que se diferenciaria do “b”, destinado a achar pessoas com propensão a serem criminosos (características individuais para uma possível delinquência, seria algo como o “criminoso nato”, aproximando da antropologia criminal, onde certos perfis são já entendidos como criminosos) (SELBST, 2017).
Em resumo, a polícia está usando o software de policiamento preditivo para direcionar a sua ação para locais onde acreditam que exista uma maior probabilidade de atividade criminosa. Contudo, alguns pontos de suma importância merecem destaque: a) nenhum programa de policiamento preditivo é totalmente objetivo; os elementos básicos de um programa de software preditivo necessariamente envolvem discrição humana; os dados utilizados para criar os modelos vão depender dos tipos de crime utilizados para predição e dos tipos de informações usadas para prever esses crimes; b) um modelo preditivo direciona a polícia para um “olhar” de suspeição para determinado local, talvez encorajando a polícia a enxergar nesses locais mais comportamentos suspeitos . (JOH, 2018).
Estudos norte-americanos apontam que os algoritmos utilizados para esse tipo de policiamento visariam de forma desproporcional os jovens negros. Embora por lei os algoritmos não usem raça como um preditor, outras variáveis, como aqui antes descrito, como histórico socioeconômico, educação e endereço, atuam como substitutos. Mesmo sem considerar explicitamente a raça, essas ferramentas são racistas, pois retroalimentam um sistema racialmente desproporcional já existente. E pior, sem demonstrar seus modos de funcionamento. A prática de determinar níveis de ameaça dos indivíduos por referência a dados sociais e comerciais pode vincular indevidamente a pele preta a níveis de ameaça ou de maior suspeita de terem cometido um crime em particular. Os mapas de crimes baseados em dados históricos podem levar a mais prisões por crimes de perturbação em bairros habitados principalmente por negros, segundo estudo de Selbst (2017).
Ademais, da mesma forma, os estudos sugerem que identificar certas áreas como pontos críticos que merecem maior vigilância e atuação da sua força tarefa faz com que os policiais já esperem e se preparem para problemas durante a patrulha, tornando-os mais propensos a parar ou prender as pessoas por causa de preconceitos ao invés de necessidades. Ou seja, o problema está nos dados dos quais os algoritmos se alimentam. Por um lado, algoritmos preditivos são facilmente distorcidos pelas taxas de prisão. De acordo com os números do Departamento de Justiça dos EUA, você tem duas vezes mais probabilidade de ser preso se for negro do que se for branco. Uma pessoa negra tem cinco vezes mais probabilidade de ser parada sem justa causa do que uma pessoa branca[4]. Em se utilizando desses dados para a alimentação de programas que guiam o policiamento preditivo, por consequência essas mesmas pessoas serão mais abordadas pela polícia e possuem a maior probabilidade de adentrarem no sistema de justiça penal.
A Era Big Data e o policiamento preditivo estão dados e adentrando cada vez de modo mais forte na atuação das instituições policiais. A questão é entendermos como os algoritmos funcionam, quais dados estão sendo utilizados para alimentarem o software e como essas ações podem reproduzir comportamentos racializados tão já conhecidos por essas instituições. Já temos conhecimento que o policiamento preditivo pode assumir uma capa de neutralidade mascarando sua atuação discriminatória, seja a partir dos bancos de dados que alimentam o sistema (que podem variar desde os antecedentes criminais, até ocorrências, passando pela participação nos sistemas de assistência social); seja pelas formas como os dados são elencados e priorizados, vez que a atividade humana se apresenta como condutora de ações; seja, ainda, pela modelagem para o desenvolvimento do software - quais as variáveis e conexões utilizadas, já que o modo como o grande montante de dados vem sendo utilizado direciona a atuação de mais vigiar, mais abordar e mais prender para determinada parcela específica da população: a população negra.
Notas e Referências
ADORNO, Sérgio; DIAS, Camila. Monopólio Estatal da Violência. In: LIMA, R. S.; RATTON, J. L.; AZEVEDO, R. G. (Orgs.). Crime, Polícia e Justiça no Brasil. São Paulo: Contexto, 2014. p. 187-197.
BYFIELD, N. P. Race science and surveillance: police as the new race scientists. Social Identities, v. 0, n. 0, p. 1–16, 2018.
COSTA, Arthur Trindade Maranhão; LIMA, Renato Sérgio de. Segurança Pública. In: LIMA, R. S.; RATTON, J. L.; AZEVEDO, R. G. (Orgs.). Crime, Polícia e Justiça no Brasil. São Paulo: Contexto, 2014. p. 482-490.
FERGUSON, A. G. Big Data and Predictive Reasonable Suspicion. University of Pennsylvannia Law Review, v. 163, n. 2, 2015.
JOH, E. E. Policing by numbers: Big data and the 4th Amendment. Washington Law Review, v. 89, 2014.
KANT DE LIMA, Roberto. Éticas e Práticas na Segurança Pública e na Justiça Criminal. In: LIMA, R. S.; RATTON, J. L.; AZEVEDO, R. G. (Orgs.). Crime, Polícia e Justiça no Brasil. São Paulo: Contexto, 2014. p. 471-481.
LIMA, Roberto Sérgio de; BUENO, Samira; SINHORETTO, Jacqueline. A gestão da vida e da segurança pública no Brasil. Soc. estado., Brasília, v. 30, n. 1, p. 123-144, apr., 2015.
MAYER-SCHOENBERGER, V.; CUKIER, K. Big Data: a revolution that will transform how we live, work, and think. Londres: John Murray, 2013.
MUNIZ, Jacqueline. Ser policial é, sobretudo, uma razão de ser. Cultura e cotidiano da Polícia Militar do Estado do Rio de Janeiro. Tese de Doutorado. Rio de Janeiro: Iuperj, 1999.
MUNIZ, Jacqueline; JÚNIOR, Domício Proença. Mandato Policial. In: LIMA, R. S.; RATTON, J. L.; AZEVEDO, R. G. (Orgs.). Crime, Polícia e Justiça no Brasil. São Paulo: Contexto, 2014. p. 491-501.
MUNIZ, Jacqueline; PAES-MACHADO, Eduardo. Polícia para quem precisa de polícia: contribuições aos estudos sobre policiamento. Cad. CRH, Salvador, v. 23, n. 60, p. 437-447, 2010.
MUNIZ, Jacqueline; SILVA, Washington França da. Mandato policial na prática: tomando decisões nas ruas de João Pessoa. Cad. CRH, Salvador, v. 23, n. 60, p. 449-473, 2010.
SELBST, A. D. Disparate impact in Big Data policing. Georgia Law Review, v. 52, 2017
[1] Pode-se dizer que o Big Data é compreendido para além de um mero modo de comunicação, como a Internet, pois demonstra a possibilidade de aprendizado, a partir de uma gama de informações, de elementos antes incompreensíveis quando utilizados apenas menores montantes de informação. Considerando a evolução da utilização de dados, verifica-se que, no ano de 2000, apenas ¼ (um quarto) de todas as informações armazenadas no mundo eram digitalizadas, diferentemente da época recente, em que apenas 2% das informações não são digitalizadas. Contudo, o Big Data é também, para além dos termos de magnitude, caracterizado pela “dataficação”, ou seja, pela capacidade de transformar em dados muitos aspectos pertencentes ao mundo que jamais antes foram quantificados. (CUKIER; MAYER-SCHOENBERGER, 2013).
[2] Pesquisas na área da violência estatal demonstram uma frágil e preocupante imagem no que diz respeito às polícias e demais instituições de Segurança Pública no Brasil (ADORNO E DIAS, 2014; KANT DE LIMA, 2014; COSTA E LIMA, 2014; MUNIZ E JUNIOR, 2014).
[3] BYFIELD, N. P. Race science and surveillance: police as the new race scientists. Social Identities, v. 0, n. 0, p. 1–16, 2018.
FERGUSON, A. G. Big Data and Predictive Reasonable Suspicion. University of Pennsylvannia Law Review, v. 163, n. 2, 2015.
[4] Disponível em: https://www.technologyreview.com/2020/07/17/1005396/predictive-policing-algorithms-racist-dismantled-machine-learning-bias-criminal-justice/. Acesso em: 31.01.2021.
Imagem Ilustrativa do Post: colorful software or web on a computer // Foto de: Markus Spiske // Sem alterações
Disponível em: Colorful software or web code on a computer monitor photo – Free Technology Image on Unsplash
Licença de uso: https://pixabay.com/en/service/terms/#usage
