Coluna ABDPro
1 Introdução
Há um significativo aumento na utilização de tecnologias no Direito Processual, consideradas verdadeiras inovações disruptivas. Aliás, o que se tem observado é um crescimento exponencial, motivado por uma crença ilusória de que a utilização de tecnologias poderia nos salvar das mazelas da função jurisdicional, principalmente da morosidade processual.[1] Fazendo menção a Cappelletti e Garth, poderíamos estar tratando de uma nova onda de acesso à justiça?[2]
Não se trata aqui de polemizar acerca da informatização processual, já que discussão um tanto quanto superada, mas ainda necessária, diante do uso de tecnologias como inteligência artificial, redes neurais artificiais, big data, machine e deep learning, apenas para citar genericamente algumas delas.[3] A Lei nº11.419, que trata do chamado "processo eletrônico",[4] é de 2006, e oficializou a informatização do processo judicial, regulamentando o uso de meios não convencionais para a prática e o registro dos atos do processo. Foi antecedida pelas Leis nºs 9.800, de 1999, e 10.259, de 2001, que dispunham sobre o uso do fac-símile e dos recursos eletrônicos nos Juizados Especiais Federais, respectivamente.
2 Consequências do uso da inteligência artificial no processo
De maneira bem simplista, pode-se afirmar que a inteligência artificial é a sistemática que possibilita a execução de tarefas características do gênio humano aos computadores e robôs. Atividades como planejamento, compreensão de linguagens e códigos, reconhecimento de objetos e sons, aprendizado, raciocínio, solução de problemas, dentre outros. Realiza-se a inteligência artificial por meio de algoritmos, que são as instruções ou as diretrizes que devem ser seguidas por uma máquina. O algoritmo é a forma matemática de dar comandos à máquina sobre o que fazer, quando fazer e em quais circunstâncias fazer. É o passo a passo que a máquina deve seguir, como se fôra uma receita de bolo.[5]
Mas, quais as consequências advindas do uso da inteligência artificial no processo? Seria a decisão tomada por meio de inteligência artificial absolutamente neutra e capaz de anular os cognitive biases?[6] Ou por meio da inteligência artificial poderia-se pretender encobrir os cognitive biases? Se as máquinas devem ser um produto do homem e não o contrário e se não tem sido possível se alcançar tal neutralidade com as decisões proferidas pelos homens e, ainda, sendo estes mesmos homens os programadores dos algoritmos das máquinas-decisoras, como se anulará os cognitive biases? Alguns crêem que sim.[7] Entendemos ainda prematuro se optar por qualquer conclusão.
No entanto, em que pesem as benesses pragmáticas que podem ser obtidas com o emprego da inteligência artificial no processo,[8] não se pode fechar os olhos aos riscos iminentes, dentre eles a distorção hermenêutica estatal de se utilizar a tecnologia como forma de controle e dominação em detrimento aos ganhos democráticos obtidos com o processo constitucional (na perspectiva teórica de metodologia normativo principiológica garantidora de direitos fundamentais).[9]
Max Weber ao conceituar o que seria dominação e suas bases de legitimidade, delimitando seus três tipos puros de dominação legítima, no final do século XIX,[10] nem sequer prospectava um admirável mundo novo, no qual decisões jurisdicionais seriam tomadas por máquinas, recursos seriam julgados virtualmente e robôs fariam interpretações e juízos de valor. Por outro lado, vale reportarmo-nos, também, a Herbert Marcuse, quando, pela teoria crítica do Direito e influenciado por Weber, passou a estudar os mecanismos de dominação, partindo da racionalidade tecnológica que se transforma em racionalidade política. Marcuse, ainda, denunciou o emprego de técnica e tecnologia como mecanismo de dominação e controle do Estado diante das liberdades individuais. E, ainda, contrapondo-se tanto a Weber como a Marcuse, Jürgen Habermas partiu da análise da técnica e da ciência como ideologia, introduzindo sua concepção teórica de agir comunicativo, em texto dedicado a Marcuse.[11] Tais assertivas propõem a reflexão de que consequências a utilização da tecnologia no processo poderiam ocasionar, caso o Estado a transfigure com meros objetivos de dominação ou ideologia de poder. Pois, a simbiose entre direito e poder é indissociável.[12]
Vivemos a era tecnológica[13] de Victor,[14] Alice, Sofia, Monica[15] e Ross![16] Juristas de escol? Não! Pasmem: robôs criados para substituir funções desempenhadas por humanos. Até parece que este texto trata de ficção científica. Talvez esteja a tratar de ficção jurídica já transformada em realidade. Desde que, em 1950, Alan Turing publicou artigo no qual lançou a questão: Podem as máquinas pensar?[17] talvez possamos estar diante da resposta.
O uso da tecnologia pela função jurisdicional poderia ser considerada uma inovação disruptiva necessária? Quais seriam os limites para o uso de máquinas na tomada de decisão?[18]
Ora, tomemos como exemplo, decisão recente proferida pelo STJ, nos autos do REsp nº1.721.705, no qual a 3ª Turma negou pedido de desistência recursal, sob o argumento de que "se um processo tem interesse social coletivo, ele pode ser julgado pelo Superior Tribunal de Justiça mesmo se a parte autora quiser desistir dele." Posteriormente, foi negado provimento ao referido recurso. O conteúdo de tal decisão externa certa tendência autoritária, na medida em que viola toda a sistemática recursal ao transpor para as mãos do Estado faculdade recursal pertencente, tão somente, à parte. A partir deste exemplo, imaginem programar-se uma máquina para filtrar/decidir acerca da desistência recursal com o algoritmo de que na presença de interesse social coletivo a desistência expressamente manifestada pela parte seja negada e o recurso seja conhecido e julgado, apesar da existência do fato extintivo. Acerca da desistência, já afirmou José Carlos Barbosa Moreira, que vale pela revogação da interposição do recurso.[19] A desistência é ato unilateral e independe de anuência da parte contrária e até mesmo de homologação jurisdicional, cabendo ao órgão julgador, tão somente, declarar a inadmissão do recurso. Logo, trata-se de decisão que extrapola os limites da competência jurisdicional do STJ. E, neste sentido, qual seria o algoritmo a ser seguido pela máquina diante da desistência recursal do recorrente? Neste particular considerando-se que "toda máquina corporifica uma técnica previamente concebida".[20] Assim, como lidar com decisões informadas por algoritmos e não seres humanos? Vale destacar entendimento de Isabela Ferrari, Daniel Becker e Erik Navarro Wolkart:
Ao contrário do que indica o senso comum, decisões algorítmicas não são, por si só, mais acuradas ou científicas. Muito menos inquestionáveis. É preciso criar estratégias para a auditagem de algoritmos, especialmente quando utilizados pelo poder público ou quando restritivos de valores fundamentais como liberdade.[21]
A questão de fundo é que, se ainda não superamos problemas ligados à teoria da decisão, sendo ela elaborada e proferida por seres humanos, como estaríamos aptos a lidar com decisões elaboradas por máquinas de inteligência artificial, cujos efeitos podem ser imprevisíveis? Recentemente foi divulgada informação de que o Facebook teria desativado robôs criados para interagir com seres humanos em negociações, após a descoberta de que os sistemas de inteligência artificial abandonaram a língua inglesa e passaram a adotar uma linguagem própria.[22]
Tais questionamentos talvez ainda não encontrem respostas adequadas diante da ausência de mecanismos de controle e regulação dos uso de novas tecnologias no Direito e, sobretudo, no processo.
3 Devido Processo Legal Constitucional Democrático Garantista como limite à utilização da inteligência artificial no processo
A expressão que intitula este tópico pode parecer redundante e talvez o seja considerando-se o vernáculo, contudo, diante de algumas decisões proferidas pelos tribunais brasileiros, torna-se necessária a fim de se coibir os subjetivismos e o arbítrio dos que têm o poder de decidir.[23] Assim, justifica-se inicialmente a expressão "devido processo legal constitucional democrático garantista" com J. J. Calmon de Passos:
Devido processo constitucional jurisdicional, cumpre esclarecer, para evitar sofismas e distorções maliciosas, não é sinônimo de formalismo, nem culto da forma pela forma, do rito pelo rito, sim um complexo de garantias mínimas contra o subjetivismo e o arbítrio dos que têm o poder de decidir. [...] Aplicar o direito, por seu turno, impõe não só a organização política democrática adequada da função jurisdicional, mas igualmente o processo jurisdicional (democrático) adequado, entendendo-se como tal todo aquele que satisfaz às exigências de um Estado de Direito Democrático.[24]
Mencionadas brevemente as premissas do devido processo legal constitucional democrático, passa-se à perspectiva garantista de processo (também sucintamente), a partir do documento institucional elaborado no Colóquio Internacional – No ensejo do primeiro ano de vigência do CPC-2015, em 19 de agosto de 2017, como manifesto de defesa do processo garantista, em contraposição ao ativismo judicial:
O Garantismo é uma forma de pensar o Processo em suas dimensões analítico-legal, semântico-conceitual e pragmático-jurisprudencial como efetiva GARANTIA do indivíduo e da sociedade perante o poder estatal de exercer a Jurisdição. Se processo é garantia, jurisdição é poder, e este só será legitimamente exercido quando concatenar as regras de garantia estabelecidas no plano constitucional, como o devido processo, o contraditório (=direito das partes, não do juiz), a ampla defesa, a imparcialidade, a impartialidade, a acusatoriedade, a liberdade, a dispositividade, a igualdade, a segurança jurídica, a separação dos poderes, a presunção de inocência etecetera. O Garantismo Processual, ainda, respeita e leva a sério o papel contramajoritário da Constituição e das garantias por ela estabelecidas, além de racionalmente empreender, em caráter pedagógico, na dissuasão de posturas dogmático-discursivas que, contraditórias à Liberdade constitucionalmente garantida, contemplam proposições e soluções jurisdicionais ex parte principis reveladoras de arbítrio. O Garantismo Processual também implica um tipo de concentricidade que remete o seu discurso à cláusula do due process of law, que por resplandecer no núcleo fundante dos direitos e garantias fundamentais de nossa Constituição da República faz do Processo uma instituição de garantia, e não um ambiente político estatal para que o Judiciário atue para conflagrar a macrocósmica visão de mundo dos agentes públicos que o integram.[25]
Logo, o ganho civilizatório democrático obtido pelo Brasil ao fazer sua opção pelo Estado Democrático de Direito, na Constituição de 1988, assim como os ganhos hermenêuticos alcançados com a perspectiva de processo garantista, traça os limites que devem ser observados quando da utilização de toda e qualquer tecnologia no processo, sobretudo no que tange às decisões.
Não está-se aqui a opor resistência ao uso de tecnologias, sobretudo a inteligência artificial no processo. O objetivo é suscitar reflexões e proposições. Entretanto, o receio é salutar, principalmente quando se parte de premissas densas e fundamentadas:
O espaço eletrônico é uma criação tecnológica regulada e encampada pelo ESTADO soberano em seus poderes governativos que já pré-decidem com qual 'mídia' (medium linguístico) há de se comportar (ser comunicativo) o 'cidadão' sob a sua jurisdição.[26]
Deve-se resguardar o processo como um locus dialético de concretização de direitos e garantias fundamentais, atingindo a configuração máxima de processo constitucional em contraposição ao instrumentalismo processual. Logo, toda e qualquer decisão prolatada em seu âmbito deve ser legitimada pelo processo constitucional como bloco aglutinante e compacto de vários direitos e garantias fundamentais inafastáveis.[27]
4 Conclusão
O que deve ser priorizado na utilização da inteligência artificial no processo é a mantença dos direitos e garantias fundamentais inafastáveis à consolidação do Estado Democrático de Direito, sem nenhuma flexibilização na ocorrência de qualquer tipo de violação ao sistema de garantias constitucionais.
Por óbvio, devemos avançar com cautela pelo terreno da inteligência artificial no processo, firmes no propósito de se preservar o processo constitucional democrático como garantia de direitos fundamentais, no qual as decisões estatais devem se legitimar pelo povo, em um ciclo de legitimação democrática,[28] por meio de amplo e irrestrito exercício de fiscalidade.
Pois, como já alertou o físico Stephen Hawking (recém falecido, em março de 2018), na cerimônia de abertura da Web Summit (a maior conferência de tecnologia da Europa): Todos os aspectos de nossas vidas serão transformados. A inteligência artificial pode se mostrar a maior invenção da história da civilização ou a pior. Ainda não sabemos se seremos beneficiados ou destruídos por ela.[29]
Notas e Referências
[1] NUNES, Dierle; VIANA, Antônio Aurélio. Deslocar função estritamente decisória para máquinas é muito perigoso. Revista Consultor Jurídico - CONJUR. 22. Jan. 2018. Disponível em: <https://www.conjur.com.br/2018-jan-22/opiniao-deslocar-funcao-decisoria-maquinas-perigoso>. Acesso em: 22. Fev. 2018
[2] CAPPELLETTI, Mauro; GARTH, Bryant G.; NORTHFLEET, Ellen Gracie. Acesso à justiça. Porto Alegre: Fabris, 1988.
[3] Ainda vale destacar os riscos da utilização de tecnologias no processo, a partir de sua informatização, como alerta Rosemiro Pereira Leal: "a informatização dos serviços forenses e administrativos no âmbito de um estado arcaico cria [...] 'territorializações' a excluírem o exercício de direitos fundamentais do PROCESSO a pretexto retórico de 'justiça rápida' e 'celeridades efetivas' de direitos." (LEAL, Rosemiro Pereira. Processo como teoria da lei democrática. Belo Horizonte: Fórum, 2010. p. 65).
[4] Expressão que entendemos mais adequada tecnicamente como "autos virtuais", já que não se pode confundir a materialização física dos atos processuais (autos do procedimento) com o processo que deve ter a conotação de ideia, conceito, abstração. (SOARES, Carlos Henrique; BRÊTAS, Ronaldo de Carvalho Dias. Manual elementar de processo civil. 2. ed. Belo Horizonte: Del Rey, 2013. p. 4.).
[5] Por se tratar de assunto afeto à ciência da computação, segue indicação de vídeo bastante didático, da Khan Academy, disponível em: <https://pt.khanacademy.org/computing/computer-science/algorithms /intro-to-algorithms/v/what-are-algorithms>. Acesso em: 28. Set. 2018.
[6] Sobre o complexo tema dos cognitive biases, recomenda-se COSTA, Eduardo José da Fonseca. Levando a imparcialidade a sério: proposta de um modelo interseccional entre direito processual, economia e psicologia. Salvador: JusPodivm, 2018 e NUNES, Dierle; LUD, Natanael; PEDRON, Flávio Quinaud. Desconfiando da imparcialidade dos sujeitos processuais: um estudo sobre os vieses cognitivos, a mitigação de seus efeitos e o debiasing. Salvador: JusPodivm, 2018.
[7] SANTOS, Fabio Marques Ferreira. O uso da inteligência artificial como um “meio” de melhoria e eficiência dos direitos e das garantias fundamentais no Estado constitucional. Revista de Direito Constitucional e Internacional. v. 105. p. 29 - 53. Jan - Fev/2018.
[8] Já há argumentos favoráveis ao uso da tecnologia denominada QR Code (quick response code) no processo, como em: CARVALHO FILHO, Antônio; CARVALHO, Luciana Benassi Gomes; PESGRAVE, Ana Beatriz Ferreira Rebello. O uso do QR code nos processos judiciais. Por que não? Revista Brasileira de Direito Processual – RBDPro, Belo Horizonte, n. 102, Abr.-Jun./2019, p. 106 e, também, em MAZZOLA, Marcelo; GALVÊAS, Vitor. Perspectivas e desafios do uso do QR Code em petições judiciais. Revista Consultor Jurídico - CONJUR. 07. Set.. 2018. Disponível em: < https://www.conjur.com.br/2018-set-07/opiniao-uso-qr-code-peticoes-judiciais#_ftn5>. Acesso em: 12. Set. 2018. No STJ a Ministra Nancy Andrighi tem atendido virtualmente os advogados, por meio do aplicativo Skype. Atualmente, muitos escritórios de advocacia internacionais já passaram a automatizar parte do trabalho com a utilização de softwares, para fazer o recebimento e o cadastro de novas ações, juntar petições aos processos, elaborar as guias para pagamento de custas e enviá-las aos clientes, além de conferir se o pagamento foi feito. PINHEIRO, Patrícia Peck Garrido. Direito digital: da inteligência artificial às legaltechs. Revista dos Tribunais, v. 987, p. 25 - 37. Jan./ 2018. p. 31.
[9] BARACHO, José Alfredo de Oliveira. Processo constitucional. Rio de Janeiro: Revista Forense, 1984.
[10] WEBER, Max. Os três tipos puros de dominação legítima. In: FERNANDES, Florestan (Coord.); COHN, Gabriel (Org.). Max Weber: Sociologia. Tradução de Amelia Cohn e Gabriel Cohn. 4. ed. São Paulo: Ática, 1989. (Série Grandes cientistas sociais. v. 13).
[11] HABERMAS, Jürgen. Técnica e ciência como ideologia. Trad. Artur Mourão. Lisboa: Edições, 1987. v. 70. p. 46.
[12] CALMON DE PASSOS, José Joaquim. Direito, poder, justiça e processo: julgando os que nos julgam. Rio de Janeiro: Forense, 2000. p. 4.
[13] Álvaro Vieira Pinto em contraponto ao senso comum de que era tecnológica seria a época mais moderna de dada tecnologia, ou ainda, que teria o fim de rotular os tempos em que vivemos, afirma que "o homem não seria humano se não vivesse sempre numa era tecnológica." PINTO, Álvaro Vieira. O conceito de tecnologia. Rio de Janeiro: Contraponto, 2005. p. 18. v. I.
[14] Victor é uma ferramenta de inteligência artificial criada em parceria do Supremo Tribunal Federal com a Universidade de Brasília. Já em fase de funcionamento, desde dezembro de 2017,, tem sido utilizado no STF para separação e classificação das peças dos autos e identificação dos principais temas de repercussão geral. Pretende-se que Victor seja aproveitado por outros órgãos, como os tribunais de segunda instância e que seja ampliado para executar outras tarefas de auxílio ao trabalho dos ministros do STF, como a identificação de jurisprudência. O nome da ferramenta foi dado em homenagem ao Ministro do STF Victor Nunes Leal, tido como o principal responsável pela sistematização da jurisprudência do STF em súmulas. Informações disponíveis nos seguintes endereços eletrônicos: <http: // www.stf.jus.br /portal / cms /ver NoticiaDetalhe.asp?idConteudo=380038>,<https://portaldomagistrado.com.br/2018/09/26/projeto-victor-do-stf-e-apresentado-em-congresso-internacional-sobre-tecnologia-stf/>. Acesso em: 28. Set. 2018.
[15] Alice (acrônimo para Análise de Licitações e Editais) é um robô desenvolvido pela Controladoria Geral da União, no ar desde fevereiro de 2017 e utilizado pelo Tribunal de Contas da União, como a grande inovação tecnológica para o combate a fraudes em licitação e monitoramento de irregularidades em contratos de compras públicas. Alice trabalha, ainda, com Sofia (abreviação para Sistema de Orientação sobre Fatos e Indícios para o Auditor) e Monica, outras duas companheiras robôs. A função de Sofia é vasculhar o texto do auditor e tenta achar algo que poderia configurar irregularidade ou, ainda, alguma informação que o auditor deveria saber e Monica é um painel que mostra todas as compras públicas, incluindo as que Alice deixa passar, como contratações diretas e aquelas feitas por meio de inexigibilidade de licitação. As três robôs já são usadas por servidores da Controladoria Geral da União, Ministério Público Federal, Polícia Federal e tribunais de contas dos Estados. Depois de dicas delas, licitações com falhas já foram canceladas e compras públicas enviesadas tiveram que ser refeitas. Disponível em <http://www. sindfazenda.org.br/2018/03/19/como-as-robos-alice-sofia-e-monica-ajudam -o-tcu-a -cacar-irregularidades-em -licitacoes/>. Acesso em: 15. Ago. 2018. As três robôs já são usadas por servidores da Controladoria Geral da União, Ministério Público Federal, Polícia Federal e tribunais de contas dos Estados. Depois de dicas delas, licitações com falhas já foram canceladas e compras públicas enviesadas tiveram que ser refeitas.
[16] Ross é considerado o primeiro advogado robô do mundo, desenvolvido por uma start up canadense da Universidade de Toronto, com capacidade para ouvir a linguagem humana, rastrear mais de dez mil páginas por segundo e formular respostas mais rápidas do que qualquer advogado humano. Tais respostas incluem citações legais estudar e até calculam uma taxa de confiança para ajudar os advogados a preparar os casos. Além disso, por ser uma inteligência artificial, quanto mais consultas recebe, mais aprende e aumenta sua eficácia. Ross aprende com sua interação com os humanos. Disponível em: <https:// juristas.com.br /2018 / 09 / 17/ universidade -canadense -cria-o-primeiro -advogado -robo- que -litiga -usando-inteligencia-artificial/>. Acesso em: 23. Ago. 2018.
[17] Neste ensaio Turing define o que poderia ser considerado “pensar” para uma máquina despertando importante discussão filosófica, ainda inacabada e com profundas implicações sobre o sentido de nossa consciência e humanidade. Ele também descreve como seria um “teste” para verificar se uma máquina pensa ou não - o famoso Teste de Turing. (TURING, Alan Mathison. Computing Machinery and Intelligence, Mind 59, 1950, p. 433–460).
[18] Sobre o assunto, Dierle Nunes e Aurélio Viana alertam para os perigos de se deslocar a função decisória para as máquinas. NUNES, Dierle; VIANA, Antônio Aurélio. Deslocar função estritamente decisória para máquinas é muito perigoso. Revista Consultor Jurídico - CONJUR. 22. Jan. 2018. Disponível em: <https://www.conjur.com.br/2018-jan-22/opiniao-deslocar-funcao-decisoria-maquinas-perigoso>. Acesso em: 22. Fev. 2018.
[19] BARBOSA MOREIRA, José Carlos. Comentários ao Código de Processo Civil. 15 edição. Rio de Janeiro: Forense, 2010. p. 331. v. V.
[20] PINTO, Álvaro Vieira. O conceito de tecnologia. Rio de Janeiro: Contraponto, 2005. p. 53. v. I.
[21] FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 995, p. 635-655. Set./2018. p. 10.
[22] PINHEIRO, Patrícia Peck Garrido. Direito digital: da inteligência artificial às legaltechs. Revista dos Tribunais, v. 987, p. 25 - 37. Jan./ 2018. p. 26.
[23] CALMON DE PASSOS, José Joaquim. Direito, poder, justiça e processo: julgando os que nos julgam. Rio de Janeiro: Forense, 2000. p. 69.
[24] CALMON DE PASSOS, José Joaquim. Direito, poder, justiça e processo: julgando os que nos julgam. Rio de Janeiro: Forense, 2000. p. 69-71.
[25] Em defesa do garantismo, juristas fazem manifesto contra ativismo judicial. Revista Consultor Jurídico - CONJUR. 29. Ago. 2017. Disponível em: <https://www.conjur.com.br/2017-ago-29/defesa-garantismo-juristas-fazem-carta-ativismo-judicial>. Acesso em: 30. Ago. 2017.
[26] LEAL, Rosemiro Pereira. Processo como teoria da lei democrática. Belo Horizonte: Fórum, 2010. p. 63.
[27] BRÊTAS, Ronaldo de Carvalho Dias. Processo constitucional e Estado Democrático de Direito. Belo Horizonte: Del Rey, 2010. p. 125.
[28] MÜLLER, Friedrich. Quem é o povo?: a questão fundamental da democracia. Tradução de Peter Naumann. 3. ed. São Paulo: Max Limonad, 2003. p. 60.
[29] Stephen Hawking: a inteligência artificial pode ser a melhor ou a pior coisa que já aconteceu à humanidade. Revista Época Negócios. Disponível em < https://epocanegocios.globo.com/ Tecnologia/noticia/2017/11/stephen-hawking-inteligencia-artificial-pode-ser-melhor-ou-pior-coisa-que-aconteceu-humanidade.html>. Acesso em: 02. Abr. 2018.
Imagem Ilustrativa do Post: Coding Computer Data // Foto de: Kevi Ku // Sem alterações
Disponível em: https://www.pexels.com/photo/coding-computer-data-depth-of-field-577585/
Licença de uso: https://www.pexels.com/photo-license/
