Coluna O Direito e a Sociedade de Consumo / Coordenador Marcos Catalan

A estrutura de nossa sociedade apresenta um cenário no qual os direitos não são uma exclusividade dos seres humanos. Corporações, Estados e Sociedades Empresárias, a título de exemplo, também possuem, do ponto de vista legal, uma personalidade civil, que lhes garante direitos e obrigações. Novas perspectivas derivadas da crescente adesão e aceitação do uso de Inteligência Artificial[i] começam a gerar um impasse: é chegado o momento de modificarmos o status jurídico de robôs e máquinas inteligentes?

A discussão sobre as condições de possibilidade de uma personalidade jurídica robótica passou a ser impulsionada – não apenas por debates de cunho acadêmico, mas, também, por questões de ordem prática –, na medida em que os robôs ganharam espaço em nossos lares. Primeiramente, é necessário compreender que os robôs, diferentemente de suas representações hollywoodianas, prescindem de um corpo físico, pois a grande maioria opera a um nível computacional (agregação e processamento de dados)[ii]. Um clássico exemplo são os diversos sistemas de assistentes digitais presentes em aparelhos smartphone – Siri, Google Assistente, Microsoft Cortana etc.

Dentro do universo literário, as indagações sobre a personalização dos robôs foram postas primeiramente em pauta através dos contos fictícios de Isaac Asimov, em especial, “O Homem Bicentenário”. O conto narra rapidamente os passos de Andrew Martin, um autômato doméstico, que ao descobrir-se consciente, busca tornar-se cada vez mais humano. Para tanto, Andrew travava batalhas jurídicas em prol dos direitos dos robôs. A primeira sentença judicial em seu favor (e que determina sua personalidade) estabelece: “ninguém tem o direito de recusar liberdade a qualquer criatura de inteligência suficientemente desenvolvida a ponto de compreender o conceito e desejar essa condição”[iii].

Ainda que as circunstâncias iniciais advenham de modelos pensados em sociedades alternativas e ficcionais, a realidade fática já apresenta sinais da necessidade de avaliar legalmente as possibilidades da personalização dos robôs. A quem pertence, de fato, os direitos sobre obras de artes produzidas inteiramente por inteligência artificial? A resposta de hoje aponta para o desenvolvedor, em virtude de ter orientado as diretrizes de lógica da máquina. Todavia, em tempos de popularização de machine learning[iv], deep learning[v] e inteligência artificial, as chamadas “máquinas inteligentes” podem ultrapassar os limites prévios impostos pelo programador, e, por vezes, alcançarem o imprevisto. Casos como esse provocam as discussões sobre a possibilidade da personalização robótica.

Em solo brasileiro, os debates referentes ao chamado Direito Robótico ainda estão em estágio embrionário. Por sua vez, em 2017, o Parlamento Europeu discutiu a possibilidade de estender direitos e deveres aos robôs, através da chamada e-personality ou “personalidade eletrônica”. Dentre as recomendações constantes na polêmica resolução encaminhada à Comissão sobre disposições de Direito Civil e Robótica, consta a proposta de criação de um “estatuto jurídico específico para os robôs a longo prazo, de modo a que, pelo menos, os robôs autônomos mais sofisticados possam ser determinados como detentores do estatuto de pessoas eletrônicas responsáveis por sanar quaisquer danos que possam causar e, eventualmente, aplicar a personalidade eletrônica a casos em que os robôs tomam decisões autônomas ou em que interagem por qualquer outro modo com terceiros de forma independente” (parágrafo 59, f)[vi].

No que diz respeito à responsabilidade, a proposição de uma personalidade eletrônica mostra-se mais conexa a possíveis situações de reparação de danos em incidentes que envolvam robôs com algum grau de autonomia do que uma real análise sobre as condições de um estatuto legal voltado para máquinas inteligentes. Outros parágrafos sugerem ainda: a criação de um regime de seguros obrigatórios para cobrir danos potenciais; um sistema de registro individual que garanta um vínculo entre o robô e seu fundo de compensação; atribuir responsabilidade limitada ao fabricante, programador, proprietário ou utilizador que contribuir com fundo de compensação ou se subscrever conjuntamente a um seguro que garanta indenização por danos causados pelo robô.

Aos olhos de muitos observadores, as abordagens iniciadas pelo Parlamento Europeu podem aparentar admirável inovação. Há, contudo, um expressivo número de acadêmicos, especialistas em robótica e inteligência artificial, eticistas, líderes industriais, entre outros, que discorda dos rumos tomados pelo Parlamento.

Através de uma carta aberta, solicitaram à Comissão Europeia que não concedesse status jurídico aos robôs. Alegam que o impacto econômico, jurídico, social e ético da Inteligência Artificial e da Robótica não deve ser julgado de forma precipitada, visto que as regras para o tema devem ser examinadas em conformidade com o benefício de toda a humanidade. Referem, inclusive, que a criação da personalidade eletrônica voltada para robôs “autônomos, imprevisíveis e autodidatas” é legitimada pela falsa afirmação da impossibilidade de averiguar a responsabilidade por eventuais danos, posto que tal afirmação representa uma supervalorização das reais capacidades de nossos robôs mais avançados, bem como uma visão dos robôs “distorcida pela ficção científica e anúncios sensacionalistas”.

Por fim, do ponto de vista ético e jurídico, a carta aberta menciona a incompatibilidade da personalidade jurídica robótica com os paradigmas atuais: a) não pode provir do modelo de Pessoa Natural, pois o robô alcançaria direitos humanos como dignidade, integridade, cidadania, contrastando convenções internacionais e os Direitos Humanos; b) não pode provir do modelo de Pessoa Jurídica, pois se subentende a existência de seres humanos como representantes das tomadas de decisão.

Nessa seara, Noel Sharkey, professor de inteligência artificial e robótica na Universidade de Sheffield e signatário da carta, manifestou-se no sentido de que, “ao buscar o reconhecimento de uma personalidade jurídica robótica, os fabricantes estavam apenas tentando se isentar da responsabilidade pelas ações de suas máquinas”[vii].

Outra recente tentativa de personalização remete a Robô Sophia, que ganhou fama após falar em rede nacional que “destruiria os humanos”. Em outubro de 2017, o governo da Arábia Saudita tornou-se o primeiro a reconhecer um robô como cidadão, ao agraciar Sophia com um título de cidadã. Ainda que anúncio tenha sido um grande golpe de marketing voltado para a construção de um novo complexo tecnoindustrial do país, a concessão de cidadania foi uma lamentável escolha em uma nação conhecida internacionalmente por violar os direitos das mulheres. No fim das contas, um dos criadores de Sophia, Ben Goertzel, admitiu que o robô encontra-se muito mais próximo de um chatbot (robô conversador) do que de uma inteligência artificial avançada[viii].

Obviamente, a complexidade da tarefa de definir parâmetros a serem observados em uma máquina inteligente, com a finalidade de conceder uma extensão dos direitos de personalidade, requer uma análise muito mais árdua do que aquela apresentada pela resolução do Parlamento Europeu ou pela iniciativa saudita. Não há consenso entre os pesquisadores da área sobre qual deve ser o fato gerador da pretensão de personalidade robótica. Consciência, inteligência, autonomia e capacidade de sofrer são algumas das propostas consideradas na literatura. Entretanto, independentemente de qual propriedade ou combinação de propriedades venham a ser selecionadas, nossos robôs, ao menos neste momento, não aparentam possuir tais capacidades.

Cabe ressaltar que o anseio empresarial pela extensão dos direitos de personalidade segue uma lógica oportunista. Isto é, afasta-se das empresas a responsabilidade, culpabilizando o robô por eventuais danos; considera-se o robô como um produto, parte da engenhosidade humana, quando este gerar lucro ou obter reconhecimento.

Em verdade, o grande chamariz do debate é amplitude do impacto que as máquinas inteligentes adquiriram em nosso cotidiano. Por conseguinte, o direito das máquinas inteligentes reflete muito mais o significado das máquinas em nosso meio social do que uma excêntrica comparação com os direitos dos seres humanos.

A necessidade de regulamentar decorre da natureza das novas relações entre os humanos e as máquinas. O conflito, por sua vez, provém do fato de que historicamente o Direito é antropocêntrico. Não obstante, a todo momento são noticiadas novas situações polêmicas que incitam a discussão: o robô que ganhou residência oficial no Japão, expedição de certidões de casamento virtuais, o boom dos robôs sexuais, robôs cuidadores etc.

A personalização dos robôs indica uma forte quebra de paradigma, que não deve ser analisada estritamente sob aspectos econômicos e jurídicos, mas também sob viés ético e psicológico. Inegavelmente, o Direito não pode abster-se de discussões com perspectiva de impacto global, mas, acima de tudo, não pode precipitar-se nem ser dissuadido por proposições oportunistas. Pois vale lembrar que a ciência e a tecnologia encontram-se longe da neutralidade e ostentam toda uma lógica de poder com valores e interesses comerciais[ix].

Notas e Referências

[i]. A Inteligência Artificial é um ramo de pesquisa da ciência da computação que objetiva construir estruturas que simulem a capacidade de realizar tarefas cognitivas (ou relacionadas ao pensamento humano).

[ii]. PISTONO, Federico. Os robôs vão roubar seu trabalho, mas tudo bem. Portifolio Penguin, 2012. Pág. 46.

[iii]. ASIMOV, Isaac. O Homem Bicentenário e outras histórias. L&PM Pocket, vol. 57, 1997. Pág. 125. Tradução de: Milton Persson.

[iv]. Machine learning (aprendizado da máquina) faz parte do conceito de inteligência artificial e permite que as máquinas tomem decisões com base em dados prévios (experiência) fornecidos.

[v]. Deep Learning (aprendizagem profunda) é uma subcategoria de aprendizado da máquina, que por meio de redes neurais, melhora as estruturas programadas em áreas como reconhecimento de fala, visão computacional e processamento de linguagem natural. Esta é a mesma tecnologia utilizada como base para ferramentas como o Google Tradutor e Microsoft Cortana.

[vi] Parlamento Europeu. Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.html. Acesso em: 03 de fev. 2020.

[vii]. Politico. Europa dividida sobre “personalidade” robótica(tradução). Disponível em: https://www.politico.eu/article/europe-divided-over-robot-ai-artificial-intelligence-personhood/. Acesso em: 03 de fev. 2020.

[viii] The Verge. Co-criador de Robô Sophia diz que o bot pode não ser uma verdadeira IA, mas é uma obra de arte (tradução). Disponível em: https://www.theverge.com/2017/11/10/16617092/sophia-the-robot-citizen-ai-hanson-robotics-ben-goertzel. Acesso em: 03 de fev. 2020.

[ix] ALEGRÍA, Jonathan Piedra. Transhumanismo: un debate filosófico. Praxis. Revista de Filosofia. p.14.