1. INTRODUÇÃO
Este artigo almeja trazer para o âmbito da LGPD e sua aplicação, uma análise mais responsável para o uso de Deepfakes, especificamente no caso deste trabalho (em sua delimitação): Deepfakes com mortos, o que fazemos desde as bases teóricas da Análise de Discurso Francesa, Filosofia da Diferença e Abolicionismo Penal Libertário (em diálogo com a Criminologia Crítica e a Sociologia Jurídico-Penal).
No Brasil, a ANPD (Autoridade Nacional de Proteção de Dados) manifestou-se sobre a não incidência da Lei Geral de Proteção de Dados Pessoais (LGPD) no tratamento de dados pessoais de mortos.
Ao nosso ver, equivocadamente, e antes do avanço exponencial das IAs na geração de vídeos e conteúdos convincentes. Hoje, sem a devida atenção aos dados de pessoas falecidas, vivemos um cenário distópico, no qual "deepfakes" violam radicalmente os direitos dos vivos, ignorando-se a complexidade (e destrutividade) do tema.
Deepfakes são vídeos, imagens ou mesmo áudios manipulados especialmente com IAs, gerando conteúdos cada vez mais realistas que potencialmente enganam até pessoas inteligentes e cautelosas, de forma convincente e (quase) imperceptível (por enquanto).
A capacidade de criar materiais digitais extremamente realistas de pessoas falecidas, falando ou agindo de maneiras irreais, tornou-se um dado do real.
Pacotes de marketing já inclusive incluem esse serviço nefasto, novo ativo digital, que ameaça ainda mais que a democracia representativa e sua premissa de dados precisos, transparentes e confiáveis no setor público, lesando diretamente a esfera inter partes de familiares e grupos envolvidos ligados aos mortos, que bem tecnicamente, sequer podemos chamar de vítimas (conforme a interpretação jurídica atual).
2. DESENVOLVIMENTO
Fatos novos, ainda que anunciados ou parcialmente esperados.
De 2023 para 2024, a qualidade dessas ferramentas acerca de vídeos, apresentou um salto enorme, de modo que a produção notadamente grosseira e artificial tornou-se muito mais sofisticada em pouquíssimo tempo. Nessa esteira, a tecnologia não muda em anos, mas em meses, semanas, dias. Momentos.
Para piorar, além da manipulação desse conteúdo, envolvendo rostos, vozes e corpos inteiros em movimento, que podem ser utilizados hoje, aqui e agora, para destruir reputações e credibilidade construídas em décadas, pouco se fala sobre os mortos tragados e explorados nessas produções.
Exemplificativamente, é possível realizar isso, criando vídeos falsos de pessoas reais expressando declarações absurdas. E eis uma pedra no sapato da política institucional partidária, onde políticos profissionais tornaram-se protagonistas de uma infinidade de conteúdos, alguns para fins de entretenimento, outros visando fins realmente devastadores, escancaradamente ilícitos.
Agravando o cenário (nessa roda de complexidade já polêmica das IAs), graças ao avanço da tecnologia e à extrema facilidade de acesso às ferramentas hoje necessárias nessa produção, estão sendo "ressuscitados" mortos em situações inusitadas ou comprometedoras que nunca ocorreram, para fins dos mais diversos, de testes ingênuos a estratégias ardilosas.
Vivemos hoje a distopia de candidatos potencialmente realizarem campanhas onde os familiares e amigos mortos dos leitores deste artigo podem perfeitamente aparecer.
Inclusive com palavras de apoio artificialmente forjadas, para candidatos que sempre repudiaram, por meio de IAs. O que sem dúvidas ultrapassa limites éticos, nem sempre respeitados em campanhas, como sabido.
Hoje, vivemos o debate da permissão ou não de IAs nessas campanhas políticas, com suas especificidades, mas parece ser apagado, ou pouco falado, da desimportância aferida aos dados pessoais de pessoas falecidas, juridicamente não abarcados pela LGPD, conforme entendimento dominante estabelecido.
Métodos de detecção de deepfakes não necessariamente apagam seus danos aos vivos, de modo que a "sociedade de controle" antecipada com Foucault e Deleuze e abordada em Pires (2018), adquire contornos mórbidos na era da digitalização e centralidade dos dados.
Também surge o debate de novos tipos penais específicos para os novos problemas, mas que tampouco arranham a raiz dos desafios sociais. Como recobra a criminologia zaffaroniana (ZAFFARONI, 2012, 2013) a todo momento, nunca o poder punitivo venceu emergências e nunca solucionou problemas estruturalmente. Envolvendo não solução, mas decisões políticas verticais ligadas ao sequestro do conflito (característico do poder punitivo) historiado por Anitua (2010), no emergir histórico dessa dinâmica na europa e seu desenrolar, que "planetarizou" o cárcere, naturalizado como óbvio.
Para ser direto: não faz sentido que a ANPD e demais autoridades, poderes, agências e organizações, diluam a abrangência da LGPD, entendendo que não vale para dados pessoais de mortos (já dados sensíveis, aliás), sobretudo quando muitos de seus membros defendem novos tipos penais e criminalização, sacrificando todo o discurso jurídico-penal liberal de garantias e de última cartada.
Zaffaroni (2013) defende administrar a irracionalidade máxima do poder punitivo, assumindo uma certa dimensão de barreiras constitucionais e de princípios (como o da fragmentariedade, subsidiariedade, legalidade, dignidade), de modo a conter o poder punitivo parcialmente, valendo-se do limitado e muitas vezes contraditório, poder dos juristas, de forma inclusive a assegurar que a intervenção do direito penal seja mesmo o último recurso e cartada, quando o restante não se prestar.
Lembre-se que Zaffaroni tem uma postura crítica peculiar e complexa que não é propriamente abolicionista, formulando uma criminologia cautelar preventiva de massacres desde o nosso continente.
Enfim, o ponto é que todo o cenário parece envolver surpresas com o avanço das IAs para vídeos, um "detalhe" inesperado. E agora com dados de mortos (vídeos, imagens, vozes…), se alinhando para o reforço punitivo de sempre, com os péssimos resultados conhecidos pelos criminólogos.
Vivemos hoje um entrelaçamento entre desrespeito à dignidade dos mortos, engano e desinformação, manipulação, impacto em familiares, no limite, com uso político e comercial ilegal, inapropriado e abusivo, muitas vezes, contra os valores e crenças pessoais dos mortos (até com influência e fins eleitorais).
3. APONTAMENTOS FINAIS
Eis duas conclusões necessárias: dados de pessoas falecidas devem estar abarcados pelas proteções jurídicas (como a LGPD); e a ANPD desde seu surgimento carece de criminólogos no time.
Novos tipos penais e aumento de penas (a eterna aposta de sempre) não nos salvarão dos danos de deepfakes com dados de vivos e agora mortos, em extremo desrespeito aos falecidos e suas famílias, manipulando fatos, memórias, afetos, sentimentos, bem como potencialmente, engendrando muita desinformação, danos reputacionais e psicológicos irreparáveis.
Logo veremos os resultados nefastos disso, sob o sono dos que deveriam zelar pela Proteção de Dados, mas que optam por assentar-se no velho braço penal, o velho mundo da fé na pena e seus simbolismos, que nos trouxe até aqui, em horizonte de teratologias escatológico.
Existem diversas nuances legais mal resolvidas em torno do tema e especialmente com relação às imagens de mortos (delimitação do trabalho).
Debates em torno de direitos autorais e à imagem, tratados como cerne do assunto, passam longe dos danos à dignidade e riscos envolvidos, tanto quanto os Projetos de Lei advogando por maior rigor penal, distanciam-se da prevenção.
Paradoxalmente, existem defesas sobre desnecessidade de regulamentações juntamente à mobilização do poder punitivo, relacionado ao Direito Penal, técnica em tese de contenção, que indicaria uma tentativa última de intervenção, novamente, em tese.
Tais confusões indicam para a necessidade de novas abordagens éticas para lidar com o uso de novas tecnologias e IAs na criação de conteúdo, garantindo respeito pelos mortos e integridade das informações do debate público.
Retornando à ANPD, um início seria uma posição mais firme sobre práticas abusivas com dados de mortos, inclusive (mas não somente), manifestando-se acerca das deepfakes, inclusive com fins comerciais e/ou eleitorais.
Fundamental tratarmos do tema com criminólogos críticos (em sentido amplo) na ANPD, cientes da "violência do poder repressivo e punitivo, dos sistemas de segurança pública e (in)justiça penal, do controle da ordem e da criminalização, do grande encarceramento, seus autoritarismos, suas ilegalidades, inconstitucionalidades, seus danos, suas violações, seus horrores, crueldades e mortes." (ANDRADE, 2023, p.7-8).
Que não usemos o poder por excelência produtor de tudo isso, em nome dos mortos, novamente. Não funcionou até agora.
Notas e referências
ANDRADE, Vera Regina Pereira de. Prefácio. In: PEDRINHA, Duboc Roberta (Org). Reflexões penais constitucionais: diálogos com Raúl Zaffaroni. Rio de Janeiro: Lumen Juris, 2023.
ANITUA, Gabriel Ignacio. Histórias de los pensamientos criminológicos. Prólogo E. Raúl Zaffaroni. 1. ed. 2ª reimp. Ciudad Autónoma de Buenos Aires: Del Puerto, 2010.
PIRES, Guilherme Moreira. Abolicionismos e Sociedades de Controle: entre aprisionamentos e monitoramentos. Florianópolis: Habitus, 2018.
ZAFFARONI, Eugenio Raúl. La Palabra de los Muertos: Conferencias de
Criminología Cautelar. Prólogo de Juan Gelman. Buenos Aires: Ediar, 2012.
ZAFFARONI, Eugenio Raúl. En busca de las penas perdidas: Deslegitimación y Dogmática Jurídico-Penal. Buenos Aires: Ediar, 2013.
Imagem Ilustrativa do Post: Capture 2017-04-06T13_56_54 // Foto de: blob rana // Sem alterações
Disponível em: https://www.flickr.com/photos/143045315@N03/33030523904
Licença de uso: http://creativecommons.org/licenses/by/4.0/legalcode
