Coluna O Direito e a Sociedade de Consumo / Coordenador Marcos Catalan

O primeiro trimestre de 2023 foi marcado por uma grande quantidade de notícias sobre avanços tecnológicos em matéria de inteligência artificial. Muito se falou sobre o novo chatbot (1) ChatGPT e sua impressionante capacidade de emular a comunicação humana, buscando em gigantescos bancos de dados as respostas feitas por seus usuários e empreendendo em diálogos complexos, chegando a usar diferentes estilos linguísticos.

Também é possível perceber uma clara tendência dos sistemas de inteligência artificial ao passarem a usar modelos multimodais, ou seja, processarem tanto texto quanto imagens. O próprio ChatGPT (2) é um exemplo disso, aceitando inputs (3) de imagens.

A mesma empresa responsável pelo ChatGPT também lançou no fim do ano passado o software DALL-E capaz de gerar imagens baseadas em descrições textuais (4). Assim, estamos acompanhando uma nova fase no desenvolvimento de sistemas de tecnologia da informação e no uso de mecanismos de inteligências artificial. A nova fronteira, agora, é o mundo das imagens.

Não por acaso um dos assuntos viralizados nos últimos dias de março deste ano foi a foto do Papa Francisco usando um casaco branco volumoso bastante diferente das vestimentas tradicionais do pontífice. Pouco depois da imagem começar a circular surgiu a informação de que, na verdade, a foto havia sido gerada por meio de uma inteligência artificial. (5)

A manipulação de imagens não é prática recente. A publicidade já se utilizava de truques físicos para melhorar o aspecto de comidas em suas campanhas de marketing há décadas. (6) A diferença, agora, está em alguns postos-chave. Destaca-se a facilidade com que se alteram ou mesmo constroem imagens do zero. Com a possibilidade de uso de sistemas de inteligência artificial não é mais necessário conhecimento ou habilidade com ferramentas de edição. Os próprios programas são capazes de gerar ilustrações ou fotografias baseados em descrições textuais, como o DALL-E mencionado acima. Além disso, há liberdade quase irrestrita para criação.

Outra característica a se ressaltar é a qualidade das fotografias. Isso dificulta sobremaneira a distinção entre o que é real e o que não é. Tanto é assim que, primeiro houve a divulgação de que o Papa estaria circulando o tal casaco estiloso, já se falando em qual seria o estilista responsável. Somente depois, quando a fotografia já havia circulado é que se esclareceu de que, na verdade, se tratava de criação de uma inteligência artificial.

Se a sociedade ainda está no início das discussões sobre o enfrentamento das fake news, é urgente o debate destas novas formas de adulteração, ou mesmo criação, de verdades que apelam a um dos sentidos mais importantes para percepção do mundo: a visão.

É importante pensar na importância que as imagens têm para as sociedades humanas. Afinal, como um antigo ditado popular diz: “uma imagem vale mais do que mil palavras”. Mas será possível continuar a sustentar esta premissa? Poderemos continuar “vendo para crer”?

Uma campanha feita ainda em 2018 tentou chamar atenção para a possibilidade de criação de vídeos que usam som e imagem de pessoas públicas. A campanha feita pelo site Buzzfeed mostrava um vídeo verdadeiro de Barack Obama replicando com uma voz adulterada as falas do cineasta Jordan Peele. Houve alterações digitais na boca do ex-presidente. (7)

A modificação e criação de vídeos e fotos com a facilidade e qualidade acima mencionadas têm potencial para impactar inúmeros setores de forma extremamente profunda. Precisamos urgentemente aumentar as discussões sobre a confiança que normalmente depositávamos nos registros fotográficos e também de vídeo.

No processo judicial, por exemplo, as provas feitas por meio de imagens têm um peso muitíssimo grande. Afinal, até há pouco, dificilmente se colocaria em cheque a veracidade de uma filmagem.

Mas com o ritmo dos avanços tecnológicos, muito em breve estas serão questões de debate imprescindível: quais serão os parâmetros para utilização de fotos com valor probatório em processos judiciais? Como garantir que as partes possam se utilizar de todos os meios disponíveis de provas quando atestar a veracidade de vídeos se tornar impossível para leigos em TI?

Se fraudes contra consumidores, idosos e outros grupos vulneráveis já causam tamanho prejuízo, estamos preparados para que sejam utilizadas, ainda, tecnologias de adulteração de vídeo e imagem?

Veja-se que nestas breves reflexões podemos imaginar repercussões dentro do direito do consumidor, dos contratos e, até mesmo, mudanças dentro do direito processual que tanto se utiliza, atualmente, de mídias de áudio e vídeo nos mais diversos tipos de ação.

No momento, as perguntas superam em muito as respostas. Mas me parece que, neste momento, o papel, tanto do jornalismo, quanto da academia, seja precisamente este. Jogar luz nas novas tecnologias que avançam em ritmo exponencialmente acelerado,  questionar seus limites e conjecturar sobre suas consequências.

 

Notas e referências

1 – Ou chatterbot são programas que simulam conversas. Muito comuns em primeiros atendimentos de empresas por telefone ou aplicativos de mensagens.

2 – Conforme informações obtidas em: https://openai.com/research/gpt-4. Acesso em 03 de abril de 2023.

3 – Informações inseridas pelos usuários. Corresponde à entrada de dados.

4 – Conforme notícia disponível em https://canaltech.com.br/apps/dall-e-ia-que-cria-imagens-com-base-na-descricao-esta-disponivel-para-todos-226329/. Acesso em 03 de abril de 2023.

5 – Conforme notícia disponível em https://www.techtudo.com.br/listas/2023/03/papa-francisco-de-jaqueta-viraliza-5-fotos-de-ia-que-geraram-confusao-edsoftwares.ghtml. Acesso em 03 de abril de 2023.

6 – Como por exemplo é retratado em https://revistacasaejardim.globo.com/Casa-e-Comida/noticia/2019/04/video-desvenda-os-truques-por-tras-das-propagandas-de-alimentos.html. Acesso em 03 de abril de 2023.

7 – Matéria disponível em https://www.buzzfeed.com/craigsilverman/obama-jordan-peele-deepfake-video-debunk-buzzfeed. Acesso em 03 de abril de 2023.

 

 

Imagem Ilustrativa do Post: Chatbot robot // Foto de: James Royal-Lawson // Sem alterações

Disponível em: https://www.flickr.com/photos/beantin/37530935671

Licença de uso: https://creativecommons.org/licenses/by/2.0/