A vulnerabilidade algorítmica e a necessária proteção do consumidor na era digital

02/12/2022

Coluna O Direito e a Sociedade de Consumo / Coordenador Marcos Catalan

O desenvolvimento constante da tecnologia causa permanentes transformações que vão alterando as dinâmicas sociais que atualmente se movem pela informação.  Nesse sentido, novos modelos de negócio foram criados e fundados em dados pessoais e plataformas digitais. O uso de tais dados por plataformas digitais possui diversos reflexos nas dinâmicas sociais, como por exemplo, a personalização de produtos e serviços de acordo com o que, teoricamente, seriam as preferências dos indivíduos, titulares dos dados. 

Nessas novas dinâmicas sociais,  portanto, o papel do consumidor também adquire novas características, uma vez que se torna mais ativo no mundo digital, com o uso de ferramentas e instrumentos que facilitam o acesso ao consumo de bens, serviços e informações, em uma espécie de “empoderamento” do consumidor. Por outro lado, nessa gama de novas tecnologias, o consumidor se mantém na posição de vulnerável diante de assimetrias informacionais que são impulsionadas por algoritmos baseados em inteligência artificial, incompreensíveis ao consumidor, que muitas vezes nem ao menos o identifica. 

O crescimento do mercado digital expandiu de forma inimaginável nos últimos anos, sobretudo em razão da pandemia. Dessa forma, ao longo da última década, surgiram ferramentas e instrumentos que monitoram e coletam dados pessoais, captam hábitos e preferências de indivíduos de forma instantânea e quase imperceptível (salvo recentes mudanças legislativas). As chamadas Big Techs investem cada dia mais em tecnologias que têm os dados pessoais como seu novo petróleo. O aumento do poder econômico dessas grandes empresas de tecnologia e, consequentemente seu crescimento, é baseado no acesso aos dados de seus usuários, o que reforça a posição de vulnerabilidade do consumidor nas relações de consumo. 

Nada dito até aqui é uma novidade, é um fato. A humanidade baseou sua produtividade em conhecimento e informação e isso foi determinante para o desenvolvimento econômico e social. No mesmo sentido, a internet contribuiu e impulsionou tal crescimento e foi abrindo espaço para a criação de novas tecnologias informacionais que hoje são comuns no mundo todo. Com isso também surgiram novos hábitos de consumo realizados por meio da internet, que atraem o consumidor, com sua facilidade e praticidade, muito em razão da exposição ao modelo de publicidade voltado para o consumo virtual, além de sites de mídias sociais e o massivo uso de aparelhos móveis, como os smartphones. 

Nesse contexto, as Big Techs encontraram uma nova forma de monetização. Com o uso constante de mecanismos de busca, aplicativos de relacionamentos, de restaurantes, mapas entre outros, o consumidor troca seus dados pessoais que são coletados, processados,  organizados e finalmente transformados em informações de grande valor aos interessados (plataformas digitais, por exemplo) que agregam valor às empresas. E é dessa forma que os dados são explorados para personalização de produtos e serviços, pois auxiliam tanto na criação de conhecimento, quanto no processo de escolha e tomada de decisões dos consumidores. 

As plataformas digitais representam uma variedade de serviços na internet. Como mencionado, podem ser mecanismos de busca, mercados, serviços de hospedagem, sistemas de pagamento ou até mesmo serviços de transporte individual de passageiros. Portanto, as plataformas cumprem o papel de facilitar interações e relações negociais, podendo ser tanto entre indivíduos (pessoas físicas), como entre indivíduos e empresas. Assim, as plataformas  oferecem as ferramentas necessárias para a realização das transações, intermediando e removendo barreiras entre consumidores e fornecedores, como por exemplo, a Uber, com seu aplicativo de mobilidade urbana que atrai uma massa de consumidores para utilizar o serviço oferecido por motoristas cadastrados na plataforma. 

Logo, o consumidor da era digital, é colocado em uma posição de vulnerabilidade algorítmica que exige uma proteção, sobretudo em relações de consumo intermediadas por plataformas digitais, que mascaram os papéis dos fornecedores nas relações pactuadas e consequentemente mascaram a responsabilidade pelo uso de seus dados, ou até mesmo a finalidade deles, além de eventuais danos causados durante a prestação de serviços, por exemplo. 

No caso da Uber, plataforma digital criada em 2009, opera de forma a permitir que a permitir que um proprietário ou locatário de um veículo ofereça viagens com custo menor que um táxi, e conecta, por meio de um aplicativo, às pessoas que precisam de transporte, facilitando e intermediando a transação. O aplicativo, por sua vez, não cobra pelo uso da tecnologia, mas sim pelas transações realizadas por meio dela. Dessa forma, o estudo de personalização de preços e a política de precificação de plataformas digitais é um tema que requer atenção, dado que ainda é pouco explorado. Contudo, tais práticas estão cada vez mais presentes no mercado digital e possuem implicações práticas e jurídicas. 

No caso da Uber, o preço de uma viagem é calculada pelo aplicativo que antecipa o valor com base (a) no valor fixo (mínimo de uma viagem); (b) preço por tempo e (c) preço por distância percorrida (km), este dois últimos podem variar no decorrer do trajeto, resultando em um preço diverso do demonstrado para o consumidor ao confirmar a viagem. 

Ainda, a plataforma também possui o chamado “preço dinâmico”, aplicado quando a demanda está muito alta e há poucos carros disponíveis, o que ocorre em dias de chuva, por exemplo. Em tais situações, a precificação é imediatamente modificada fazendo com que os preços das viagens aumentem, pois ao cálculo anteriormente mencionado é aplicado uma outra variável, que a plataforma chama de “multiplicador de preço dinâmico”, o qual se altera dependendo da região em que o consumidor se encontra e pode variar de cidade para cidade. Demonstrando que a política de precificação adotada pela plataforma não possui um padrão para todos os consumidores. 

No primeiro caso, há o risco do preço final ser diferente do originalmente contratado e no segundo, a plataforma não esclarece quais são os parâmetros utilizados para o cálculo quando considera o multiplicador, além dele variar dependendo da região no país ou até mesmo dentro da cidade, pois os preços dinâmicos variam dependendo do bairro onde o usuário-consumidor se encontra. Nesse sentido, inclusive, há orientação para que os motoristas direcionem suas viagens para que sejam mais lucrativas, tendo em vista que os preços aumentam e, consequentemente, o retorno financeiro para o motorista-parceiro e a plataforma aumentam na mesma proporção. 

É importante ressaltar que “A sociedade de consumo depende da participação de seus consumidores” e nesse sentido as plataformas digitais, com o uso de algoritmos desconhecidos pelos usuários, que abrem mão de seus dados para satisfação de desejos ou necessidades momentâneas, têm adotado práticas que não são claras e transparentes aos consumidores, o que contraria preceitos constitucionais e também aqueles fixados no Código de Defesa do Consumidor, que tem como objetivo a proteção do consumidor, parte vulnerável nas relações de consumo. 

Para concluir, é importante ressaltar e reconhecer que há necessidade de estabelecer  limites no uso, hoje indiscriminado e pouco transparente, de algoritmos para personalização de  preços e serviços. Da mesma forma, há necessidade de controle na política de precificação da Uber. Entre eles, destaca-se a necessidade de informar o consumidor de forma clara e transparente sobre o tratamento de seus dados, como de geolocalização) para a finalidade de personalização de preços, da mesma maneira, garantir a efetivação de seus direitos como titular de dados pessoais de se opor ao tratamento de dados ou ser informado sobre ele.

Conclui-se, ainda, pela escassez de literatura sobre o tema, pela falta de clareza da prática no mercado e pelo desconhecimento dos consumidores sobre o assunto, o que justifica a necessidade de explorar  e disseminar o assunto à sociedade.

 

Notas e referências

QUINELATO, Pietra Daneluzzi. Preços personalizados à luz da Lei Geral de Proteção de Dados: viabilidade econômica e juridicidade. Indaiatuba: Editora Foco, 2022.

SCHMIDT NETO, André Perin; AMARAL, Augusto Jobim do. Governar pela dívida: o crédito na era dos algoritmos.  Revista de Direito do Consumidor, v. 143, ano 31, p. 15-42. São Paulo: Ed. RT, set/out, 2022.

MARQUES, Claudia Lima. “A nova noção de fornecedor no consumo compartilhado: um          estudo sobre as correlações do pluralismo contratual e o acesso ao consumo”. Revista de Direito do Consumidor, v. 111/2017, p. 247 - 268, Mai. - Jun. de 2017.

 

 

Imagem Ilustrativa do Post: 2015  // Foto de: Jonathan Gross // Sem alterações

Disponível em: https://www.flickr.com/photos/jonathangrossphotography/16175624045/

Licença de uso: https://creativecommons.org/publicdomain/mark/2.0/

O texto é de responsabilidade exclusiva do autor, não representando, necessariamente, a opinião ou posicionamento do Empório do Direito.

Sugestões de leitura