Dilema das Redes, e daí?

Coluna Digitopia

O novo documentário da Netflix, O Dilema das Redes, vem chamando a atenção de telespectadores, dentro e fora da plataforma, por abordar uma temática de grande importância na era digital a qual estamos inseridos: o monopólio seguido da exploração dos dados e o poder crescente que as redes sociais têm de influenciar nossas vidas. Nada novo – e em alguns pontos até superficial – para quem acompanha o tema há mais tempo.

CEOs, ex-líderes e gerentes de gigantes como Facebook, Instagram, Twitter e Google relataram suas experiências desenvolvendo ferramentas para melhoria (e aumento do lucro) das plataformas. É no mínimo curioso mencionar que, suas criações foram tão bem sucedidas que a maioria dos entrevistados resolveu desistir de seu trabalho após perceberem o monstro que haviam criado. Mas de que monstro(s) eles estavam falando?

Um dos muitos destaques que o documentário faz para evidenciar o poder que essas grandes corporações têm sobre as pessoas é no tocante aos anúncios que aparecem nos feeds de cada usuário. Existe toda uma sistemática por trás das ferramentas de anúncio de plataformas como Facebook, juntamente com diversas problemáticas relacionadas à exploração dos dados e da falta de transparência da plataforma.

O Facebook Ads permite que os usuários da plataforma criem campanhas e consigam exibir anúncios dentro da própria rede social, permitindo, ainda, que o anunciante escolha a quem e como a propaganda irá alcançar – por meio das ferramentas de impulsionamento de conteúdo. E para que as propagandas direcionadas ocorram com maior precisão, existe toda uma exploração de dados por parte da rede social para conseguir alcançar seu objetivo, e atingir exatamente àqueles usuários a quem o produto será interessante. A forma como a plataforma fora desenvolvida permite que o algoritmo conheça seus usuários, sabendo o momento ideal para oferecer propagandas e conteúdos, quais oferecer e de que forma eles aparecerão para cada um (temática inclusive já abordada em coluna anterior[1]).

Inclusive, em O Dilema das Redes, é demonstrado o controle que a plataforma tem sobre seus usuários de modo bem exemplificativo, em que os algoritmos das plataformas sociais são representados por pessoas que estão, a todo o tempo, articulando para alcançar três principais objetivos: i. exibição de anúncios e conteúdos; ii. venda de produtos anunciados; e iii. aumento no tempo de uso da rede social. A ideia das plataformas é que os usuários recebam cada vez mais Ads que possam lhes interessar e de forma que os influenciem a adquirir o produto ou serviço ofertado ou acessar conteúdos específicos. Assim, a rede social consegue utilizar essa ferramenta de ads como fonte lucrativa para atingir o objetivo de manter o usuário conectado, porque quanto mais tempo na rede social, maior o contato com anúncios e assim, maiores são os lucros da plataforma.

Outra abordagem utilizada pelas redes sociais como uma forma de manter os usuários conectados é por meio de notificações. Não é estranho, e já deve ter acontecido com você, perceber que ao ficar longos períodos sem utilizar o celular, diversas notificações de conteúdos surgirão na sua tela. Elas foram compartilhadas enquanto “você estava fora”, dando aquela sensação de “olha o tanto de coisas que perdi ficando longe das redes sociais”. Notificação de marcação em fotos, comentários, notícias, vídeos novos e propagandas que a plataforma “acha que vão te interessar”. Quanto mais tempo o usuário passa sem abrir sua rede social, mais abordagens serão adotadas pelos algoritmos para o seduzirem a voltar, afinal, quanto mais tempo longe, menos ads serão vistos.

Mas como o algoritmo sabe o que recomendar? Como ele sabe a que horas recomendar ou como apresentar essa propaganda? Que vídeos chamarão minha atenção? E essas perguntas são fáceis de serem respondidas, e para todas existe uma mesma explicação: manipulação e exploração de dados. Todo o comportamento na internet gera dados. Todos os likes em uma foto/comentário/vídeo são armazenados; todas as interações e a linguagem utilizada é analisada e guardada; todas as notícias acessadas viram dados. O tempo que um usuário passa olhando uma foto, uma propaganda ou um perfil é armazenado para referências futuras ao algoritmo. Toda e qualquer interação na rede social é processada e armazenada pela plataforma para criação do perfil algorítmico de cada usuário. Tudo vira dado.

É o processamento desses dados que faz com que o algoritmo consiga saber exatamente o que, quando e de que forma recomendar, a fim de aumentar as chances de chamar a atenção do usuário. O algoritmo entende as necessidades de cada um. Ele é desenhado para isso.

Em meio a toda uma preocupação global quanto a proteção e regulamentação dos dados pessoais, plataformas como a do Facebook não poderiam deixar de criar estratégias para proteger seus usuários. Nessa linha, como forma de permitir o controle dos dados pessoais pelos respectivos titulares, em agosto de 2019 a plataforma criou uma ferramenta que permite que cada integrante da comunidade gerencie os ads exibidos. A ferramenta, conhecida como Facebook Ads Preference, permite que o usuário gerencie os anúncios que lhes são apresentados, escolhendo o que será ou não exibido, além de permitir que ele entenda porquê determinados anúncios apareceram para ele, e ainda lista empresas/anunciantes que utilizaram seus dados pessoais para fins de propaganda.

Embora tenha recebido toda uma roupagem de ‘solução’, em que aparentemente é transferida parcela de controle aos usuários sob seus dados pessoais, existe uma falta de transparência das informações que deveriam ser fornecidas pelo Facebook. Isso levanta importantes questões relacionadas à coleta desnecessária de dados dos usuários da rede.

Como uma forma de testar essa ferramenta, a organização Privacy International – PI[2] iniciou uma investigação na plataforma para entender melhor sobre o compartilhamento dos dados dos usuários que acontece entre o Facebook e os anunciantes. A PI percebeu que existe uma enorme falta de transparência por parte do Facebook, que disponibiliza informações incompletas ou imprecisas sobre que empresas e anunciantes tiveram acesso aos dados dos usuários. A primeira conclusão que a organização teve foi que essa falta de transparência impede o exercício do direito de acesso aos dados dos usuários, e entendeu pela necessidade de adequação da plataforma para melhorar a ferramenta proporcionando maior transparência aos titulares dos dados pessoais[3].

Após a investigação, a PI escreveu para o Facebook exigindo algumas mudanças. Apresentou ainda 4 problemas identificados na ferramenta de anúncios que impedem os usuários de exercerem direitos referente aos seus dados, e que por essa razão devem ser modificadas: 1. Os recursos oferecidos pela plataforma são incompletos ao fornecerem informações; 2. As poucas informações são insuficientes para que os titulares exerçam seus direitos; 3. Não existe transparência na forma como os dados são coletados e compartilhados entre anunciantes-Facebook; e 4. Existe também falta de informações fornecidas pelo recurso de atividade do Facebook fora da plataforma[4]. Para cada um dos problemas apontados ao Facebook, a PI inclusive sugeriu à plataforma adoção de estratégias que permitam a melhoria dos recursos oferecidos pela rede social.

Na semana passada (dia 24 de setembro de 2020) o Facebook respondeu à organização. Em linhas gerais, a plataforma disse estar trabalhando constantemente para melhorar a precisão das ferramentas disponíveis, mas a empresa se recusa a reconhecer que tem responsabilidade enquanto plataforma para garantir maiores transparências sobre o uso dos dados dos usuários, de modo a proporcionar de forma mais precisa o exercício de direitos dos usuários da rede. Em suas respostas o Facebook não diz ter a intenção de melhorar a transparência, se colocando, em todos os momentos, como uma mera intermediadora que conecta anunciantes a usuários da rede; afirmou, ainda, que as “ferramentas de preferências de anúncios e download de informações desempenham um papel essencial na transparência dos anúncios”[5], apesar das acusações insistentes da PI no tocante às listas fornecidas pela plataforma serem incompletas e inócuas.

As ações da PI quanto a essa situação são voltadas ao objetivo de melhoria na precisão das informações que são passadas pela plataforma, uma vez que, em sendo o Facebook a empresa que compartilha os dados pessoais dos usuários, seria de igual modo o responsável pelo fornecimento das informações necessárias para cumprimento do direito de informações acerca dos dados pessoais dos usuários. Mas, na prática, a organização se deparou com uma enorme relutância por parte do Facebook em admitir total responsabilidade pelas informações que são disponibilizadas na plataforma para empresas anunciantes; a posição adotada pela rede social é a de que ela não tem responsabilidade enquanto intermediária, e que as medidas tomadas são suficientes para transparência de dados.

Que as plataformas têm importância social e política em nossas vidas já sabíamos. As conexões possíveis, interações, os movimentos criados e a capacidade que os algoritmos têm de nos conhecerem e entenderem as nossas “necessidades” é uma coisa (nada)fascinante. Mas por que essa constante recusa em reconhecer sua responsabilidade enquanto plataforma? Por que a possibilidade de regulamentação dessas redes sociais se torna a cada dia que passa uma odisseia?

O poder que as redes sociais têm de obter informações, influenciar opiniões pessoais, manipulação, controle, vigilância e mobilização social é assustador. Enquanto isso, plataformas como Facebook, Instagram e Twitter se mantêm ignorando qualquer forma de tentativa de regulamentação dos Estados, de modo que atendam a critérios mínimos que corroborem para a proteção de direitos dos usuários enquanto cidadãos. Um exemplo dessa dificuldade que os governos têm em exigir melhorias das ferramentas de proteção de dados diz respeito à decisão da Corte de Justiça da União Europeia que invalidou o Privacy Shield EU-US. Trata-se de toda uma estrutura que era, até em então, a base regulatória das transferências internacionais de dados realizadas por empresas dos Estados Unidos e União Europeia. Com o julgamento do caso Schrems II[6], que invalidou o Privacy Shield, restou entendido pela Corte de Justiça a necessidade de um modelo regulatório e protetivo maior para que as transferências de dados internacionais continuassem a ocorrer, devendo as empresas reformularem suas políticas de proteção de dados pessoais dos usuários de acordo com o nível de proteção oferecido pela UE.

Diante das novas exigências de melhoria na transparência, acesso à informações, e proteção dos dados pessoais de um modo geral, atendendo aos princípios postos pelas normas de proteção de dados, empresas como Facebook, responsáveis pela coleta e transferência internacional de uma quantidade gigantesca de dados, têm se recusado a atender às exigências de regulamentação dos Estados. O responsável pela proteção de dados pessoais da Irlanda enviou uma ordem preliminar ao Facebook suspendendo a transferência internacional de dados entre UE e EUA, enquanto não houvesse a adequação da plataforma às novas exigências regulatórias da União Europeia. Em resposta à ordem, o Facebook ameaçou sair do país, onde a empresa tem sede, por não entender ser necessário e possível a adequação da rede social[7].

Existe uma constante negativa de reconhecimento das responsabilidades que as plataformas têm na formação das sociedades. Elas se escondem no discurso de que os conteúdos apresentados são personalizados para melhor experiência do usuário. Essa é a forma encontrada para disfarçar que, os usuários enquanto consumidores dos conteúdos, estão adquirindo uma experiência, quando na verdade não passam de mera mercadoria. Os algoritmos são desenhados para aprender sobre o comportamento das pessoas, para identificar os momentos de maior vulnerabilidade delas, e assim, influenciá-las a adquirir produtos ou serviços, influenciar suas opiniões e mudar o comportamento das pessoas a partir dos anúncios e das notícias que são apresentadas a cada usuário.

Por trás desses algoritmos que funcionam para apresentar conteúdo personalizado “melhorando a experiência na rede”, existe, por exemplo, toda uma sistemática campanha baseada em desinformação. Um relatório realizado por pesquisadores da Universidade de Oxford, no segundo semestre de 2019, mostrou que ao menos 70 países entre 2017 a 2019 sofreram com campanhas de desinformação, a partir de divulgação de notícias falsas – Fake News, como estratégia política para descrédito de oponentes[8]. O Facebook ocupa papel de protagonista nessa história, sendo a rede social com maior compartilhamento de desinformação.

O maior problema das Fake News na internet é o elevado potencial danoso decorrente da a velocidade com que elas são divulgadas e compreendidas. Um dos melhores exemplos para evidenciar esse potencial dano em eleições é em relação às eleições americanas de 2016, que foram marcadas pelo compartilhamento de uma série de notícias falsas contra a Hilary Clinton, financiadas pela Rússia, fazendo com que ela perdesse apoio popular na reta final das eleições. A plataforma do Facebook foi responsável por sediar esse esquema de propagação de notícias falsas, e meses após investigações, a rede social se manifestou dizendo que haveria mudanças no algoritmo da plataforma para mitigar os impactos das Fake News. Mas as medidas adotadas não foram suficientes, tendo sido a plataforma igualmente utilizada como estratégia política nas eleições da França, México e Brasil (onde talvez tenha atingido o potencial máximo de desinformação até aquele momento, e no que pese o WhatsApp ter sido o principal vetor de desinformação – a propósito, é uma empresa do grupo Facebook)[9].

Agora, em meio às eleições americanas de 2020, existe uma enorme preocupação em como as campanhas de desinformação nas redes sociais impactarão no resultado. O diretor de investigações de uma empresa especializada na análise das mídias sociais manifestou-se em 2019 sobre o medo da proliferação de notícias falsas no Facebook, Twitter, Youtube e Instagram, e como isso pode mudar completamente o resultado das eleições, uma vez que “qualquer pessoa que queira influenciar as eleições de 2020 pode ficar tentada a copiar o que a operação russa fez em 2016”[10].

O problema da desinformação, que é viabilizada pela exploração dos dados coletados nas redes sociais, é de difícil regulamentação. E a dificuldade em controlar a atuação dessas plataformas é global. No Brasil existe em andamento uma proposta alternativa à Lei das Fake News[11] (PL das Fake News – outro tema também já debatido em coluna passada[12]). A proposta de substitutivo consiste na propositura de penas de 1 a 5 anos de prisão, mais multa, para quem integrar ‘milícias digitais’, ou seja, conforme o art. 41 da Lei, aplicar-se-ia a quem:

Promover, constituir, financiar, ou integrar, pessoalmente ou por interposta pessoa, ação coordenada, mediante uso de robôs e outros meios ou expedientes não fornecidos diretamente pelo provedor de aplicação de internet, para disparo em massa de mensagens que veiculem conteúdo passível de sanção criminal ou fatos sabidamente inverídicos capazes de colocar em risco a vida, a integridade física e mental, a segurança das pessoas, e a higidez do processo eleitoral.

De mesmo modo, conforme art. 33 da Lei, seria atribuída multa de até 10% do faturamento às plataformas de rede social envolvidas nas campanhas de desinformação, mais advertências, que incluiriam um prazo para que a rede social adote medidas para corrigir o problema. O objetivo desse projeto é estabelecer bases mais eficazes para combate às Fake News e a desinformação na internet.

Existem em todo o mundo empresas cujo objetivo único de operação é a venda e divulgação de Fake News, e essas operações são sediadas majoritariamente pela rede social do Facebook. As empresas se aproveitam dos algoritmos da rede social que são desenhados para amplificar a divulgação dos conteúdos anunciados, direcionando para o público específico a qual as empresas querem atingir.

Nesse sentido, a PL das Fake News apresenta em seu capítulo III a preocupação quanto à transparência e a divulgação das informações necessárias que o usuário deve ter acesso, quanto aos conteúdos a eles anunciados. Reza o art. 16 da PL:

Art. 16 º. Os provedores de aplicação de internet de que trata essa lei devem identificar todos os conteúdos impulsionados e publicitários, de modo que:

I – identifique a conta responsável pelo impulsionamento ou anunciante; e

II – permita ao usuário acessar informações de contato da conta responsável pelo impulsionamento ou o anunciante.

Na mesma linha de tentativas de regulamentação, a União Europeia iniciou recentemente o rascunho do Pacote da Lei de Serviços Digitais[13] que, entre outros objetivos, tem o de limitar o uso dos dados coletados pelas plataformas, utilizados para posteriormente atingir de alguma forma o usuário da rede (por meio de Ads, por exemplo). A proposta de lei ainda exigiria que os dados coletados fossem compartilhados com plataformas menores, para evitar o monopólio e concentração de dados[14] e que os serviços default de um determinado hardware não viessem já incorporados ao sistema (Apple em relação a seus apps nativos, por exemplo). Essa é uma forma de melhorar as práticas concorrenciais, mas também limitar o poder desenfreado que esses gigantes têm com o acúmulo de dados os quais são capazes de coletar e armazenar. Essa não é a primeira vez que a União Europeia traça estratégias para regulamentar o uso das redes sociais, e certamente não será a última[15].

Apesar disso, essas tentativas de regulamentação recebem críticas de redes sociais, que não entendem serem responsáveis pelos conteúdos divulgados por terceiros em suas plataformas. E em meio a esses fatores, retoma-se ao questionamento sobre a falta de transparência da plataforma sobre que empresas têm acesso a seus dados, quais dados são coletados, e porque determinados conteúdos foram indicados aos usuários como relevantes.

Um outro fator que demonstra o poder e o papel das redes sociais na sociedade, pode ser expressado com um acontecimento recente, em que o presidente da Armênia convocou à guerra a população armênia ligada às forças armadas por meio de uma postagem no Facebook; a guerra é contra o Azerbaijão, com quem o país está em conflito há cerca de 30 anos por territórios fronteiriços[16]. Demorou alguns anos para que as pessoas e o próprio governo percebessem a força que mobilizações têm, quando usam as redes sociais. E exemplos como os ocorridos nas eleições americanas, brasileiras e esse recente episódio em que a plataforma do Facebook se tornou “participante” de uma convocação à guerra, torna evidente o papel central que as redes sociais têm. E mesmo tendo um papel tão significativo nessas ações, devem continuar sem nenhum tipo de responsabilidade? Sem aceitar nenhuma forma de regulação apenas “corrigindo” eventuais problemas?

As poucas medidas adotadas pela plataforma são irrelevantes frente às necessidades protetivas essenciais para atender à sociedade e resolver o problema da exploração de dados das empresas. Essas gigantes da internet têm um poder imensurável, e a capacidade que uma rede social como o Facebook tem de desestabilizar as bases democráticas de um país é assustadora, motivo esse que faz nascer uma inquestionável necessidade de regulamentação das plataformas.

Enquanto os Estados lutam para que o poder das redes não enfraqueçam suas bases, exigindo adequações na atuação das plataformas, como o caso ocorrido na Irlanda com o pedido de suspensão da transferência internacional de dados, ou enquanto as plataformas seguem respondendo que ‘medidas para melhoria serão tomadas’, direitos dos usuários continuam sendo cerceados e danos continuam sendo gerados.

Em meio a esse cenário de resistência regulatória, somada a irresponsabilidade das redes socais, a mensagem de utopia apresentada no final do filme O Dilema das Redes é carregada de esperança, mas que para se concretizar precisará de uma ação conjunta da sociedade como um todo (usuários das plataformas, acadêmicos, organizações – como a Privacy International). É preciso tornar mais evidente os danos que a exploração desnecessária dos dados pode gerar. É necessária a criação de ferramentas que efetivamente garantam a existência de limites apropriados para proteger os direitos dos usuários, e que reconheçam o papel político e social que as redes sociais ocupam na sociedade. Não se pode esperar e confiar que as plataformas resolverão as os problemas que elas mesmas criaram (e que lhes são absolutamente rentáveis).

Notas e Referências

[1] Disponível em: https://emporiododireito.com.br/leitura/sobre-liberdade-escolhas-e-sugestoes-as-nossas-decisoes-sao-n-v-ossas. Acesso em: 02.10.2020.

[2] Privacy International (“PI”) é uma instituição de caridade registrada no Reino Unido que promove o direito à privacidade em nível internacional.

[3] Disponível em: https://privacyinternational.org/long-read/3857/2020-facebook-users-odyssey. Acesso em: 29.09.2020.

[4] Disponível em: https://privacyinternational.org/advocacy/3937/dear-facebook-here-are-4-issues-how-advertisers-operate-your-site. Acesso em: 29.09.2020.

[5] Disponível em: https://privacyinternational.org/news-analysis/4171/facebook-response-advertising-failure-acknowledge-responsibility. Acesso em: 28.09.2020.

[6] Disponível em: https://curia.europa.eu/jcms/upload/docs/application/pdf/2020-07/cp200091en.pdf. Acesso em: 29.09.2020.

[7] Disponível em: https://www.theguardian.com/commentisfree/2020/sep/26/can-democracies-stand-up-to-facebook-ireland-may-have-the-answer. Acesso em: 28.09.2020.

[8] Disponível em: https://comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2019/09/CyberTroop-Report19.pdf. Acesso em: 30.09.2020.

[9] Disponível em: https://emporiododireito.com.br/leitura/ecossistema-de-desinformacao-e-regulacao-o-exemplo-do-sleeping-giants. Acesso em: 02.10.2020.

[10] Disponível em: https://www.nytimes.com/2019/09/26/technology/government-disinformation-cyber-troops.html. Acessado em: 30.09.2020.

[11] Disponível em: https://static.poder360.com.br/2020/09/PL-combate-a-fake-news.pdf. Acessado em: 01.10.2020.

[12] Disponível em: https://emporiododireito.com.br/leitura/sobre-fake-news-anonimato-e-controle-das-plataformas. Acesso em: 02.10.2020.

[13] Disponível em: https://ec.europa.eu/digital-single-market/en/digital-services-act-package. Acesso em: 02.10.2020.

[14] Disponível em: https://arstechnica.com/tech-policy/2020/09/draft-eu-data-rules-target-apple-google-facebook-amazon/. Acesso em: 02.10.2020.