Quando Black Mirror: Bandersnatch foi lançado na Netflix em dezembro, era bastante óbvio que a experiência de escolher a sua própria aventura representava um novo passo na coleta de dados para o serviço de streaming. Agora, um pesquisador ofereceu provas de que a Netflix está armazenando e minerando suas escolhas. Surpreendentemente, essa é uma boa razão para se sentir otimista.
Para quem não está familiarizado, Bandersnatch é um episódio da série de antologias tecno-distópica Black Mirror. Ele oferece aos espectadores a opção de tomar decisões binárias em pontos específicos do episódio que têm um efeito sobre como a história avança e qual o final que um espectador vê. É uma experiência inédita e que se encaixa perfeitamente nos grandes temas da série sobre o mundo moderno.
Só o tempo dirá se o público realmente quer ver esse tipo de abordagem de narrativa sendo repetida. Mas ela foi imediatamente reconhecida como uma ferramenta com potencial para ajudar a Netflix a reunir mais dados sobre as preferências dos usuários. Michael Veale, pesquisador de políticas tecnológicas da University College London, queria saber exatamente como a Netflix estava tratando seus dados de visualização de Bandersnatch. Então, ele utilizou seu direito sob a regulamentação de dados GDPR, da União Europeia, para solicitar essa informação à companhia.
Veale seguiu o processo de direito de acesso da GDPR para enviar sua solicitação, e a Netflix acabou enviando os dados de visualização por meio de um e-mail criptografado. Veale então publicou os resultados do seu pedido no Twitter para todos nós lermos. O resultado final é que a Netflix está gravando e armazenando as escolhas que as pessoas fazem quando assistem ao episódio.
… and a .csv file with the choices you have made, when you made them, the platform you made them on and whether you had watched those segments before. pic.twitter.com/nY0GKOEsKL
— Michael Veale (@mikarv) 12 de fevereiro de 2019
Veale disse ao Motherboard que é difícil dizer se o processo de fazer com que a Netflix entregue esses dados seria tão fácil para todos. Ele disse que teve que ser específico em seu pedido para obter os dados que estava procurando e que suspeita que a empresa tenha sido bastante cooperativa porque ele é conhecido na Europa por fazer pedidos de direito de acesso e divulgar os resultados. “Saber o que é ‘todos os seus dados’, e o que a definição da empresa de ‘todos os seus dados’ não inclui, é o maior desafio”, afirmou Veale ao site.
Entramos em contato com a Netflix para perguntar se esses dados seriam incluídos se um cidadão da UE simplesmente pedisse “todos” os dados que a empresa armazena sobre eles, mas não recebemos uma resposta imediata. Veale tuitou uma correspondência que teve com um representante do serviço de streaming, na qual eles explicaram que as escolhas só são usadas individualmente para informar o algoritmo de recomendação da Netflix. A companhia contou que as escolhas feitas no agregado ajudam a informar as decisões que ela tomará sobre mudanças futuras em suas ferramentas de produções à la “Você Decide”.
A explicação da Netflix faz algum sentido, e quando você compara isso com os conjuntos de informações que Facebook e Google coletam sorrateiramente sobre os usuários, realmente parece ser uma pequena preocupação. Porém, apontar pequenas preocupações cedo ajuda a evitar que elas se tornem grandes preocupações lá na frente. Em um ponto em Bandersnatch, você escolhe entre dois cereais fictícios que o personagem principal poderia comer no café da manhã. É fácil imaginar um cenário semelhante em que os cereais não sejam fictícios e em que a sua escolha seja vendida a um anunciante para propagandas direcionadas.
É por isso que eu digo que essa história do Veale é realmente um pouco otimista. Este é um grande exemplo da lei GDPR dando aos europeus novas e poderosas ferramentas de proteção. Os regulamentos só estão em vigor desde maio passado, e ainda não há um consenso confiável sobre se a GDPR é um programa bem-sucedido. Em minha própria experiência de navegação aqui nos Estados Unidos, eu certamente me deparo com mais sites que perguntam se aceito sua política de cookies. É bastante irritante, e eu não consigo imaginar que esteja tendo um grande efeito positivo. Mas isso não quer dizer que eu ache que a política de divulgação de cookies seja ruim, apenas que ela não está provocando nenhum tipo de grande revolução anticookies. Porém, a política de direito de acesso tem muito potencial para manter os gigantes da tecnologia na linha simplesmente por medo de serem pegos.
Nos Estados Unidos, as empresas de tecnologia são verdadeiras caixas pretas que tendem a manter suas atividades o mais secretas possível. Mas as solicitações de direito de acesso dão aos usuários europeus a chance de exigir quais informações uma empresa está coletando sobre eles. Eles podem então nos contar tudo sobre isso, e espero que isso deixe o processo de tomada de decisões dessas companhias um pouco mais bem intencionado.
E embora seja difícil ficar muito preocupado com a Netflix estudando os hábitos dos espectadores para tomar decisões em sua programação, há algo um pouco estranho na empresa afirmando que precisa ligar esses dados a contas pessoais para informar as suas recomendações pessoais. Se você decidir que um personagem deve matar outro, a Netflix adiciona uma categoria de “filmes que os sociopatas adoram”? É totalmente compreensível que ela queira usar os dados para refinar suas ferramentas, mas não vejo como seria muito valioso para recomendações.
Se eu tirar a parte de recomendação da equação, a companhia poderia anonimizar completamente os dados agregados e estar em uma posição perfeitamente aceitável do ponto de vista da privacidade. A ironia é que Bandersnatch usa o conceito de escolha da sua própria aventura como parte de uma metanarrativa sobre questionar a própria natureza do livre arbítrio. À medida que o episódio avança, torna-se claro como as escolhas do espectador são encaixotadas, e isso é refletido pela percepção crescente dos personagens de que eles estão condenados pelo destino. O fato de a Netflix não solicitar o consentimento do usuário para vincular e armazenar essas informações é o tipo de reviravolta sutil de que os criadores do programa certamente gostam.