Na maioria das vezes, personagens fictícios raramente reconhecem quando estão presos em uma distopia. Assistindo seus vizinhos serem detidos por terem pensamentos subversivos, dificilmente dizem: “Eu queria que não estivéssemos vivemos nessa distopia”. Para eles, essa distopia é apenas a vida. O que sugere que – se estivéssemos, neste momento, vivendo em uma distopia nós mesmos – poderíamos nem reparar.

Podemos chamar essa ou aquela política ou técnica de colheita de dados de “distópica”, mas, pelo menos em algum nível, acreditamos que ainda não chegamos plenamente lá – que ainda há espaço, em nosso mundo, para um mínimo de liberdade/felicidade pessoal. Isso é uma ilusão ridícula? Nosso livre arbítrio é apenas uma frágil ilusão, controlada a critério de cinco ou seis empresas de tecnologia irresponsáveis? Esta é a distopia tecnológica com a qual estávamos preocupados? Para o Giz Pergunta desta semana, entramos em contato com vários especialistas com diferentes opiniões.

Jonathan Zittrain

Professor de Direito Internacional na Harvard Law School e na Harvard Kennedy School of Government, Professor de Ciência da Computação na Harvard School of Engineering and Applied Sciences, Diretor da Biblioteca da Harvard Law School e Co-Fundador do Berkman Klein Center for Internet & Society

Sim, no sentido que muitos de nós acham que, em vez de nos empoderar, a tecnologia é usada contra nós – principalmente quando se apresenta como simplesmente benéfica.

Comecei a pensar em algumas de nossas tecnologias mais promissoras, incluindo aprendizado de máquina, em comparação com o amianto: é incorporado fortemente em outros produtos e serviços, então nem sabemos que estamos usando; torna-se generalizado porque parece funcionar muito bem e sem qualquer cobertura de interesse público em sua instalação; é realmente difícil contabilizar, muito menos remover, quando está instalado; e carrega consigo a possibilidade de lesões profundas agora e futuramente.

Eu não sou anti-tecnologia. Mas me preocupo muito com o desdobramento de tal poder de maneira tão leviana e com tão poucos limites contra seu mau uso, seja agora ou mais tarde. Mais cuidado e supervisão pública são dedicados aos planos de alguém para aumentar a sua casa do que ao que pode ser ou se tornar uma plataforma online de bilhões de dólares e usuários.

E embora, graças ao seu poder e à confiança depositada neles por seus clientes, reconhecemos engenheiros, arquitetos, advogados e médicos como membros de profissões eruditas – com deveres para com seus clientes e para com o público que transcendem um mero acordo comercial – ainda não vimos isso aplicado a pessoas em ciência de dados, engenharia de software e campos relacionados que podem estar em uma posição de reconhecer e prevenir o dano conforme ele se acumula.

Existem muitas maneiras para sairmos dessa situação. Mas, primeiro, é necessário abandonar a noção de que são apenas negócios como sempre.

“Algumas de nossas tecnologias mais promissoras, incluindo aprendizado de máquina, são como o amianto… é realmente difícil de contabilizar, muito menos remover, quando está instalado; e carrega consigo a possibilidade de lesões profundas agora e futuramente”.

McKenzie Wark

Professora de Cultura e Mídia, The New School, cuja pesquisa se concentra na mídia e na história e teoria cultural.

O termo ‘distopia’ pode ser muito restritivo, na medida em que roteiriza formas de pensar sobre opressão com as quais já estamos familiarizados em livros e filmes populares. Também nos dá uma ideia limitada de maneiras de resistir ou mudar essa opressão. Também pode influenciar esta forma de pensar a tecnologia em termos de extremos: nos é prometida liberdade ilimitada e, quando parece que não é isso que a tecnologia está criando, imaginamos a dominação total.

Pode ser mais útil pensar nas tecnologias como tendo uma gama de possibilidades, mas onde a maneira como elas atuam em seus efeitos em nossa vida cotidiana é um produto do conflito sobre como elas são moldadas e implantadas, e no interesse de quem.

Aqui é útil ter em mente a diferença entre o potencial de uma tecnologia e seus usos reais. De todas as coisas que poderíamos fazer com tecnologia, como acabamos escolhendo esses usos específicos? Por que essas tecnologias tiveram desenvolvimento acelerado enquanto outras foram deixadas para trás? Na maioria das vezes, isso se resume a quem financiou seu desenvolvimento.

Muito do que consideramos ‘tecnologia’ hoje remonta à Segunda Guerra Mundial e à Guerra Fria. A tecnologia surgiu de laboratórios apoiados pelo governo, mas não tanto para o bem comum quanto para fins militares. O trabalho experimental e de alto risco financiado pelo governo foi o que semeou uma indústria de tecnologia comercial que lucrou com os frutos desse trabalho fundamental por meio século ou mais.

Se fôssemos pensar em uma utopia tecnológica, teria que ser baseada no desenvolvimento dos usos da tecnologia que conhecemos para o bem comum, em vez de expandir o poder e o alcance de um punhado de corporações.

A tecnologia agora é principalmente a forma como as empresas buscam obter domínio sobre os mercados e se defender das reivindicações de domínio umas das outras. Portanto, o que temos é uma tecnologia que subordina as necessidades humanas ao poder corporativo. Você poderia chamar isso de distópico se quisesse, mas talvez seja algo pior. O que precisamos é um movimento de tecnologia popular. Para isso, precisamos da liderança daqueles que trabalham com tecnologia e que percebem que sua criatividade e esforço estão sendo desperdiçados na destruição do planeta para enriquecer alguns poucos bilionários.

“Agora, a tecnologia é principalmente a forma como as corporações buscam obter domínio sobre os mercados e se defender das reivindicações de domínio umas das outras. Portanto, o que temos é uma tecnologia que subordina as necessidades humanas ao poder corporativo”.

Albert Gidari

Diretor de Privacidade do Center for Internet & Society da Stanford Law School

As pessoas não deveriam acreditar mais na distopia do que na utopia. O fato é que a tecnologia mudou o mundo para muita gente com o tempo e para melhor – da redução das doenças ao prolongamento da vida e ao aumento da alimentação e da saúde – que descartar esses ganhos é apenas negar a verdade.

Como acontece com todos os avanços tecnológicos, nem todos compartilham igualmente os ganhos ou benefícios da mesma maneira, e alguns podem até sofrer impactos desproporcionalmente negativos, mas isso não diminui o valor social geral dos avanços. Em vez disso, deve motivar a sociedade a estender esses benefícios a todos, para encontrar equidade e reduzir os impactos negativos.

A tecnologia em si não é boa nem má – é como a sociedade escolhe implementá-la que cria os problemas. Em vez de banir esta ou aquela tecnologia por medo de danos ou abusos futuros, é melhor prevenir ou processar o uso indevido. Maximizar os benefícios, gerenciar os riscos, tornar os resultados mais justos. Tudo isso é alcançável com qualquer tecnologia, mesmo que não seja possível em todas as sociedades.

Para todos aqueles que pensam que vivemos em um mundo distópico, em que avanço tecnológico deveríamos ter parado e dito “chega!”? Presumivelmente em algum momento depois da Idade do Ferro, ou talvez no alvorecer do semicondutor ou transistor, ou na ascensão da mídia social, ou é o desenvolvimento da inteligência artificial? Não acho que tenhamos alcançado a utopia, mas a tecnologia na verdade nos protege da distopia e nos mantém lutando pela próxima grande cura ou pelo próximo avanço ou inovação.

“A tecnologia em si não é boa nem má – é como a sociedade escolhe implementá-la que cria os problemas”.

David Golumbia

Professor de inglês da Virginia Commonwealth University e autor do livro The Politics of Bitcoin: Software as Right-Wing Extremism

Nós vivemos em um mundo saturado com vigilância tecnológica, mídia que nega a democracia e empresas de tecnologia que se colocam acima da lei enquanto ajudam a espalhar o ódio e o abuso ao redor do mundo.

No entanto, o aspecto mais distópico do mundo atual da tecnologia pode ser que muitas pessoas promovam ativamente essas tecnologias como utópicas.

Como muitos comentaristas notaram, nosso mundo tem semelhanças fantásticas com o que Aldous Huxley retratou em seu romance Admirável mundo novo, de 1932. Enquanto preparava uma adaptação teatral do livro, anos atrás, o diretor de teatro britânico James Dacre observou que, no romance, a tecnologia “pode controlar nossa tomada de decisões com mídia social, pornografia, comercialização de sexo, publicidade e reality shows”.

Em contraste com a visão totalitária mais apavorante de Orwell em 1984, no mundo de Huxley, “as pessoas pensam que estão sempre felizes, sempre conseguem o que querem e nunca querem o que não podem ter”. O livre arbítrio e a deliberação política foram eliminados quase inteiramente, mas a busca do prazer obscurece isso. Mídias sociais, ferramentas de vigilância doméstica, testes genéticos domésticos e muitas outras tecnologias excedem até mesmo o que Huxley imaginou. Embora algumas pessoas entendam o que está acontecendo, muitas exigem mais ativamente tecnologia desse tipo, ao mesmo tempo que descartam suas desvantagens.

Não ajuda que quase todas as tentativas de pensadores criativos como Huxley de nos alertar sobre essas desvantagens sejam reinterpretadas pelos promotores de tecnologia como ideias fantásticas de produto. Talvez a coisa mais assustadora é que os promotores da tecnologia frequentemente citam as distopias como sendo sua inspiração – “Black Mirror na vida real”, “Minority Report em tempo real”. Eu não acho que a imaginação de Huxley ou Orwell eram tão sombrias, mas aqui estamos.

“Vivemos em um mundo saturado de vigilância tecnológica, mídia que nega a democracia e empresas de tecnologia que se colocam acima da lei enquanto ajudam a espalhar o ódio e o abuso em todo o mundo. No entanto, o aspecto mais distópico do mundo atual da tecnologia pode ser que tantas pessoas promovam ativamente essas tecnologias como utópicas”.

Guy Standing

Pesquisador do Development Studies e membro fundador e co-presidente honorário da Basic Income Earth Network (BIEN), uma organização não governamental que promove uma renda básica para todos.

Acho que a melhor resposta à sua pergunta é que estamos caindo em uma tecnodistopia porque o sistema de distribuição de renda não está sendo ajustado a um mundo no qual a automação e a IA estão gerando mais renda e lucros em detrimento das pessoas que dependem do trabalho para a sua renda.

A resposta não é deter a mudança tecnológica, mas reciclar parte da renda para todos por meio de um sistema de renda básica. Uma das maneiras de fazer isso é ter taxas de dados digitais e um fundo de capital com o qual os dividendos sociais poderiam ser pagos como renda básica.

A proteção da privacidade é uma questão separada e deve ser muito fortalecida se quisermos evitar o estado de panóptico.

Aral Balkan

Desenvolvedor da Small Technology Foundation, uma organização sem fins lucrativos que defende e constrói pequenas tecnologias para proteger a personalidade e a democracia na era das redes digitais.

A tecnologia que pertence e é controlada por pessoas (indivíduos) é uma ferramenta capacitadora que protege os direitos humanos e a democracia. A tecnologia que pertence e é controlada por um punhado de interesses de trilhões de dólares é uma arma de vigilância e opressão que destrói os direitos humanos e a democracia. Pergunte a si mesmo quem possui e controla a tecnologia hoje e você chegará à resposta.

Se quisermos mudar isso, devemos parar de adorar na igreja do modelo míope e tóxico do Vale do Silício de capital de risco, startups, crescimento exponencial e começar a investir em empresas de tecnologia menores e de propriedade individual e controlada como alternativa às Big Techs.