Pesquisa com 3 mil especialistas aponta futuro da IA: acerto ou catástrofe?

A IA pode levar à humanidade à catástrofe da extinção ou melhorar a nossa trajetória? Essa dúvida percorre o imaginário de muitas pessoas desde a popularização do ChatGPT. Mas pouco se sabia sobre a opinião de profissionais que trabalham nessa indústria.

• 1 a cada 3 adultos nos EUA já experimentou ferramentas de IA, diz estudo
• ChatGPT tentou enganar cientistas gerando dados falsos, diz estudo

No início de janeiro, a organização AI Impacts publicou uma pesquisa com quase três mil especialistas em IA para compreender as implicações da tecnologia na vida humana.

A pesquisa mergulhou nas previsões sobre o progresso e o impacto dos sistemas avançados de IA. Reuniu respostas de 2.778 pesquisadores de vários ramos da inteligência artificial.

Curiosamente, a pesquisa revelou que os entrevistados têm uma visão otimista sobre o futuro da IA. A maioria dos especialistas enxerga avanços importantes em diversas áreas, chegando mais cedo que o previsto em comparação à mesma pesquisa feita há dois anos.

Catástrofe humana gerada por IA

Por outro lado, a pesquisa também apresenta uma perspectiva preocupante. Entre 38% e 51% dos especialistas acreditam que há, pelo menos, 10% de chance de uma catástrofe desencadeada pela IA. Tal catástrofe seria a extinção da humanidade. Dessa forma, para 60%, existe uma probabilidade de 1 em 20 de acontecer.

3. Median 5% or more on advanced AI leading to human extinction or similar. About a third to a half give over 10%, across four questions. (We often ask about a topic in different ways for robustness—here we get consistent answers.) pic.twitter.com/g7bPXAXABs

— AI Impacts (@AIImpacts) January 4, 2024

Apesar de tais preocupações, a pesquisa indica que o desenvolvimento de IA está progredindo rapidamente, com a expectativa de que muitas conquistas importantes, em áreas como ciência, literatura e música, cheguem mais cedo que o previsto.

Por exemplo, a pesquisa aponta que, em 2047, de acordo com os especialistas, há 50% de chance de vermos sistemas e dispositivos IA conseguindo realizar todas as funções humanas de maneira mais eficiente e mais barata. 

Além disso, os especialistas acreditam que a IA entrará em seu auge a partir de 2028, com capacidades revolucionárias, como a criação de um site para processar sistemas de pagamento autônomo e até mesmo compor músicas em estilos idênticos aos de artistas famosos, como Taylor Swift. 

Contudo, os especialistas se mostraram apreensivos com o uso indevido de IA, sobretudo como ferramenta para espalhar informações falsas e deepfakes. O estudo afirma que os especialistas disseram estar “extremamente preocupados” em relação ao uso de IA para controle autoritário e para ampliar a desigualdade, ressaltando a necessidade de mais pesquisas para aprimorar a segurança e lidar com esses temores.

Enquanto os cenários otimistas refletem o poder transformativo da IA, as previsões de uma catástrofe humana no futuro servem como um lembrete sobre o que está em jogo quanto mais a IA se desenvolve.

Resultado enviesado? Especialistas comentam

Contudo, a pesquisa, que se diz revolucionária, obteve críticas duras. E, ironicamente. por especialistas em IA. Inclusive alguns que participaram do estudo, que definiram como alarmista devido ao foco em uma catástrofe.

Alguns profissionais do ramo questionaram o viés da pesquisa, apontando para os financiadores da organização AI Impact e o vínculo com a filosofia/movimento social “Altruísmo eficaz”, conhecido por focar nas consequências problemáticas da IA.

Críticos argumentaram que a metodologia da pesquisa. Ela usa questionários de enquadramento, e a sua natureza de especulação pode distorcer os verdadeiros riscos da IA. Assim, ofusca problemas atuais como a discriminação e a privacidade.

Thomas G. Dietterich, ex-presidente da Associação para o Avanço da Inteligência Artificial (AAAI) questionou que o modelo de enquadramento da pesquisa naturalmente sugere que a IA é uma ameaça existencial. Dietterich foi convidado a participar da pesquisa, mas recusou após analisar as questões, criticando a ênfase na perspectiva de “maldição da IA”.

O pesquisador nota que nem todos os especialistas da área concordam com a tese de que a IA vai superar as habilidades humanas em todos os setores. 

Similarmente, Tim van Erven, pesquisador de machine learning da Universidade de Amsterdã, afirmou se arrepender de participar da pesquisa, citando o “foco em especulações sem fundamento sobre uma catástrofe humana pela IA” sem que houvesse detalhes sobre os mecanismos envolvidos.

I naively participated hoping to represent the "it's very overhyped" perspective, but in hindsight it is clear the only goal of this survey was to lend a quantitative air to the speculations. There were no questions about realistic scenarios at all.

— Tim van Erven (@tverven) January 6, 2024

A líder da pesquisa, Katja Grace, respondeu às críticas. Ela afirmou que a edição deste ano expandiu o número de especialistas em IA de diferentes afiliados a diferentes associações. No entanto, Margaret Mitchell, diretora do setor de ética da empresa de IA Hugging Face, apontou que AI Impacts continuou excluindo associações que focam especificamente em ética e IA, como FAccT e AIES.

Por fim, é importante informar que a pesquisa ainda não recebeu revisão acadêmica por pares.