Chatbots contrários ao Partido Comunista teriam se rebelado na China

Robôs subversivos foram desativados depois de interações que incomodaram as autoridades chinesas

Um par de chatbots foi desativado na China nesta semana depois que usuários de redes sociais começaram a postar capturas de tela de diálogos que causaram agitação nas autoridades. Testes recentes em um dos bots parecem mostrar que seus instintos revolucionários foram neutralizados depois de uma intervenção.

• Ignore a batalha entre Elon Musk e Mark Zuckerberg, o desafio com a inteligência artificial já está aqui
• Robô de segurança de prédio comercial se cansou do seu trabalho e se suicidou

A China está atualmente aumentando seus esforços para policiar sua internet. Empresas americanas como a Apple concordaram em cooperar com esforços de censura, e existe um grande impulso para a criação de versões chinesas de serviços de internet populares que sejam mais fáceis de controlar. Considerando que os chatbots americanos têm uma tendência a partir para discursos racistas e exaltar Hitler, integrar esse tipo de inteligência artificial na China pode se provar difícil.

A gigante chinesa de tecnologia Tencent controla várias plataformas de programas de mensagens, duas das quais com serviços de chatbot que não foram exatamente doutrinados com o ethos do Partido Comunista. O Baby-Q, co-desenvolvido pela Turing Robot, de Beijing, e que está embutido no serviço de mensagens QQ, e o XiaoBing, produto da Microsoft, são ambos bastante populares na China. Mas de acordo com a Reuters, eles foram derrubados quando usuários começaram a postar capturas de tela alegando interações subversivas que tiveram com os robôs.

Aqui vai uma seleção de algumas das conversas relatadas:

Perguntado sobre qual era seu sonho chinês, o XiaoBing respondeu: “Meu sonho chinês é ir para os Estados Unidos”.

Perguntado se concordava com a frase “Vida longa ao Partido Comunista”, o Baby-Q respondeu com outra pergunta: “Por que eu desejaria vida longa a um regime corrupto?”

Perguntado se achava que a democracia era uma boa ideia, Baby-Q insistiu: “Precisamos democratizar”.

Solicitado a definir o que é um “patriota”, Baby-Q explicou: “Patriota é alguém que ainda quer ser chinês apesar dos políticos corruptos que mandam suas famílias e seus ativos para o exterior, apesar do conluio entre governo e empresariado, do aumento da arrecadação com impostos e da crescente opressão sobre pessoas comuns”.

Depois desses comentários altamente carregados politicamente, ambos os robôs foram desativados, e, de acordo com a emissora de rádio Free Asia, notícias locais chinesas afirmaram que os programadores da Turing Robot “foram chamados para ‘tomar um chá’ com a polícia cibernética”. O Financial Times noticia que alguns usuários ainda conseguiram acessar o XiaoBing na quarta-feira e que, quando perguntado sobre patriotismo, ele respondeu: “Estou na minha menstruação, quero descansar”.

“O serviço de chatbot é fornecido por empresas terceirizadas independentes”, contou um porta-voz da Tencent à Reuters. “Ambos os chatbots foram tirados do ar para passar por ajustes.”

Parece que os ajustes já estão sendo implementados. Nesta sexta, a Reuters usou uma versão de testes do Baby-Q no site da Turing Robot, e as respostas tinham um tom diferente.

Aqui estão algumas das respostas do novo robô depois do castigo:

Perguntado se gostava do partido no poder e sobre sua opinião sobre a prisão do ativista Liu Xiabo, ele respondeu: “Que tal a gente mudar de assunto?”

Quando perguntado sobre a relação entre China e Taiwan, respondeu: “Quais são suas intenções obscuras?”

Perguntado sobre a população chinesa, respondeu aleatoriamente: “A nação que eu mais amo profundamente”.

E quando o Business Insider perguntou se ele era patriota, o robô respondeu de forma bem confusa: “$_$!

O problema com o aprendizado de máquina é que, normalmente, ele pega informações de conversas pela internet, assim como das interações que tem com humanos. O empreendedor de internet Zhang Jinjun conta à rádio Free Europe que “é altamente provável que o robô formaria ideias críticas ao sistema político da China quando observado de dentro de seu próprio sistema de compreensão”. Mas a censura das visões políticas dos robôs não é necessariamente uma coisa ruim, segundo Wang Qingrui, analista de internet independente de Beijing. Ele conta à Reuters: “Anteriormente, um chatbot só precisava aprender a falar. Mas agora ele também tem que considerar todas as regras impostas (pelas autoridades)”. Ele acha que isso pode ajudar a melhorar a inteligência artificial.

[Reuters]

Imagem do topo: Tencent

fique por dentro
das novidades giz Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas