Por que todo mundo está odiando o Watson da IBM – inclusive quem ajudou a fazê-lo

Você provavelmente já viu os comerciais de Watson, onde o que parece ser uma caixa inteligente interage com celebridades como Bob Dylan, Carrie Fisher e Serena Williams; Ou médicos; Ou um jovem sobrevivente do câncer. Talvez você tenha visto a tecnologia de inteligência artificial da IBM no comercial do Super Bowl com Jon Hamm. “É uma das ferramentas mais poderosas que nossa espécie criou. Ela ajuda os médicos a combaterem doenças”, diz Hamm. “Pode prever padrões climáticos globais. Melhorar a educação para crianças em todos os lugares. E agora nós usamos isso em seus impostos”.

No comercial, que anuncia o que é essencialmente um serviço inteligente de preparação de impostos, Watson é retratado como um incrível cubo de ficção científica que é a chave para os maiores problemas da humanidade. Mas não é um mago. E ultimamente, vários especialistas do Silicon Valley e Wall Street falaram, criticando as pessoas por trás da cortina – perguntando se Watson é uma piada ou um salvador para a IBM. Então, por que todos estão sendo tão difíceis com a Big Blue e seu bebê precioso?

A visão surpreendente da Watson foi parte integrante da marca da IBM desde que o inovador sistema de perguntas e respostas fez sua estréia em 2011 no Jeopardy! Agora, graças a bilhões de dólares de investimento e anos de marketing agressivo, Watson passou a representar a IA na imaginação popular. Siri e Alexa podem receber mais atenção nos dias de hoje, mas quando se trata de computação de grandes dados, Watson foi a primeira a oferecer um nome, e permaneceu um firme mascote.

Em 20 de junho, um dia depois da CEO da IBM, Ginni Rometty, se encontrar com o presidente Trump, como membro do American Technology Council (uma coleção de homens do Vale do Silício que assessoram o presidente sobre a modernização da tecnologia federal), ela apareceu no famoso show da CNBC Mad Money para um comunicado de imprensa apresentado como uma entrevista. “Você estava na Casa Branca ontem”, começou Cramer. “O que você falou sobre? E o que a IBM pode fazer para o nosso país? “

É claro que a resposta é, muito, de acordo com Rometty: a IBM pode melhorar os cuidados de saúde para os veterinários, modernizar a infra-estrutura tecnológica do país, criar empregos e treinar a próxima geração de trabalhadores. Mas é a “computação cognitiva” (palavra-chave da IBM para a IA) de Watson que ajudará muitas dessas visões a se tornar realidade. Através da conversa de amigos foram espalhadas uma dúzia de menções de Watson. Foi feita a enganosa constatação que, até o final deste ano, Watson “vai tocar um bilhão de pessoas” e “será capaz de abordar, diagnosticar e tratar 80% do que causa 80% do câncer no mundo”. (Ela estava se referindo ao objetivo de fornecer sugestões de tratamento para 12 tipos de câncer, o que a IBM diz representar 80% da incidência global de câncer. O número bilhão é em grande parte graças a uma colaboração entre Watson e GM OnStar que, teoricamente, coloca a Watson em centenas de milhões de carros.)

A entrevista foi uma representação da estratégia de marketing da IBM: promover Watson como uma tecnologia de mudança mundial, descrevendo ele de forma quixotesca, deixando os repórteres se acabarem nas manchetes clickbait sobre um robô que ajuda os humanos a fazer seus trabalhos – por exemplo: “Supercomputador Watson da IBM Pode em breve ser o melhor médico do mundo“, “Watson ajudou a desenhar o vestido de Karolina Kurkova para o Met Gala”.

A IBM parece acreditar que a marca Watson pode dar vida nova à sua empresa. E ela com certeza poderia usar renascer neste exato momento. A receita da IBM caiu por 22 trimestres consecutivos. Em maio, Warren Buffett se livrou de cerca de um terço de suas ações da IBM, citando “alguns concorrentes bastante difíceis”. Duas semanas depois, o Wall Street Journal informou que a IBM deu aos seus funcionários remotos a opção de se mudar para um escritório regional ou sair. (Uma vez que a decisão afeta mais de 40% dos seus 380 mil funcionários, o artigo sugere que é uma forma de cortar funcionários sem demissões oficiais). Em julho, o banco de investimentos Jefferies publicou um relatório advertindo os investidores da IBM, sugerindo que a empresa não retornaria valor para os acionistas porque não pode competir com outros gigantes da tecnologia que investem em IA.

Amazon, Apple, Facebook, Google e Microsoft estão reconfigurando seus negócios em torno da crença de que a IA e a aprendizagem de máquinas são o futuro da indústria de tecnologia. A IBM está em uma posição mais vulnerável que todas essas empresas. Embora a IBM tenha sido pioneira da IA, ela deixou sua liderança escorregar e danificou sua reputação com o marketing exagerado. Há um sentimento crescente nos especialistas em tecnologia e finanças que, para todo o idealismo, a Watson simplesmente não pode cumprir suas promessas.

O que é Watson, afinal de contas?

Quando Watson estreou em 2011, foi uma conquista excepcional que provou que a empresa de hardware centenária ainda poderia encontrar seu caminho para a vanguarda. Ele inaugurou a era da computação de grandes dados, ou como Rometty colocou durante sua conversa com Cramer: “Fomos nós quem acordou o mundo da IA”.

Watson era mais do que apenas um supercomputador que respondia a questões triviais. Poderia processar a linguagem natural, incluindo o jogo de palavras e as frases construídas de maneira estranha. Quando Watson recebia uma pergunta, dezenas de algoritmos analisavam a questão e produziram uma lista de respostas, depois as classificava. Se o índice de confiança fosse alto o suficiente, Watson acionava o sinal sonoro.

“Watson da IBM é o Donal Trump da indústria da IA – constatações surreais que não são apoiadas por dados confiáveis”.

Três anos depois, em 2014, a IBM criou a unidade de negócios da Watson para descobrir maneiras de usar a tecnologia para realmente ganhar dinheiro. Agora, “Watson” representa toda uma série de tecnologias de IA construídas e adquiridas pela IBM – incluindo análise de sentimentos, reconhecimento de voz e processamento de linguagem natural. Os designers de user experience e user interface usam essas ferramentas para criar plataformas para clientes IBM em várias indústrias. Muitas dessas colaborações inspiram uma onda de burburinho, gerando manchetes que lembram os recortes de jornais colecionados por pais orgulhosos de um filho prodígio: “Watson da IBM Ganhou Seu Primeiro Trabalho de Verdade“, “Depois de Ganhar Jeopardy! O Watson da IBM ataca o câncer e a diabetes“, “Os Toronto Raptors estão usando o Watson da IBM para elaborar uma equipe vencedora“, “O Watson da IBM publicou um livro de receitas“, “Watson ajudou a fazer um trailer para um filme de terror sobre IA“, “O mais recente trabalho do Watson da IBM é concierge de hotel“, “IBM Watson ajuda a criar esculturas inspiradas por Gaudi” e ” Watson da IBM está fazendo música, um passo mais próximo em conquistar o mundo“. (Alguns eram do Gizmodo).

Muitos dos produtos mencionados nesses artigos dependem de algoritmos de aprendizado de máquina que “aprendem” como realizar tarefas processando enormes quantidades de dados (daí a computação de grandes dados) e encontrar padrões na informação. É como se você soubesse onde encontrar um interruptor em um quarto escuro graças à associação e repetição. Mas nem sempre é fácil obter todos esses dados. Um jeito que a IBM os obteve é por aquisições de empresas com grandes conjuntos de dados, como a Truven Health Analytics e os recursos digitais do Weather Channel. As capacidades de linguagem natural da Watson ajudam o sistema a entender o jargão desses campos e a processar os dados melhor. A IBM então trabalha com especialistas em vários campos – oncologistas, chefs, contadores – que “ensinam” Watson como eles fazem seus trabalhos.

Mas as tecnologias de “computação cognitiva” sob o guarda-chuva Watson não são tão únicas quanto eram. “Na comunidade de ciência de dados, a noção é que, independentemente do que Watson possa fazer, você provavelmente pode obter como freeware em algum lugar, ou possivelmente construir com seu próprio conhecimento”, disse Claudia Perlich ao Gizmodo, professora e cientista de dados que trabalhava na IBM Watson Research Center de 2004 a 2010 (o mesmo período em que Watson estava sendo construído), antes de se tornar a cientista chefe da Dstillery, uma empresa de marketing orientada a dados (um campo com o qual a IBM também está envolvida). Ela acredita que um bom especialista em ciência dos dados pode criar plataformas semelhantes ao Watson “com menor compromisso financeiro”.

Perlich, que conhecia a equipe que construiu o Watson original, disse que ela tem um “profundo respeito pela tecnologia” do computador Watson. “Eu conheci os componentes da tecnologia muito bem”, disse ela. “A realidade, no entanto, é o que o Watson representa como um produto comercial é muito diferente, mesmo de uma perspectiva tecnológica, do Watson, que ganhou o Jeopardy!“

Ed Harbour, vice-presidente de implementação do IBM Watson acredita que o Watson ainda é único em seu campo. “Existem outras empresas lá fora que ofereceram sistemas baseados em IA e aprendizado de máquinas? Sim, existem”, disse ele. “No entanto… Eu acredito fortemente, Watson está à frente da competição e nós temos que continuar avançando [para melhorar Watson]. Não, não acho que seja algo que qualquer um possa simplesmente fazer “.

Mas, de acordo com Perlich, cientistas de dados que desejam criar plataformas similares ao Watson poderiam eventualmente retirar de várias fontes como Microsoft Azure, Amazon Web Services, ou Data Ninja. Mas o que esses produtos não oferecem é a marca Watson. “E todos estão muito felizes em reivindicar trabalhar com Watson”, disse Perlich. “Então, eu acho que agora Watson está monetizando principalmente na percepção da marca”.

A viagem à lua da IBM

As promessas mais ousadas da IBM foram sobre as formas em que afetará os cuidados à saúde. Desde o início, a IBM estava esperando a comunidade médica aceitar o Watson. Em uma recente conferência de saúde, Rometty disse que quando ela se tornou CEO em 2012, logo após Watson ganhar Jeopardy!, decidiu usar Watson para mudar partes de cuidados à saúde seria “nossa próxima viagem à lua”.

A Watson Health é uma unidade separada que desenvolve e adquire IA que pode processar quantidades abundantes de dados relacionados à saúde – de estudos clínicos a imagens de pele ao sequenciamento do genoma – e cria ferramentas que ajudarão profissionais médicos. Existem dois ramos principais dentro do Watson Health-Watson para Oncologia, o que essencialmente sugere tratamentos contra o câncer com base na informação do paciente que o médico insere, e Watson para Genômica, que funciona de forma semelhante, mas baseou os dados de sequenciamento genômico do tumor de um paciente.

O sonho é medicamentos e terapias sob medida. No IBM Watson Experience Center na cidade de Nova York, a IBM demonstrou para mim uma versão simulada do Watson que tira informações de milhões de revistas médicas e processa a informação pessoal, os sintomas e a seqüência de genes de um paciente e, em seguida, serve um diagnóstico e caminho para a recuperação.

“Na comunidade sobre ciência de dados existe a noção que tudo o que o Watson pode fazer, qualquer software freeware ou até você mesmo pode fazer com seu próprio conhecimento”

Não há como saber se ou quando vamos ver essa versão do Watson. Mas os hospitais da China, da Índia, da Coréia do Sul e da Eslováquia – assim como um dos EUA, Jupiter Medical Center em Jupiter, na Flórida – usam a Watson para segundas opiniões virtuais sobre as opções de tratamento. Sujal Shah, oncologista do Centro Médico Jupiter, disse ao Gizmodo que ele usou o Watson para Oncologia por cerca de cinco meses – principalmente durante conferências semanais de câncer, onde todos os cirurgiões e médicos de câncer discutem as opções de tratamento. Ele e seus colegas introduzem dados no Watson, para que ele possa elaborar um plano de tratamento. “Ocasionalmente, nós discordamos, e então é onde Watson realmente entra em ação”, disse Shah ao Gizmodo, sugerindo que o computador pode servir como uma espécie de desempate.

Em países como a Índia, onde existe uma baixa relação oncologista para paciente, os médicos precisam usar toda a ajuda que podem conseguir e o oncologista e presidente do Centro de Câncer Compreensivo Manipal disse ao Gizmodo que os Hospitais Manipal se beneficiaram de Watson e seus pacientes apreciam serem capazes de ver as opções de tratamento recomendadas na tela.

Usar a tecnologia para ajudar os médicos a tratar o câncer é um esforço nobre – ninguém discorda disso. A IA pode ter um tremendo impacto nos cuidados de saúde e em muitas outras indústrias. Mas a tecnologia não parece ser suficientemente avançada para ter um impacto transformador ainda. E a tecnologia Watson não é especialmente única. Mas o marketing robusto da IBM está tentando nos fazer acreditar que está a grandes passos à frente de qualquer outra coisa.

Os problemas de saúde de Watson

“IBM Watson é o Donald Trump da indústria da IA – constatações surreais que não são apoiadas por dados confiáveis”, disse Oren Etzioni, CEO do Instituto Allen para IA e ex-professor de ciência da computação. “Todos – jornalistas inclusos – sabem que o imperador está sem roupas, mas a maioria está relutante em dizer isso”.

Etzioni, que ajuda a pesquisar e desenvolver uma nova IA que é semelhante a algumas APIs da Watson, disse que respeita a tecnologia e as pessoas que trabalham no Watson, “Mas o marketing e as relações públicas se encaminharam para o mal de todos”.

Os ex-funcionários que trabalharam na Watson Health concordam e pensam que a IBM sobrecarregar o Watson para oncologia é especialmente prejudicial. Um antigo pesquisador da IBM Watson Health e designer de user experience disse ao Gizmodo que eles se juntaram com um oncologista em um centro de câncer que se associou à IBM para treinar o Watson para Oncologia. O designer afirma que falaram com pacientes que ouviram falar de Watson e perguntaram quando poderia ser usado para ajudá-los com sua doença. “Isso foi realmente muito desolante para mim como designer porque eu vi o que realmente é Watson para oncologia e eu estava muito consciente de suas limitações”, disse o designer. “Me senti muito mal e parecia que havia uma esperança real que tinha sido alimentada pelo marketing da IBM que não poderia ser suportada pelo produto que eu conheço”.

O designer pensa que a falsa esperança veio dos anúncios da Watson. Por exemplo, um comercial retrata dois médicos em um hospital rural que pode fazer análise genômica graças a uma caixa preta inteligente que aconselha os médicos. Em outro comercial, uma criança de sete anos fala com um quadrado fictício sobre como ela não está mais doente. Depois de Watson ler seus dados de saúde, ela pergunta se Watson é um médico. “Não, eu ajudo os médicos a identificar os tratamentos contra o câncer”. Watson responde, enquanto a frase na tela diz: “O IBM Watson está ajudando os médicos a superar o câncer, um paciente por vez”.

“Vencer o câncer” é enganosamente vago. Rometty foi ainda mais vago em uma entrevista no Wall Street Journal de 2015. “Vamos mudar a cara dos cuidados de saúde”, disse Rometty à escritora Monica Langley. “Se você acha que resolver o câncer é legal, então somos legais”.

A experiência de conhecer o paciente esperançoso fez com que o designer visse a empresa em uma luz totalmente diferente. “Eu não apostaria no Watson ajudar os pacientes em grande escala”, disse o designer. “A IBM precisa ser responsabilizada pela imagem que está produzindo de seus sucessos em comparação com o que eles realmente podem oferecer, porque em certo ponto se torna uma questão ética… Você está dizendo a pacientes com câncer que eles deveriam ter um maior sentimento de esperança sobre o seu resultado e, em seguida, entregar menos que isso – para mim, isso é simplesmente sujo. “

Outro ex-funcionário que trabalhou como chefe de pesquisa de design na Watson para Oncologia também disse que não se sentia confortável com a forma como os comerciais retratavam a plataforma. “Você vê esses comerciais e acha que está encontrando novas maneiras de curar o câncer”, disse. “Por que confundir as pessoas e fazê-los pensar que vai encontrar algo que um médico não poderia encontrar?… Então caminha para o que me parece um território antiético quando você está potencialmente dando esperança a pessoas que nunca deveriam ter tanta esperança nesse tipo de sistema, porque não é uma caixa mágica que faz essas coisas. Não é um deus”.

Mas o chefe de saúde da IBM, Kyu Rhee, disse que os comerciais da Watson não são enganadores. “Eu acho que esses comerciais são uma representação de como é a interface do Watson”, disse Rhee, falando sobre o comercial com dois médicos de base rural. “Isso, na minha opinião, é uma representação precisa de pessoas que podem usá-lo”.

“Não há nenhuma maneira de validar que o que estamos obtendo da IBM é exato, a menos que testemos nos pacientes reais em uma experiência.”

Se os designers que criam os produtos pensam que estão sendo apresentados de maneira confusa, como os profissionais médicos que estão usando eles se sentem? A IBM armou (e ouviu) entrevistas nas quais os médicos falaram muito bem de trabalhar com o Watson. Mas os profissionais médicos que buscamos separadamente foram menos entusiasmados. Babu Guda é um pesquisador que usou a Watson para análise genômica no Centro Médico da Universidade de Nebraska por dois anos e meio. Depois que o centro tratava os pacientes com câncer de mama, Guda identifica centenas ou milhares de mutações usando suas próprias ferramentas e, em seguida, alimenta essa informação à IBM, que escolhe algumas das mutações que possuem tratamentos com medicamentos. Guda está feliz com os rápidos resultados. “Mas o desconhecido aqui é o quão bons são os resultados”, disse Guda. “Não há nenhuma maneira de validar que o que estamos obtendo da IBM é exato, a menos que testemos os pacientes reais em uma experiência.”

Guda disse que se a IBM quiser que os pesquisadores tenham mais confiança no Watson, a empresa precisa conseguir as principais instituições de pesquisa para recrutar milhares de pacientes, resultados de testes e estudos publicados. “Caso contrário, é muito difícil para os pesquisadores”, disse ele. “Sem publicações, não podemos confiar em nada”.

A IBM disse que Guda estava usando uma versão beta do Watson para Genomics. O Universidade de Augusta do Georgia Cancer Center recentemente começou a usar uma nova versão. Ravindra Kolhe, um diretor de laboratório no centro, disse ao Gizmodo que a velocidade que ele obtém dados de volta da Watson adicionou valor aos seus relatórios clínicos.

Watson Health teve um enorme sucesso em fevereiro, quando MD Anderson, centro de câncer da Universidade do Texas, colocou sua parceria Watson em espera. A IBM anunciou o projeto em outubro de 2013, afirmando que o objetivo era “erradicar o câncer”. O MD Anderson pagou US $ 39 milhões pelo projeto. Nenhum dos médicos que usaram Watson falaria sobre trabalhar com o sistema, mas um porta-voz falou ao Gizmodo. “Embora uma variedade de abordagens tenham sido examinadas, uma abordagem final usando esta tecnologia [Watson] para benefício dos pacientes não foi determinada até o momento”.

Um artigo recente da MIT Technology Review que fornece uma “verificação de realidade” para as ambições da IA da IBM avaliou que a falha na colaboração do MD Anderson não significava que a Watson fosse tecnicamente inadequada, mas sim “parecia mostrar que a IBM engasgou com seu próprio hype sobre o Watson”.

Independentemente disso, Watson está fazendo avanços na pesquisa de cuidados de saúde. No mês passado, na reunião anual da Sociedade Americana de Oncologia Clínica 2017, a Watson Health compartilhou cinco estudos mostrando que o Watson melhorou em fornecer as mesmas recomendações de tratamento que os médicos com certos tipos de câncer. Mas, de acordo com David Howard, professor de política e gestão de saúde na Escola de Saúde Pública Rollins da Universidade Emory, estes são “estudos em estágio inicial” e existe uma grande lacuna entre esses resultados e demonstra um benefício para os pacientes. Em seguida, os pesquisadores precisariam realizar estudos que mostrem que os tratamentos médicos mudaram após terem observado as recomendações de Watson e que essas mudanças resultaram em melhores taxas de sobrevivência do paciente.

“Quando fizemos o Watson lá atrás, IA era uma palavra de quatro letras. Bem, precisamos chamar isso de alguma coisa. Se o chamarmos de IA, ninguém nos levará a sério.”

Howard disse que muitos médicos ainda são céticos quanto ao Watson Health. Mas ele acha que os profissionais da saúde hesitam em criticar a tecnologia. “Você não quer ser o cara que é citado dizendo que isso nunca vai funcionar e então isso se torna o futuro”, disse Howard. “É uma espécie de caixa preta e não compreendo perfeitamente do que é capaz. Talvez seja maravilhoso. Mas com base nos critérios que usamos para avaliar os avanços nos cuidados de saúde atualmente, não parece haver validade clara ou dados reais por trás disso”.

Dissonância cognitiva

Para ser justo, é desafiador fazer o marketing de IA e aprendizado por máquina para um público em geral. Foi especialmente desafiador quando Watson nasceu em 2011 e a IA era coisa de ficção científica. É por isso que a IBM apresentou sua própria descrição: “computação cognitiva”.

Michael Karasick, vice-presidente de computação cognitiva da pesquisa da IBM, esteve na empresa por 29 anos. Ele discutiu as origens do termo com o Gizmodo. “Quando fizemos o Watson lá atrás, IA era uma palavra de quatro letras. Bem, precisamos chamar isso de alguma coisa. Se o chamarmos de IA, ninguém nos levará a sério. “

Agora, graças em grande parte à IBM, não é mais um risco para as empresas de tecnologia se concentrarem na IA. Ao contrário, é um risco ignorá-lo. Mas porque a IBM queria que os consumidores a levassem a sério nos primeiros dias, a empresa apresentou seu próprio impressionante e impreciso nome para a fantástica nova tecnologia. Como outras empresas começaram a investir fortemente em IA em um momento em que é mais seguro fazê-lo, a IBM permaneceu no mesmo curso e o Watson permanece preso na mesma caixa preta.