IBM Watson teria recomendado tratamentos contra câncer “inseguros e incorretos”

Documentos corporativos internos da IBM mostram que especialistas médicos trabalhando com o supercomputador Watson, da empresa, encontraram “vários exemplos de recomendações de tratamento inseguras e incorretas” ao usarem o software, segundo uma reportagem do Stat.

O site revisou documentos que foram incluídos em duas apresentações feitas em junho e julho de 2017 pelo antigo vice-chefe de saúde do IBM Watson, Andrew Norden. Os documentos teriam sido compartilhados com a administração do IBM Watson Health.

• Hackers já criam inteligências artificiais para usá-las como armas
• Milhares de especialistas em inteligência artificial prometem nunca construir armas letais autônomas

Segundo o Stat, esses documentos traziam fortes críticas ao sistema Watson for Oncology e afirmavam que as sugestões “muitas vezes imprecisas” feitas pelo produto traziam “questões sérias sobre o processo de construção de conteúdo e a tecnologia subjacente”.

Um exemplo nos documentos é o caso de um homem de 65 anos diagnosticado com câncer de pulmão, que também parecia ter sangramento grave. O Watson supostamente sugeriu ao homem ser receitado com quimioterapia quanto com a droga “Bevacizumab”. Mas o remédio pode levar a “hemorragia grave ou fatal”, de acordo com uma advertência sobre a medicação, e, portanto, não deve ser receitado a pessoas com sangramento grave, como aponta o Stat.

Um porta-voz do Centro de Câncer do Memorial Sloan Kettering (MSK) disse ao Stat que eles acreditavam que essa recomendação não foi dada a um paciente real e que era apenas uma parte do teste do sistema.

De acordo com o relatório, os documentos culpam o treinamento oferecido pelos engenheiros da IBM e os médicos da MSK, que fez parceria com a IBM em 2012 para treinar o Watson para “pensar” mais como um médico. Os documentos afirmam que, em vez de fornecer dados reais do paciente para o software, os médicos supostamente estavam alimentando dados de pacientes hipotéticos ao Watson ou dados de casos “sintéticos”. Isso significaria que, quando outros hospitais usaram o Watson for Oncology treinado pelo MSK, é possível que os médicos estivessem recebendo recomendações de tratamento orientadas pelas preferências de tratamento dos médicos do MSK, em vez de uma interpretação de inteligência artificial dos dados reais do paciente.

E os resultados parecem ser menos que desejáveis ​​para alguns médicos.

“Este produto é uma merda”, disse um médico do Jupiter Hospital da Flórida à IBM, de acordo com os documentos vistos ​​pelo Stat. “Compramos pelo marketing e com esperança de que fosse atingir seus objetivos. Não podemos usá-lo na maioria dos casos.”

Esse médico teria sido um dos vários cujas queixas foram incluídas nos documentos internos.

Dias depois de Norden fazer uma dessas apresentações, o Gizmodo falou com um oncologista do Jupiter Hospital em busca de um relatório sobre o hype e as falhas do Watson. Durante a entrevista, que foi organizada pela IBM Watson Health, Shah disse que o Watson às vezes serviu como uma opinião extra quando os médicos do hospital não concordavam em umtratamento. Shah não forneceu um endosso firme ou o tipo de críticas severas que o médico não identificado do hospital aparentemente compartilhou abertamente com os executivos da IBM, como mostrado nos documentos internos.

Em resposta à reportagem do Stat, um porta-voz da IBM disse ao Gizmodo que o Watson for Oncology é treinado para ajudar oncologistas a tratarem 13 cânceres e está sendo usado por 230 hospitais ao redor do mundo, tendo oferecido suporte ao cuidado de “mais de 84 mil pacientes”.

“Ao mesmo tempo, aprendemos e melhoramos o Watson Health com base no feedback contínuo de clientes, novas evidências científicas e novos cânceres e alternativas de tratamento”, disse o porta-voz. “Isso inclui 11 lançamentos de softwares para uma funcionalidade ainda melhor durante o ano passado, com diretrizes nacionais para cânceres que variam de câncer de cólon a câncer de fígado.”

Norden contou ao Stat que não podia comentar o caso, já que não trabalhava mais para a IBM. Ele deixou a empresa semanas depois das apresentações para ir trabalhar na Cota, uma empresa de análise de dados de cuidados de saúde que havia feito parceria com a IBM.

A porta-voz do Memorial Sloan Kettering Caitlin Hool disse ao site que as críticas nos documentos internos são um reflexo da “natureza robusta do processo” de desenvolvimento de softwares como o Watson.

“Embora o Watson for Oncology forneça opções de tratamento seguras, as decisões de tratamento, no fim das contas, exigem o envolvimento e o julgamento clínico do médico”, disse Hool ao Stat. “Nenhuma tecnologia pode substituir um médico e seu conhecimento sobre seu paciente individual.”

[Stat News]

Imagem do topo: Getty