图片: 格蒂

来自 IBM 公司的内部文件显示, 在使用该软件时, 与该公司的沃森超级计算机合作的医疗专家发现了 "多例不安全和不正确的治疗建议", 根据 来自统计消息的报告.

统计审查的文件, 包括在6月和2017年7月由 IBM 沃森的前副卫生主任安德鲁诺顿的两个陈述。据报道, 这些文件与 IBM 沃森健康管理部门共享。

广告

根据统计, 这些文件提供了强烈的批评沃森的肿瘤系统, 并指出, "往往不准确的" 建议的产品提出了 "关于建设内容和基础技术的过程中的严重问题."

文件中的一个例子是一名65岁男子被诊断患有肺癌, 他似乎也有严重出血。据报道, 沃森建议该名男子接受化疗和药物 "Bevacizumab"。但是这种药物可能导致 "严重或致命的出血", 根据对药物的警告, 因此不应该给严重出血的人, 正如统计指出。

一个纪念斯隆凯特林 (MSK) 癌症中心的发言人告诉统计, 他们认为这项建议没有给一个真正的病人, 只是一个系统测试的一部分。

广告

根据该报告, 这些文件归咎于 ibm 工程师和 MSK 医生提供的培训, 该公司于2012年与 IBM 合作, 培训沃森 "认为" 更像医生。这些文件说明--而不是将真实的病人数据放入软件中--据报道, 医生们正在为沃森假设的病人数据或 "合成" 病例数据喂食。这意味着, 当其他医院使用 msk 训练的沃森进行肿瘤治疗时, 医生们接受了 msk 医生治疗偏好指导下的疗法建议, 而不是对实际病人数据的 AI 解释。

对于一些医生来说, 结果似乎不太可取。

"这个产品是一坨屎," 佛罗里达的木星医院的一位医生对 IBM 说, 根据统计审查的文件, "我们买它是为了营销, 希望你能实现这个愿景。我们不能使用它的大多数情况下。

广告

据报告, 该医生是其中的许多人的投诉被列入内部文件。

在诺顿给出这些演示文稿的几天内, Gizmodo 与木星医院的一名肿瘤学家进行了交谈, 为 华生的过度炒作与不足报告.在由 IBM 沃森健康组织安排的采访中, 沙阿说, 当木星医生无法就治疗达成一致意见时, 沃森有时会成为额外的观点。沙阿没有提供一个响亮的背书或那种苛刻的批评, 匿名的木星医生显然坦率地与 IBM 高管共享, 如内部文件所示。

在回应统计报告时, 一位 IBM 发言人告诉 Gizmodo, 沃森为肿瘤学的训练是为了帮助肿瘤学家治疗13例癌症, 并被全世界230家医院使用, 并 "支持了8.4万多名病人的护理"。

广告

发言人说: "与此同时, 我们根据客户不断的反馈、新的科学证据、新的癌症和治疗方案, 了解并改善了沃森的健康状况。"这包括在过去一年中为更好的功能提供了11软件版本, 包括从结肠到肝癌的全国性癌症指南"。

诺顿告诉统计他不能评论, 因为他不再为 IBM 工作。他在演讲后几周离开了 Cota, 这是一家与 IBM 合作的卫生保健数据分析公司。

纪念斯隆凯特林发言人凯特琳 Hool 告诉统计, 内部文件的批评是一个反映 "过程的稳健性" 的开发软件, 如沃森。

广告

"虽然沃森为肿瘤提供了安全的治疗方案, 治疗决定最终需要治疗医生的参与和临床判断," Hool 告诉统计 "没有技术可以取代医生和他或她的知识, 他们的个别病人。

[统计新闻]