如果AI可以看病问诊,出错谁来负责

AI头条· 2023-10-26 20:09:06

美国4岁儿童亚历克斯病了,三年来,他先后看了17名医生,从儿科、牙科、骨科等门诊科室到各路专家,没有一位医生准确地诊断出他的病因。直到2023年ChatGPT火起来后,他的母亲向ChatGPT求助。

“我一行一行地查看亚历克斯的核磁共振记录中的所有内容,并将其输入ChatGPT”,他的母亲说,ChatGPT的诊断结果是“脊髓栓系综合征”。带着这一诊断结果,他和母亲拜访了一名新的神经外科医生,这位神外医生看了一眼MRI(核磁共振成像)就给出了和ChatGPT一样的结论,并指出了栓系的具体位置。

亚历克斯的案例无疑是企业蜂拥进入AI医疗领域的动力。2023年10月24日,科大讯飞发布讯飞星火医疗大模型,据《财经∙大健康》不完全统计,这已经是2023年国内发布的第32个医疗领域生成式AI大模型。

产品密集发布背后,企业开始寻找商业化出路,最挠头的问题莫过于,产品能卖给谁?

公立医院是产业界眼中最优的买单方。“可现在大家落地面临的共同难题是,公立医院系统缺乏引进购买的动力。”一家AI医疗大模型企业人士告诉《财经∙大健康》,“一方面,新生事物没纳入公立医院的考核体系,不像买其他软件可以给医院加分;另一方面,医院内部的数据大多还没打通,这对于大模型发挥最大效能会打折扣。”

如同难以破解的魔咒,AI医疗过去十数年在商业化之路上的难题——数据壁垒和缺乏支付方,仍然摆在那里。

“即便AI在医疗领域的渗透已经是确定性的趋势,有着广大的前景,但当下中国的AI医疗仍处于低谷期,要突破这个局面,关键还是看谁能掌握数据。”高特佳投资副总经理于建林说。

No.1 如何让医疗AI为自己的答案负责

随着生成式AI大模型的热潮掀起,我们距离AI医生更近了。

近半年医疗 AI 大模型持续推出。10月24日,APP“讯飞晓医”面向普通人群开放,可以提供预问诊、体检报告分析等。早在5月,春雨医生在线问诊产品“春雨慧问”中嵌入AI大模型,将在线问诊原本的“人——人”模式,升级为“人——机器——人”。

AI大模型是指一个庞大复杂的神经网络,需要通过存储更多的参数来增加模型的深度和宽度,从而提高模型的表现能力,参数从百亿起步,对大量数据进行训练并产生高质量的预测结果。

公开数据显示,互联网搜索内容中有20%与医疗健康相关。但这里有一个问题,那就是如果AI不能对自己的答案负责,那么就不能走通商业模式

目前能为医疗诊断负责的只有医生。一位原互联网医疗资深从业者分析,做医疗业务,最关键的在于责任和风险,要考虑合规的问题,谁能担责任,谁才可能挣到钱。

尽管像亚历克斯的疾病诊断一样,只要症状描述的足够准确、充分,AI能给出正确的诊断结果,但ChatGPT对诊断结果不负责。

问题来了,如果医生诊断出了错,可以被谅解,因为人都是会犯错的,机器出了错怎么办?这些疑问,目前无论是法律还是伦理都还没理顺。

所以,AI大模型产品要想走商业化道路,就得先从医院的医生入手,想办法成为医生的助手。

2023年5月,一家三级医院的主任医师试用了他的“新助手”,他为病人诊疗的时候,“助手”会录音,会帮他写问诊病例。

这款基于ChatGPT这样的大语言模型开发的问诊录音机器人,“已进入十多家医院的门诊,帮助医生节省时间。”北京左医科技有限公司首席执行官张超介绍。

上述主任医师给他的“助手”评分时,打了90分。AI助手丢掉的10分,是因为工作中存在一些误差,比如医生没有询问患者的月经史、婚姻史、生育史,但最终的问诊记录中包含了这一项,必须得医生手动删除。

如何嵌入医院诊疗环节中,是企业努力想实现的产品。9月,百度集团推出“灵医”大模型,想解决的是患者“排队一上午,看诊五分钟”的困扰,“灵医”的一个长项就是帮助医院分诊台的医护人员,为医生精准匹配患者,让医生和患者的每一次面诊效率更高。“灵医”大模型已向200多家医疗机构开放体验,除了26个互联网医疗平台,还有数十家公立医院。

“预问诊”,也可以节省病人和医生的时间。商汤科技相关负责人向《财经∙大健康》介绍,其与上海新华医院合作面向挂号患者的“预问诊”模块,即将引入其AI大模型“大医”,患者看医生前可以先和AI沟通。

大模型的开发者们可以说是挖空心思,试图包围医院的方方面面。问题是,医院需要吗?

No.2 医生需要AI,但和你预设的不一样

“差不多20年前,就有搜索企业希望本地搜索的功能进入医院场景,当时医院的信息繁杂,没有很好的梳理,但后来发现,医院的基础设施不足以支撑,更重要的是医院也没有搜索信息的需求。”上述互联网医疗资深从业者对《财经·大健康》分析。

过去20年,今天的AI医疗大模型产品,在上述从业者看来面对情况还是一样。

进医院难,这是销售人员都明白的。一是和既往利益者的竞争,比如一家新的护工公司想进医院,医院有需求,但是医院原来有合作方,医院负责人就要对比谁的服务好、谁的品牌大,甚至谁的关系好。二是,医疗AI是不是医院必需的助手,如果不是,医院就没有让它们落地的动力。

随着信息系统的升级,不少医院已经有了临床决策支持系统(CDSS),当医生输入病人主诉症状之后,系统就会自动提示可能的疾病,下一步用药建议。

“如果大模型产品只是给医生提供诊断的线索,那本质仍然是一款辅助的搜索工具,只不过是从知识搜索升级为经验搜索。”在上述互联网医疗从业者来,医生日常工作大部分是诊治常见病,可能不需要一个多聪明的机器人替他看病,需要的是一个笨一点的、准确性高的助手,“这体现不出大模型最有价值的地方”。

给升级版的“搜索”付钱,院长们思量就多了。

参照ChatGPT的商业模式,通过广告、会员订阅和算力来增加收入,显然在医疗领域行不通,中国公立医院占据了大半江山,它们不大乐意支付广告费,会员和算力这也不再医院管理者的考量之内。

想打动院长真金白银地购买,首先得是有临床价值的辅助诊断工具。于建林指出,评估一个AI大模型的真正价值,无非是考虑算力、算法和数据,而在中国的医疗领域数据最为重要。

训练一个有临床应用价值的AI模型产品,至少需要数万的临床病例数据,但在于建林接触的中国AI企业中,能有几千的病例数据就非常不错了。

图/Pixabay

大模型通过使用大量的模型来训练数据,于是,“书本”训练,成为医疗大模型的基础训练,“养料”来自海量的医学教科书、行业指南。科大讯飞相关负责人介绍,通过与人民卫生出版社、中华医学会杂志社、科学技术文献出版社等深度合作,获取了众多的医学书籍、临床指南、医学文献、典型病例等权威医学知识,扩充了模型的专业知识覆盖度,极大地提升了模型的理解和咨询回答的能力。

京东的医疗大模型“京医千询”,则是通过收集超亿级的医患对话数据,这来自线上问诊建起的一个大数据库,覆盖了线上140余个科室的医生、药师、营养师和心理医生。

"线上问诊数据和线下医疗数据在质量上还是有一定差距。"于建林分析,短期来看,三五年内,一些在医学领域原本就有优势的企业,比如大型医疗设备企业,因为有大量的医院业务,它们获得数据的优势明显,AI搭配硬件去销售,更容易走通。

国际上一些成熟的AI辅助诊断产品,已经可以大规模的临床应用。但商业动力强,才是推动AI落地的阀门。比如一款AI结合的癌症早筛产品,就是保险公司希望能够更早的确诊,以减少理赔的成本,所以有动力去推动,于是保险公司提供了高质量的临床数据支持这一款产品开发。

保险付费是国际上已经走通的一条路,因为可以降低成本,保险公司乐意做。只是中国的商业健康保险发展尚不充分,不足以支撑成为强大的付费方。

于建林对《财经∙大健康》分析,目前AI在医疗应用主要两方面,一个场景是对患者,提供问诊和健康管理,另一场景是帮助医生来做AI的辅助诊断,比如AI影像。

路怎么趟顺了,还得中国的AI开发者们沉入医院继续研究。2023年9月24日,OpenAI创始人兼CEO Sam Altman表示,如果有公司致力于解决GPT模型的一个小缺陷,不会产生可持续的竞争优势。他的建议是,AI创业方向包括AI医疗,“优秀的AI医疗顾问将为社会带来巨大福祉”。



您可能关注: AI医疗
文章链接: http://lunwen.cy211.cn/aizixun/882.html Chat AI人工智能机器人在线使用

[免责声明]如需转载请注明原创来源;本站部分文章和图片来源网络编辑,如存在版权问题请发送邮件至398879136@qq.com,我们会在3个工作日内处理。非原创标注的文章,观点仅代表作者本人,不代表炎黄立场。