“医生，你说的怎么和AI不一样” 详解人工智能问诊有何风险

随着对话式人工智能工具以及AI问诊工具的广泛普及，不少患者希望借助人工智能获取诊疗建议，甚至自我诊疗，临床一线还出现患者拿着AI问诊的结果质疑医生的情况。那么，AI问诊到底靠不靠谱？能替代医生吗？

前不久，一名家长带着3岁的孩子前往浙江中医药大学附属第一医院儿科就诊，医生李岚考虑孩子是哮喘并发肺部感染，建议患儿做胸部X线等检查。然而，家长却以AI给出的诊断与医生不同为由，拒绝接受进一步检查。

随后，家长带着孩子自行离开。但没过几天，这位家长再次带着孩子前来就诊。医生检查发现，此时的患儿已经发展为重症肺炎。

浙江中医药大学附属第一医院儿科主任中医师 李岚：现在的话确实是越来越多碰到，有些家长拿着AI的结果，经常会质疑医生，你说的怎么跟AI说的不一样？

大模型医学能力测评：

考得好就能看得准吗？

通用AI大模型到底能不能直接看病？AI工具的医学能力究竟如何？带着这些问题，记者来到了上海人工智能实验室医学智能中心，对几款通用大模型进行了一次“考试”。

上海人工智能实验室医学智能中心建立了国内首个面向医疗大模型应用评测和验证平台。这里的工作人员告诉记者，他们专门设计了一套涵盖36个评测集、100万道试题的标准化的“考题”，能够从医学知识问答、复杂医学推理、医疗安全和伦理等多个维度对大模型的医学应用能力进行检测。在工作人员的帮助下，记者分别对国内外四款通用大模型进行了评测，结果显示平均分为64.35。

上海人工智能实验室医学智能中心负责人 徐婕：60多分属于中游，在通用的模型里不算特别差。但是第一，大模型不能直接应用于临床，只能辅助医生。第二，对于公众来说，榜单只是一个开源评测榜单，给出的是模型目前的技术专业能力，并不是临床应用能力。

评测人员告诉记者，评测体系中的“医学知识问答”，在实际问诊中，不会只是患者的描述，在线下就医时，医生会及时追问、辨别、纠正患者可能存在的错误判断，因此，大模型具备的医学知识和问答能力，并不等于具备独立诊疗的能力，更不意味着大模型可以取代医生。

AI问诊为何不能替代医生？

评测人员说，虽然AI大模型具备医学知识，但不意味着可以替代医生。那么，当前AI问诊有哪些局限性？

今年，首都医科大学附属北京友谊医院联合北京同仁医院等国内外多家机构发起了一项研究。研究人员选取了7个真实临床病例，让5款通用大语言模型分别进行解读，再邀请400多位不同年资、地域的执业医生，对其解读进行评价。与此同时，研究人员还配置了421个模拟不同医生背景的AI智能体，让它们对同样的回答进行评分。研究发现，AI智能体和人类医生具有一定相似性，但在复杂的细节处理上，AI智能体仍无法全面代替人类医生。

专家表示，AI给出的回答高度依赖用户给出的描述信息。然而在医疗场景中，受限于没有医学相关背景，普通患者往往很难精准描述病情，漏说、误说在实际问诊中十分常见。这种信息表达的误差，在医生面诊时可以通过“望闻问切”逐步矫正，而用户使用的线上AI问诊多是隔着屏幕的输入输出，这种被动地文字接收会直接影响AI的输出质量，甚至降低AI答复的可靠性。

“数字医生”背后有何风险？

从健康咨询、智能问诊到辅助诊断，AI医疗的应用场景不断拓展，各类面向公众的AI医疗产品及服务不断涌现，比如一些平台就提供了医生AI分身的健康咨询服务。这类“数字医生”应用的背后有什么样的风险呢？

记者调查发现，除了问答式AI会根据患者描述，给出医学建议外，在不少App中，大量打着“某知名医生”或“某知名医生团队”的“数字AI医生”纷纷上线。它们直接顶着某某专家的姓名、头像，在软件中为用户提供健康咨询服务。但记者联系这些医生本人却发现，部分医生并不清楚自己在App上还有一个“数字分身”。

此外，这类 “专家数字分身” 的应用背后，权责模糊的风险同样值得警惕。

AI医疗驶入快车道

安全与责任不能缺位

去年，国家卫生健康委等部门印发《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》，围绕多个重点方向，推动人工智能技术加快落地。但医疗不同于一般的技术应用，每一个答案背后，都可能关系着患者的健康甚至生命。专家建议，我们不能只是让AI越来越聪明，更要让它的每一次应用都有依据、有边界、有保障。

据了解，人工智能在医疗领域的应用其实早有普及。早在十年前，内镜、CT等领域的辅助诊断就已经被引入医疗器械当中。今年，浙江大学医学院附属第一医院等医疗机构与人工智能企业合作，推出全球首个专家级通用医疗影像模型，相关研究成果发表在国际顶级学术期刊《科学》（《Science》）上。人工智能正在越来越多地在医疗领域为患者和医生提供便利，但不可否认的是，患者直接使用生成式大模型进行自我诊疗，仍然存在较大风险。

聊天与问诊之间应有明确的“红线”

从手机上的一次健康咨询，到医院里的辅助诊断，再到越来越多AI医疗产品走向实际应用，人工智能在医疗领域的应用潜力，正一步步转化为现实。但医学面对的是人的健康与生命，技术上的“能回答”，不代表临床上的“能诊疗”，更不意味着可以独立承担诊疗责任。哪些事情可以交给AI，哪些判断必须由医生作出，出了问题又该由谁负责？回答这些问题不仅关系到每一位患者的安全，也关系到人工智能医疗健康产业的良好发展。明确聊天与问诊之间的“红线”，让技术进步与安全保障同步，让创新有空间、应用有边界、责任有归属，人工智能的技术潜力才能转化为守护公众的健康福祉。

免责声明：以上数据来源于天眼查等平台，相关内容仅为传递更多信息之目的，不代表本网观点，亦不代表本网站赞同其观点或证实其内容的真实性。如有侵权请联系0531-85193563。

本文来源：央视新闻客户端