分享到微信打開微信,點擊底部的“發(fā)現(xiàn)”, |
生成式AI正在快速席卷醫(yī)療行業(yè),針對AI醫(yī)療系統(tǒng)的炒作也在愈演愈烈。
很多醫(yī)生都對此表達了擔憂——在生成式AI大模型興起后,AI醫(yī)生的能力被夸大了,仿佛什么病都會看了;還有不少患者直接拿著DeepSeek的診斷結果來向醫(yī)生咨詢。
有臨床醫(yī)生表示,AI模型現(xiàn)在還存在不少幻覺,用于醫(yī)療診斷應格外謹慎。
大模型能力真假難辨
近日,網(wǎng)上有消息稱,上海瑞金醫(yī)院使用某人工智能系統(tǒng),成功挽救了一名25歲因誤診陷入多器官衰竭的程序員的生命。不過,據(jù)第一財經(jīng)記者從院方相關人士方面了解,這一案例并不屬實,瑞金醫(yī)院也沒有使用過該人工智能系統(tǒng)。
網(wǎng)上消息杜撰了瑞金醫(yī)院ICU的急救場景,稱主治醫(yī)生接診一“肺炎”疑難雜癥患者,在使用抗生素48小時后不見好轉,在束手無策之際,一個叫做“醫(yī)智星”的AI醫(yī)療系統(tǒng)通過分析全球700多例抗利尿激素異常分泌綜合征(SIADH)病例數(shù)據(jù)和患者的CT影像,僅用數(shù)秒便鎖定患者病因,并提供了成功率高達82%的治療方案。
對此,瑞金醫(yī)院方面向第一財經(jīng)記者表示,消息是假的,瑞金醫(yī)院也從來沒有使用過這個被稱為“醫(yī)智星”的AI醫(yī)療系統(tǒng)。
但也有醫(yī)院使用人工智能大模型救治患者成功的真實案例。上海市東方醫(yī)院就曾出現(xiàn)過一個病例,一名11歲男童因不明原因發(fā)熱、間歇性暈厥、嗜睡等癥狀在外地某著名三甲醫(yī)院兒科反復檢查,卻始終無法查明病因,直至一年后,他才被確診為患有一種十分罕見的自身免疫性疾病。而當醫(yī)生將這名患兒的病例輸入AI大模型后,醫(yī)學大模型僅用幾分鐘便給出了專家耗費一年才完成的診斷。
上海某大型三甲醫(yī)院重癥科主任向第一財經(jīng)記者解釋稱:“大模型的知識是相對全面的,而推理和結論在醫(yī)學方面的能力取決于輸入的信息。大模型只有輸入有效數(shù)據(jù),才能輸出有效的信息;正確的輸入才有可能得到正確的輸出,越全面的輸入就可能產(chǎn)生更準確的輸出。就診斷而言,所有與病人疾病發(fā)病相關的信息都是有效信息。”
在上述重癥醫(yī)學專家看來,目前要建醫(yī)學大模型并不難,因為有了很多開源的模型基礎,難點是場景應用中的局部數(shù)據(jù)治理。
去年,上海市東方醫(yī)院發(fā)布了一款由醫(yī)生團隊主創(chuàng)、技術團隊共同研發(fā)的AI醫(yī)學大模型“Med-Go”,引發(fā)業(yè)內關注。據(jù)介紹,這款大模型“啃下”6000多本國內外權威教材、成功通過國家執(zhí)業(yè)醫(yī)師資格考試,多次參加中文醫(yī)學信息挑戰(zhàn)賽連續(xù)獲得冠軍,并已接入東方醫(yī)院的HIS系統(tǒng)。
“Med-Go”發(fā)明人、東方醫(yī)院急診與重癥醫(yī)學科主任張海濤介紹,“Med-Go”如同一名醫(yī)學教授,具有強大的思考與分析能力,給予醫(yī)生輔助決策支持,是生成式AI對臨床診療極具價值的部分。
患者帶著DeepSeek報告就診
隨著人工智能公司DeepSeek大模型的普及,已有不少患者在就診前開始咨詢DeepSeek與疾病相關的咨詢,甚至拿著DeepSeek的“診斷報告”找醫(yī)生“對簿公堂”。
對此,一位心內科醫(yī)生向第一財經(jīng)記者坦言:“DeepSeek大約90%的結論是正確的,這樣確實能夠減輕一部分醫(yī)生和患者的溝通成本。有時DeepSeek的信息更新甚至比醫(yī)生的知識更新更快,如果醫(yī)生不與時俱進,確實面臨被AI淘汰的風險?!?/p>
不過,某醫(yī)學背景的醫(yī)療信息系統(tǒng)開發(fā)者對第一財經(jīng)記者表示:“目前市面上的醫(yī)療AI大模型可以取代一部分社區(qū)全科醫(yī)生的工作,為患者提供某些建議,但深入到大型三甲醫(yī)院的臨床診斷,恐怕還需要垂直醫(yī)療大模型的持續(xù)深入的研究和訓練,核心是醫(yī)院的深度數(shù)據(jù)。”
上述人士還稱,雖然目前已有AI大模型在臨床上實現(xiàn)了個別精準診斷的案例,但這些成功的個案尚無法推及更廣泛的患者群體,一般臨床上還是會看AI模型在長時間落地統(tǒng)計上是否取得顯著效果。
上海市第十人民醫(yī)院超聲醫(yī)學科副主任郭樂杭與團隊正開展“超聲+AI”的臨床研究,主要面向全身多器官、多疾病,針對診斷、預測、教學、遠程醫(yī)療等多重任務。
在他看來,“幻覺”是醫(yī)療AI普及的最大阻礙?!斑@可能導致錯誤的診斷、治療建議或醫(yī)療決策,從而對患者的健康造成嚴重影響?!惫鶚泛急硎?。目前,已有企業(yè)正在著手解決AI幻覺產(chǎn)生的問題,業(yè)內認為這可能與強化學習的方式有關。
中國科學院院士陳潤生也曾提到,破除AI“幻覺”需跨越技術難題、倫理問題等諸多挑戰(zhàn)。從技術層面來說,AI的表現(xiàn)很大程度上依賴于訓練數(shù)據(jù)的質量和多樣性,如果訓練數(shù)據(jù)存在偏差,模型可能會產(chǎn)生錯誤的輸出。從倫理層面看,算法可能因為訓練數(shù)據(jù)的不完善或設計者的主觀偏見而導致歧視性的決策結果。
在這場沒有宏大敘事的變革里,每個參與者都在盡可能觸摸AI應用新的形狀。
安徽省率先在全國省級層面完成DeepSeek滿血版(671B)本地化部署,推出無差別綜窗、公文寫作、語音轉文字等16個典型應用,并在全省試用推廣。
DeepSeek最高日賺346萬元?官方稱理論收益并非實際;清華大學2025年將適度擴招本科生,重點培養(yǎng)“AI+”拔尖創(chuàng)新人才。
DeepSeek首次公布模型推理系統(tǒng)優(yōu)化細節(jié),披露理論利潤率達545%;騰訊元寶上線電腦客戶端版本;OpenAI擬將Sora整合進ChatGPT。
DeepSeek宛如一把鑰匙,開啟保險行業(yè)智能化變革的大門。