生成式AI正在快速席卷醫(yī)療行業(yè)，針對AI醫(yī)療系統(tǒng)的炒作也在愈演愈烈。

很多醫(yī)生都對此表達了擔憂——在生成式AI大模型興起后，AI醫(yī)生的能力被夸大了，仿佛什么病都會看了；還有不少患者直接拿著DeepSeek的診斷結果來向醫(yī)生咨詢。

有臨床醫(yī)生表示，AI模型現(xiàn)在還存在不少幻覺，用于醫(yī)療診斷應格外謹慎。

大模型能力真假難辨

近日，網(wǎng)上有消息稱，上海瑞金醫(yī)院使用某人工智能系統(tǒng)，成功挽救了一名25歲因誤診陷入多器官衰竭的程序員的生命。不過，據(jù)第一財經(jīng)記者從院方相關人士方面了解，這一案例并不屬實，瑞金醫(yī)院也沒有使用過該人工智能系統(tǒng)。

網(wǎng)上消息杜撰了瑞金醫(yī)院ICU的急救場景，稱主治醫(yī)生接診一“肺炎”疑難雜癥患者，在使用抗生素48小時后不見好轉，在束手無策之際，一個叫做“醫(yī)智星”的AI醫(yī)療系統(tǒng)通過分析全球700多例抗利尿激素異常分泌綜合征（SIADH）病例數(shù)據(jù)和患者的CT影像，僅用數(shù)秒便鎖定患者病因，并提供了成功率高達82%的治療方案。

對此，瑞金醫(yī)院方面向第一財經(jīng)記者表示，消息是假的，瑞金醫(yī)院也從來沒有使用過這個被稱為“醫(yī)智星”的AI醫(yī)療系統(tǒng)。

但也有醫(yī)院使用人工智能大模型救治患者成功的真實案例。上海市東方醫(yī)院就曾出現(xiàn)過一個病例，一名11歲男童因不明原因發(fā)熱、間歇性暈厥、嗜睡等癥狀在外地某著名三甲醫(yī)院兒科反復檢查，卻始終無法查明病因，直至一年后，他才被確診為患有一種十分罕見的自身免疫性疾病。而當醫(yī)生將這名患兒的病例輸入AI大模型后，醫(yī)學大模型僅用幾分鐘便給出了專家耗費一年才完成的診斷。

上海某大型三甲醫(yī)院重癥科主任向第一財經(jīng)記者解釋稱：“大模型的知識是相對全面的，而推理和結論在醫(yī)學方面的能力取決于輸入的信息。大模型只有輸入有效數(shù)據(jù)，才能輸出有效的信息；正確的輸入才有可能得到正確的輸出，越全面的輸入就可能產(chǎn)生更準確的輸出。就診斷而言，所有與病人疾病發(fā)病相關的信息都是有效信息。”

在上述重癥醫(yī)學專家看來，目前要建醫(yī)學大模型并不難，因為有了很多開源的模型基礎，難點是場景應用中的局部數(shù)據(jù)治理。

去年，上海市東方醫(yī)院發(fā)布了一款由醫(yī)生團隊主創(chuàng)、技術團隊共同研發(fā)的AI醫(yī)學大模型“Med-Go”，引發(fā)業(yè)內關注。據(jù)介紹，這款大模型“啃下”6000多本國內外權威教材、成功通過國家執(zhí)業(yè)醫(yī)師資格考試，多次參加中文醫(yī)學信息挑戰(zhàn)賽連續(xù)獲得冠軍，并已接入東方醫(yī)院的HIS系統(tǒng)。

“Med-Go”發(fā)明人、東方醫(yī)院急診與重癥醫(yī)學科主任張海濤介紹，“Med-Go”如同一名醫(yī)學教授，具有強大的思考與分析能力，給予醫(yī)生輔助決策支持，是生成式AI對臨床診療極具價值的部分。

患者帶著DeepSeek報告就診

隨著人工智能公司DeepSeek大模型的普及，已有不少患者在就診前開始咨詢DeepSeek與疾病相關的咨詢，甚至拿著DeepSeek的“診斷報告”找醫(yī)生“對簿公堂”。

對此，一位心內科醫(yī)生向第一財經(jīng)記者坦言：“DeepSeek大約90%的結論是正確的，這樣確實能夠減輕一部分醫(yī)生和患者的溝通成本。有時DeepSeek的信息更新甚至比醫(yī)生的知識更新更快，如果醫(yī)生不與時俱進，確實面臨被AI淘汰的風險?！?/p>

不過，某醫(yī)學背景的醫(yī)療信息系統(tǒng)開發(fā)者對第一財經(jīng)記者表示：“目前市面上的醫(yī)療AI大模型可以取代一部分社區(qū)全科醫(yī)生的工作，為患者提供某些建議，但深入到大型三甲醫(yī)院的臨床診斷，恐怕還需要垂直醫(yī)療大模型的持續(xù)深入的研究和訓練，核心是醫(yī)院的深度數(shù)據(jù)。”

上述人士還稱，雖然目前已有AI大模型在臨床上實現(xiàn)了個別精準診斷的案例，但這些成功的個案尚無法推及更廣泛的患者群體，一般臨床上還是會看AI模型在長時間落地統(tǒng)計上是否取得顯著效果。

上海市第十人民醫(yī)院超聲醫(yī)學科副主任郭樂杭與團隊正開展“超聲+AI”的臨床研究，主要面向全身多器官、多疾病，針對診斷、預測、教學、遠程醫(yī)療等多重任務。

在他看來，“幻覺”是醫(yī)療AI普及的最大阻礙?！斑@可能導致錯誤的診斷、治療建議或醫(yī)療決策，從而對患者的健康造成嚴重影響?！惫鶚泛急硎?。目前，已有企業(yè)正在著手解決AI幻覺產(chǎn)生的問題，業(yè)內認為這可能與強化學習的方式有關。

中國科學院院士陳潤生也曾提到，破除AI“幻覺”需跨越技術難題、倫理問題等諸多挑戰(zhàn)。從技術層面來說，AI的表現(xiàn)很大程度上依賴于訓練數(shù)據(jù)的質量和多樣性，如果訓練數(shù)據(jù)存在偏差，模型可能會產(chǎn)生錯誤的輸出。從倫理層面看，算法可能因為訓練數(shù)據(jù)的不完善或設計者的主觀偏見而導致歧視性的決策結果。