生成式AI正在快速席卷醫(yī)療行業(yè)，針對(duì)AI醫(yī)療系統(tǒng)的炒作也在愈演愈烈。

很多醫(yī)生都對(duì)此表達(dá)了擔(dān)憂——在生成式AI大模型興起后，AI醫(yī)生的能力被夸大了，仿佛什么病都會(huì)看了；還有不少患者直接拿著DeepSeek的診斷結(jié)果來向醫(yī)生咨詢。

有臨床醫(yī)生表示，AI模型現(xiàn)在還存在不少幻覺，用于醫(yī)療診斷應(yīng)格外謹(jǐn)慎。

大模型能力真假難辨

近日，網(wǎng)上有消息稱，上海瑞金醫(yī)院使用某人工智能系統(tǒng)，成功挽救了一名25歲因誤診陷入多器官衰竭的程序員的生命。不過，據(jù)第一財(cái)經(jīng)記者從院方相關(guān)人士方面了解，這一案例并不屬實(shí)，瑞金醫(yī)院也沒有使用過該人工智能系統(tǒng)。

網(wǎng)上消息杜撰了瑞金醫(yī)院ICU的急救場(chǎng)景，稱主治醫(yī)生接診一“肺炎”疑難雜癥患者，在使用抗生素48小時(shí)后不見好轉(zhuǎn)，在束手無策之際，一個(gè)叫做“醫(yī)智星”的AI醫(yī)療系統(tǒng)通過分析全球700多例抗利尿激素異常分泌綜合征（SIADH）病例數(shù)據(jù)和患者的CT影像，僅用數(shù)秒便鎖定患者病因，并提供了成功率高達(dá)82%的治療方案。

對(duì)此，瑞金醫(yī)院方面向第一財(cái)經(jīng)記者表示，消息是假的，瑞金醫(yī)院也從來沒有使用過這個(gè)被稱為“醫(yī)智星”的AI醫(yī)療系統(tǒng)。

但也有醫(yī)院使用人工智能大模型救治患者成功的真實(shí)案例。上海市東方醫(yī)院就曾出現(xiàn)過一個(gè)病例，一名11歲男童因不明原因發(fā)熱、間歇性暈厥、嗜睡等癥狀在外地某著名三甲醫(yī)院兒科反復(fù)檢查，卻始終無法查明病因，直至一年后，他才被確診為患有一種十分罕見的自身免疫性疾病。而當(dāng)醫(yī)生將這名患兒的病例輸入AI大模型后，醫(yī)學(xué)大模型僅用幾分鐘便給出了專家耗費(fèi)一年才完成的診斷。

上海某大型三甲醫(yī)院重癥科主任向第一財(cái)經(jīng)記者解釋稱：“大模型的知識(shí)是相對(duì)全面的，而推理和結(jié)論在醫(yī)學(xué)方面的能力取決于輸入的信息。大模型只有輸入有效數(shù)據(jù)，才能輸出有效的信息；正確的輸入才有可能得到正確的輸出，越全面的輸入就可能產(chǎn)生更準(zhǔn)確的輸出。就診斷而言，所有與病人疾病發(fā)病相關(guān)的信息都是有效信息?！?/p>

在上述重癥醫(yī)學(xué)專家看來，目前要建醫(yī)學(xué)大模型并不難，因?yàn)橛辛撕芏嚅_源的模型基礎(chǔ)，難點(diǎn)是場(chǎng)景應(yīng)用中的局部數(shù)據(jù)治理。

去年，上海市東方醫(yī)院發(fā)布了一款由醫(yī)生團(tuán)隊(duì)主創(chuàng)、技術(shù)團(tuán)隊(duì)共同研發(fā)的AI醫(yī)學(xué)大模型“Med-Go”，引發(fā)業(yè)內(nèi)關(guān)注。據(jù)介紹，這款大模型“啃下”6000多本國內(nèi)外權(quán)威教材、成功通過國家執(zhí)業(yè)醫(yī)師資格考試，多次參加中文醫(yī)學(xué)信息挑戰(zhàn)賽連續(xù)獲得冠軍，并已接入東方醫(yī)院的HIS系統(tǒng)。

“Med-Go”發(fā)明人、東方醫(yī)院急診與重癥醫(yī)學(xué)科主任張海濤介紹，“Med-Go”如同一名醫(yī)學(xué)教授，具有強(qiáng)大的思考與分析能力，給予醫(yī)生輔助決策支持，是生成式AI對(duì)臨床診療極具價(jià)值的部分。

患者帶著DeepSeek報(bào)告就診

隨著人工智能公司DeepSeek大模型的普及，已有不少患者在就診前開始咨詢DeepSeek與疾病相關(guān)的咨詢，甚至拿著DeepSeek的“診斷報(bào)告”找醫(yī)生“對(duì)簿公堂”。

對(duì)此，一位心內(nèi)科醫(yī)生向第一財(cái)經(jīng)記者坦言：“DeepSeek大約90%的結(jié)論是正確的，這樣確實(shí)能夠減輕一部分醫(yī)生和患者的溝通成本。有時(shí)DeepSeek的信息更新甚至比醫(yī)生的知識(shí)更新更快，如果醫(yī)生不與時(shí)俱進(jìn)，確實(shí)面臨被AI淘汰的風(fēng)險(xiǎn)?！?/p>

不過，某醫(yī)學(xué)背景的醫(yī)療信息系統(tǒng)開發(fā)者對(duì)第一財(cái)經(jīng)記者表示：“目前市面上的醫(yī)療AI大模型可以取代一部分社區(qū)全科醫(yī)生的工作，為患者提供某些建議，但深入到大型三甲醫(yī)院的臨床診斷，恐怕還需要垂直醫(yī)療大模型的持續(xù)深入的研究和訓(xùn)練，核心是醫(yī)院的深度數(shù)據(jù)?！?/p>

上述人士還稱，雖然目前已有AI大模型在臨床上實(shí)現(xiàn)了個(gè)別精準(zhǔn)診斷的案例，但這些成功的個(gè)案尚無法推及更廣泛的患者群體，一般臨床上還是會(huì)看AI模型在長時(shí)間落地統(tǒng)計(jì)上是否取得顯著效果。

上海市第十人民醫(yī)院超聲醫(yī)學(xué)科副主任郭樂杭與團(tuán)隊(duì)正開展“超聲+AI”的臨床研究，主要面向全身多器官、多疾病，針對(duì)診斷、預(yù)測(cè)、教學(xué)、遠(yuǎn)程醫(yī)療等多重任務(wù)。

在他看來，“幻覺”是醫(yī)療AI普及的最大阻礙?！斑@可能導(dǎo)致錯(cuò)誤的診斷、治療建議或醫(yī)療決策，從而對(duì)患者的健康造成嚴(yán)重影響?！惫鶚泛急硎?。目前，已有企業(yè)正在著手解決AI幻覺產(chǎn)生的問題，業(yè)內(nèi)認(rèn)為這可能與強(qiáng)化學(xué)習(xí)的方式有關(guān)。

中國科學(xué)院院士陳潤生也曾提到，破除AI“幻覺”需跨越技術(shù)難題、倫理問題等諸多挑戰(zhàn)。從技術(shù)層面來說，AI的表現(xiàn)很大程度上依賴于訓(xùn)練數(shù)據(jù)的質(zhì)量和多樣性，如果訓(xùn)練數(shù)據(jù)存在偏差，模型可能會(huì)產(chǎn)生錯(cuò)誤的輸出。從倫理層面看，算法可能因?yàn)橛?xùn)練數(shù)據(jù)的不完善或設(shè)計(jì)者的主觀偏見而導(dǎo)致歧視性的決策結(jié)果。