AI大模型可以代替醫(yī)生看?。楷F(xiàn)實(shí)離這一幕還比較遙遠(yuǎn)。

繼上海、深圳的多家公立醫(yī)院宣布接入通用大模型DeepSeek后，南京、鄭州等地醫(yī)院也通過官方微信公眾號(hào)發(fā)布推文稱接診了由Deepseek“導(dǎo)醫(yī)”而來的患者，Deepseek還同時(shí)提供了交通出行方式、注意事項(xiàng)等。

多位受訪臨床醫(yī)生表示，現(xiàn)階段，醫(yī)院內(nèi)的AI大模型最多只能用來進(jìn)行院內(nèi)導(dǎo)診、輔助診斷，還不能用來給出用藥建議、手術(shù)方案，更不能生成電子處方。

慎用AI大模型

日前，有社交媒體稱“病人在使用了DeepSeek后質(zhì)疑醫(yī)生的治療方案，醫(yī)生又查詢了一遍后發(fā)現(xiàn)指南已更新”，相關(guān)消息引發(fā)熱議。

“目前為止，我還沒有遇到這種情況，但之前有患者用網(wǎng)上查詢到的結(jié)果來讓我解釋和確認(rèn)，讓人有些哭笑不得。”湖北武漢一家二級(jí)醫(yī)院呼吸科臨床專家日前告訴第一財(cái)經(jīng)。

“診療和開具處方的過程中，患者并不會(huì)介意我使用一些學(xué)術(shù)APP軟件來查詢指南和共識(shí)，他們反而會(huì)覺得我更謹(jǐn)慎、更負(fù)責(zé)任。”山東青島一位三甲醫(yī)院普外科負(fù)責(zé)人告訴記者，現(xiàn)階段國(guó)內(nèi)已上市的藥品超過16萬(wàn)種，還不包括醫(yī)療器械，AI大模型可以提出建議，但是藥物聯(lián)用方案、副作用等還是需要醫(yī)生個(gè)人來作出專業(yè)判斷。

上述三甲醫(yī)院普外科負(fù)責(zé)人稱，通過線下面診，醫(yī)生可以針對(duì)患者的病癥和狀體進(jìn)行多次漸進(jìn)式、自主性的發(fā)問，在得到多次反饋結(jié)果并結(jié)合影像數(shù)據(jù)后，才能做出最終的診斷，“這一過程是AI無法替代的”。

該負(fù)責(zé)人表示，AI大模型能在哪種程度上賦能醫(yī)生診療，一方面取決于采集患者信息是否足夠準(zhǔn)確、全面，另一方面取決于AI大模型背后的方法是否有足夠的指南、路徑作為依據(jù)。

“因此，現(xiàn)階段，AI大模型可能僅適用于一些簡(jiǎn)單病種（如感冒）的輔助診斷，給到一些能力較弱的基層醫(yī)生或新晉醫(yī)生作為參考，對(duì)于罕見病等復(fù)雜程度較高的病種就不太合適。此外，一些中醫(yī)療法如脈診、針灸、推拿等也是AI大模型現(xiàn)階段無法實(shí)現(xiàn)的。”該負(fù)責(zé)人說。

“實(shí)際上，我們期望能快速地通過AI大模型來整合多維度的信息，并且為醫(yī)生提供或推薦更多前沿的、個(gè)性化的診療方案作為參考。”復(fù)旦中山醫(yī)院信智部規(guī)劃與管理中心主任錢琨則告訴記者，AI大模型可以幫助醫(yī)生或護(hù)理人員去開展一些慢病管理、日常保養(yǎng)等工作，“我們發(fā)現(xiàn)，AI大模型是一個(gè)能夠很好地提升交互過程人性化且能降本增效的工具，因此，諸如診后隨訪、患者教育等方面，使用AI大模型的場(chǎng)景是可期待的。”

錢琨進(jìn)一步表示，一些高危場(chǎng)景并不適合AI大模型的應(yīng)用，比如急診、術(shù)前規(guī)劃等。這些場(chǎng)景可能涉及醫(yī)生與患者或家屬的溝通，許多AI大模型背后的專業(yè)知識(shí)還沒有涉及這方面。另外，AI大模型會(huì)給到部分?？葡鄳?yīng)的用藥建議，但其中也會(huì)存在一些沖突，醫(yī)生應(yīng)該注意不要被AI大模型的答案誤導(dǎo)。

錢琨提醒，在輔助診斷方面，AI大模型可能有著80%以上的準(zhǔn)確性，但是任何人都不愿意成為AI大模型所生成的錯(cuò)誤答案的使用者，“基于生命至上的原則，我們需要在醫(yī)療環(huán)節(jié)非常謹(jǐn)慎地使用這些模型。”

“人機(jī)協(xié)作”是導(dǎo)向

日前，湖南省醫(yī)保局發(fā)布《關(guān)于進(jìn)一步加強(qiáng)基本醫(yī)療保障定點(diǎn)零售藥店管理的通知》，明確“嚴(yán)禁使用人工智能等自動(dòng)生成處方”。2022年由國(guó)家衛(wèi)生健康委和國(guó)家中醫(yī)藥局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細(xì)則（試行）》也提出，“處方應(yīng)由接診醫(yī)師本人開具，嚴(yán)禁使用人工智能等自動(dòng)生成處方”。

除了隱私安全等，AI大模型背后究竟還有哪些未知的風(fēng)險(xiǎn)？

錢琨告訴記者，第一，AI大模型背后的算法是從一個(gè)“黑盒子”中產(chǎn)生的，算法生成過程并非有很強(qiáng)的邏輯鏈，那么其推理結(jié)果就可能會(huì)存在“幻覺”，也就是說我們所信賴的推理結(jié)果具有一定的迷惑性?；颊呷绻弥鳤I大模型的推理結(jié)果去“挑戰(zhàn)”醫(yī)生，其實(shí)不太妥當(dāng)。

第二，從價(jià)值對(duì)齊角度來看，國(guó)際上一些前沿機(jī)構(gòu)都做過類似的分析，這意味著需要確保在AI大模型能夠具備與人類價(jià)值觀匹配的目標(biāo)，確保模型按照對(duì)人類和社會(huì)有益的方式行事，包括醫(yī)學(xué)、社會(huì)倫理、隱私保護(hù)等。

另有業(yè)內(nèi)人士告訴記者，AI大模型是醫(yī)生的“超強(qiáng)助手”，而非“替代者”。目前，AI大模型若要“替代”醫(yī)生，還存在技術(shù)瓶頸、數(shù)據(jù)隱私、法律倫理、臨床驗(yàn)證、醫(yī)患關(guān)系等多重障礙，預(yù)計(jì)至少還需要5至10年的迭代和完善。

上述業(yè)內(nèi)人士稱，現(xiàn)有的AI大模型主要依賴于模式識(shí)別（即在遇到問題時(shí)套用不同醫(yī)學(xué)指南的類別給出答案），而缺乏真正的因果推理和邏輯推理能力，難以完成復(fù)雜診療決策。AI大模型需要通過長(zhǎng)周期、大規(guī)模、多中心的臨床驗(yàn)證，證明其在復(fù)雜場(chǎng)景下的安全性和可靠性。

如何應(yīng)對(duì)AI大模型可能產(chǎn)生的結(jié)果錯(cuò)誤？該業(yè)內(nèi)人士表示，這需要高質(zhì)量數(shù)據(jù)訓(xùn)練、實(shí)時(shí)反饋與糾偏機(jī)制、透明化決策路徑、人機(jī)協(xié)作等多重保險(xiǎn)來支撐。比如，在訓(xùn)練和測(cè)試階段，加入對(duì)抗性樣本以提升模型對(duì)異常情況的應(yīng)對(duì)能力。再如，在涉及重大決策（如癌癥診斷、手術(shù)指征判斷）等場(chǎng)景中，設(shè)置AI與人類專家雙重審核機(jī)制。

“未來，AI大模型的發(fā)展方向或?qū)@輔助診斷+決策支持+人機(jī)協(xié)作來展開，以增強(qiáng)醫(yī)生的診療能力、提高醫(yī)療資源利用效率為目標(biāo)。同時(shí)，AI大模型需要經(jīng)過嚴(yán)格的臨床試驗(yàn)和長(zhǎng)期跟蹤驗(yàn)證，才能獲得監(jiān)管機(jī)構(gòu)的批準(zhǔn)。”上述業(yè)內(nèi)人士補(bǔ)充道。