界面新聞記者 | 張倩楠
界面新聞編輯 | 劉海川
今年以來，中國多家醫(yī)院正加速推進DeepSeek大模型本地化部署，掀起AI驅動診療變革新風暴。
據(jù)不完全統(tǒng)計，截至目前，國內(nèi)已有超百家三級醫(yī)院官宣完成DeepSeek本地化部署，涉及北京、上海、廣東、江蘇、浙江等20余個省份，包括北京大學第一醫(yī)院、清華長庚醫(yī)院、上海第六人民醫(yī)院、鄭州大學第一附屬醫(yī)院、深圳大學附屬華南醫(yī)院、北京中醫(yī)藥大學深圳醫(yī)院、湖南省人民醫(yī)院等。
作為一項基于深度學習和大數(shù)據(jù)分析的智能技術，DeepSeek可用于臨床、科研、醫(yī)院運營管理等數(shù)十種醫(yī)療場景。
其中沖擊感最強的莫過于在臨床上的使用。首都醫(yī)科大學三博腦科醫(yī)院神經(jīng)外科主任張宏偉就公開分享了他的“震驚”。他在門診遇到一位超復雜腦瘤患者，患者已經(jīng)過兩次開顱手術、一次經(jīng)鼻手術、一次放療、一次伽馬刀治療，腫瘤仍未被控制。張宏偉把患者情況發(fā)給DeepSeek，僅18秒后，它就給出了一份明確的方案，張宏偉能想到的、文獻上報道的都有，而且包括最新的臨床實驗?！皩τ谀X腫瘤這類比較復雜的問題，DeepSeek的水平至少相當于省級三甲醫(yī)院專家?！?張宏偉說。
輔助醫(yī)療決策也是醫(yī)院部署DeepSeek的主要目標之一。以陸軍軍醫(yī)大學新橋醫(yī)院推出的“新橋 DeepSeek”智能體為例，面對復雜的醫(yī)學問題，在大模型的加持下，智能體可迅速、精準地提供專業(yè)解答；在病例輔助分析方面，可為醫(yī)生的診療決策提供可靠的參考依據(jù)。此外，在DeepSeek與醫(yī)院OA系統(tǒng)深度融合之后，湖南省人民醫(yī)院也提出，未來，AI將深度參與臨床決策支持、病歷質(zhì)控、影像分析等場景。
“我們必須承認，在醫(yī)療場景下，人工智能發(fā)揮的作用以及其自身潛力越來越大，于此同時，人工智能介入醫(yī)療背后的高風險也必須納入考量?！?對外經(jīng)濟貿(mào)易大學法學院教授、數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任張欣告訴界面新聞。
能否對數(shù)據(jù)“守口如瓶”？
事實上，這并不是AI醫(yī)生首次登場。早在2019年1月，國家衛(wèi)生健康委統(tǒng)計信息中心面向全國開展人工智能技術應用落地案例征集活動。3個月內(nèi)，通過網(wǎng)上填報共收集案例245例，經(jīng)篩選進入評選環(huán)節(jié)的案例190例，涉及137所醫(yī)療衛(wèi)生機構和科研院所。
2024年國家衛(wèi)生健康委、國家中醫(yī)藥局、國家疾控局公布《衛(wèi)生健康行業(yè)人工智能應用場景參考指引》，包括臨床專病智能輔助決策、手術智能輔助規(guī)劃等84個應用場景。2024年12月13日，工信部和國家衛(wèi)健委聯(lián)合公示了51個高端醫(yī)療裝備推廣應用項目，其中就包括人工智能輔助診療。
在基層應用方面，醫(yī)學人工智能輔助診斷技術也在持續(xù)布局。據(jù)國家衛(wèi)生健康委基層司司長傅衛(wèi)介紹，截至2023年底，27個試點縣的基層機構通過輔助診療系統(tǒng)已經(jīng)提供診斷建議2600余萬次。
與此前開發(fā)應用的醫(yī)療大模型相比，DeepSeek顯得更為平易近人，普通民眾也可以通過詢問DeepSeek得到的答案。而這樣的“開源”，讓長期進行醫(yī)療行業(yè)觀察的病毒學家常榮山產(chǎn)生擔憂，DeepSeek接入醫(yī)院系統(tǒng)，能否保證患者信息不被泄露？
“由于醫(yī)療數(shù)據(jù)通常包含極其敏感的信息，比如患者的基因數(shù)據(jù)和病史記錄，這些信息一旦泄露，可能會對個人隱私造成嚴重威脅。如果系統(tǒng)的架構設計存在缺陷，或者數(shù)據(jù)在傳輸過程中沒有得到適當?shù)募用鼙Ｗo，那么這些寶貴的數(shù)據(jù)就可能成為網(wǎng)絡攻擊者的攻擊目標，從而被非法獲取和濫用?！?中國政法大學教授、京都律師事務所兼職律師鄭飛告訴界面新聞。
“開源代碼的不可控性是一個不容忽視的問題?！?鄭飛介紹，由于開源項目允許來自全球各地的開發(fā)者參與代碼的編寫和修改，這雖然促進了技術的快速發(fā)展和創(chuàng)新，但同時也帶來了潛在的安全風險。社區(qū)中的代碼修改可能無意中引入了后門程序或者安全漏洞，這些漏洞可能會被惡意行為者利用，從而增加了數(shù)據(jù)泄露和系統(tǒng)被攻擊的風險。因此，在將開源AI系統(tǒng)應用于醫(yī)療領域時，必須對這些風險進行仔細評估，并采取相應的安全措施來確保系統(tǒng)的安全性和數(shù)據(jù)的保密性。
使用DeepSeek主要有三種方式：直接訪問應用、調(diào)用云服務接口、本地化部署定制開發(fā)。為了保證安全性與專業(yè)化，目前醫(yī)院使用DeepSeek的方式是本地化部署定制開發(fā)。長庚醫(yī)院醫(yī)學數(shù)據(jù)科學中心主任李棟接受經(jīng)濟觀察網(wǎng)采訪時介紹，一方面，醫(yī)院數(shù)據(jù)不能離院；另一方面，要保證病人得到更專業(yè)的咨詢，需要用醫(yī)院專業(yè)的真實醫(yī)療數(shù)據(jù)去訓練，同時保證數(shù)據(jù)不外泄。
然而，如何在數(shù)據(jù)使用的同時保護患者的個人隱私，是一個長期存在的問題。作為率先完成DeepSeek本地化部署的醫(yī)院，深圳大學附屬華南醫(yī)院院長吳松在其文章中介紹，傳統(tǒng)的匿名化方法雖然能夠降低數(shù)據(jù)泄露的風險，但往往會導致數(shù)據(jù)的部分喪失，因此需要開發(fā)更加精細化的脫敏算法，在保證隱私保護的同時最大限度地保留數(shù)據(jù)的有效性。
此外，吳松表示，隨著數(shù)據(jù)量的持續(xù)增加，如何在保證數(shù)據(jù)安全的前提下實現(xiàn)大規(guī)模數(shù)據(jù)的存儲、傳輸和處理，也是當前醫(yī)療大模型本地化部署面臨的一項重要挑戰(zhàn)。分布式存儲、邊緣計算等技術的應用可能為這一問題提供解決方案，但如何平衡數(shù)據(jù)處理效率與安全性，依然需要進一步研究和探索。
一旦發(fā)生個人信息泄露或不當處理的情況，鄭飛介紹，根據(jù)《中華人民共和國民法典》以及《中華人民共和國個人信息保護法》等規(guī)則，作為數(shù)據(jù)控制者，如果醫(yī)療機構未能履行其應盡的安全管理義務，通常需要承擔主要責任。此外，在特定情況下，責任的劃分可能會牽涉到包括開發(fā)者與供應商、第三方開源貢獻者、數(shù)據(jù)處理人員、網(wǎng)絡服務提供商在內(nèi)的多個相關方。
AI醫(yī)生必須服從人類醫(yī)療倫理框架
“AI必須服從人類醫(yī)療倫理框架，關鍵是強調(diào)人類控制最后的按鈕原則，明確要求守住醫(yī)生終審權、患者知情權、技術可溯性三大底線。” 上海交通大學數(shù)據(jù)法律研究中心執(zhí)行主任，上海交通大學法學院副教授何淵告訴界面新聞。
事實上，醫(yī)生終審原則早已明確。早在2009年，原衛(wèi)生部印發(fā)的《人工智能輔助診斷技術管理規(guī)范（試行）》就明確，人工智能輔助診斷技術為輔助診斷和臨床決策支持系統(tǒng)，不能作為臨床最終診斷，僅作為臨床輔助診斷和參考，最終診斷必須由有資質(zhì)的臨床醫(yī)師確定。
國家衛(wèi)健委、國家中醫(yī)藥局2022年發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細則（試行）》也遵循了這一原則，規(guī)定“醫(yī)師接診前需進行實名認證，確保由本人提供診療服務。其他人員、人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務”，此外“處方應由接診醫(yī)師本人開具，嚴禁使用人工智能等自動生成處方”。地方政策層面，北京、湖南等多地也對人工智能輔助診療劃下了“紅線”，嚴禁使用人工智能等自動生成處方。
在人類控制最后按鈕的前提下，如何在醫(yī)生與AI之間建立起和諧互動關系將成為關鍵問題。常榮山告訴界面新聞，斯坦福大學、哈佛醫(yī)學院等機構的研究人員2024年10月發(fā)表的一項研究顯示，AI作為強大的診斷輔助工具卻并沒有提高醫(yī)生的表現(xiàn)，人與AI的結合實際上起到了“1+1=1”的效果。“AI的確很強大，但如果醫(yī)生們并不能熟練掌握，其作用仍然有限。關鍵是如何通過完善教育培訓制度、標準化工作程序、監(jiān)管框架設計等，突破人對AI的信任危機，從而提高效率?！?常榮山說。
“除了要確?！恕诨芈飞?，確保患者知情權也非常重要。如果在患者不知情的情況下使用了包括醫(yī)療輔助在內(nèi)的人工智能系統(tǒng)，不符合醫(yī)療倫理。從透明度治理的角度來講，也需要去讓患者進行充分的知情、同意和告知，還有相應的授權?！?張欣說。
然而，鄭飛指出，相較于傳統(tǒng)醫(yī)療行為中的知情同意，AI所包含的數(shù)據(jù)集交互和算法的復雜性問題，決定了人們難以就其個人數(shù)據(jù)的使用作出全面和可預測的決定，這使得與其相關的知情同意問題變得極為復雜。
“在當前的監(jiān)管環(huán)境中，存在一些灰色地帶?！?鄭飛介紹，一方面，技術的快速發(fā)展和迭代速度遠遠超過了相關法規(guī)的更新速度。特別是人工智能算法，由于其具備自主性和動態(tài)學習的能力，使得這些技術難以完全適應傳統(tǒng)醫(yī)療器械所遵循的靜態(tài)標準。另一方面，分類標準的模糊性也是一個不容忽視的問題。例如，在醫(yī)療文本處理領域中，生成式人工智能的應用是否應該被歸類為“診斷輔助”工具，目前還沒有一個明確的界定。這種不確定性給監(jiān)管機構帶來了挑戰(zhàn)，同時也為相關技術的發(fā)展和應用帶來了潛在的風險。
AI參與診療，醫(yī)療損害責任如何厘清？
根據(jù)《中華人民共和國民法典》第1218條的規(guī)定，患者在診療活動中受到損害，醫(yī)療機構或者其醫(yī)務人員有過錯的，由醫(yī)療機構承擔賠償責任。我國現(xiàn)階段的人工智能輔助醫(yī)療的侵權案件，在司法實踐中采用的仍是傳統(tǒng)意義上的以過錯責任原則為中心的醫(yī)療損害責任認定方式。
“這意味著在發(fā)生醫(yī)療糾紛時，患者或其家屬需要證明醫(yī)療機構或醫(yī)務人員存在過錯，例如未能合理地審核人工智能（AI）系統(tǒng)提供的診斷建議，或者在操作過程中出現(xiàn)了失誤。而如果使用AI輔助診斷系統(tǒng)導致了誤診的情況發(fā)生，醫(yī)療機構必須證明他們已經(jīng)采取了審慎的態(tài)度和措施來使用這項技術，比如對AI系統(tǒng)的建議進行了充分的審查和驗證?！?鄭飛說。
“當涉及到AI自主決策時，會遇到歸責的困境?！编嶏w介紹，由于深度學習模型具有所謂的“黑箱”特性，即其決策過程不透明，這使得當出現(xiàn)錯誤或問題時，很難追溯到具體的錯誤原因。這種不透明性導致了醫(yī)療機構和AI系統(tǒng)的開發(fā)者之間經(jīng)常發(fā)生互相推諉責任的情況。從義務的角度看，這不僅會影響醫(yī)務人員向患者履行告知義務，也會影響醫(yī)務人員履行再判斷義務。
此外，責任的劃分還涉及到多方責任的交織問題，由于明確和統(tǒng)一的分擔標準，使得責任的劃分變得復雜和模糊。鄭飛舉例說，如果數(shù)據(jù)泄露事件是由于開源代碼中存在漏洞以及醫(yī)院在管理上的疏忽共同造成的，那么責任的分擔就需要根據(jù)各方的過錯比例來進行，但對于這個比例，尚無明確標準。
另一種情況，如果人工智能輔助醫(yī)療工具被明確界定為醫(yī)療器械，那么在責任認定方面，就必須綜合考慮《產(chǎn)品質(zhì)量法》以及《醫(yī)療器械監(jiān)督管理條例》等相關法規(guī)。
“人工智能輔助醫(yī)療工具是否被正式歸類為醫(yī)療器械，這主要取決于它所具備的具體功能以及它被應用在哪些場景中?！编嶏w介紹，如果DeepSeek僅僅被用作提供決策支持的工具，它可能不會被明確地劃歸為醫(yī)療器械的范疇之內(nèi)；然而，如果DeepSeek在實際應用中直接參與了診斷過程，或者在治療過程中起到了關鍵作用（例如在手術導航、影像分析等方面），特別是對醫(yī)療器械數(shù)據(jù)進行分析，那么它就可能需要按照醫(yī)療器械的相關規(guī)定進行審批和監(jiān)管。
鄭飛介紹，關于產(chǎn)品缺陷的無過錯責任問題，根據(jù)《產(chǎn)品責任法》第41條，因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財產(chǎn)損害的，生產(chǎn)者應當承擔賠償責任。生產(chǎn)者有義務對由于設計上的缺陷或者制造過程中的瑕疵所引起的損害承擔無過錯責任。這意味著，即使生產(chǎn)者在制造過程中沒有過錯，也必須對由此產(chǎn)生的損害進行賠償。
此外，根據(jù)《民法典》第1203條，因產(chǎn)品存在缺陷造成損害的，被侵權人可以向產(chǎn)品的生產(chǎn)者請求賠償，也可以向產(chǎn)品的銷售者請求賠償。如果醫(yī)療機構未能履行其合理使用義務，例如未能定期進行設備維護，那么在發(fā)生損害時，醫(yī)療機構可能需要根據(jù)其過錯程度承擔補充賠償責任。
“就目前而言，考慮到人工智能輔助醫(yī)療的輔助定位，意味著其背后的人機關系始終由醫(yī)務人員主導。換言之，現(xiàn)有醫(yī)患關系結構不會改變，醫(yī)療機構仍然是承擔損害賠償責任的主體，醫(yī)務人員則繼續(xù)代表醫(yī)療機構具體對患者負擔注意義務?！?鄭飛說。