界面新聞?dòng)浾?| 張倩楠
界面新聞編輯 | 劉海川
今年以來，中國多家醫(yī)院正加速推進(jìn)DeepSeek大模型本地化部署，掀起AI驅(qū)動(dòng)診療變革新風(fēng)暴。
據(jù)不完全統(tǒng)計(jì)，截至目前，國內(nèi)已有超百家三級醫(yī)院官宣完成DeepSeek本地化部署，涉及北京、上海、廣東、江蘇、浙江等20余個(gè)省份，包括北京大學(xué)第一醫(yī)院、清華長庚醫(yī)院、上海第六人民醫(yī)院、鄭州大學(xué)第一附屬醫(yī)院、深圳大學(xué)附屬華南醫(yī)院、北京中醫(yī)藥大學(xué)深圳醫(yī)院、湖南省人民醫(yī)院等。
作為一項(xiàng)基于深度學(xué)習(xí)和大數(shù)據(jù)分析的智能技術(shù)，DeepSeek可用于臨床、科研、醫(yī)院運(yùn)營管理等數(shù)十種醫(yī)療場景。
其中沖擊感最強(qiáng)的莫過于在臨床上的使用。首都醫(yī)科大學(xué)三博腦科醫(yī)院神經(jīng)外科主任張宏偉就公開分享了他的“震驚”。他在門診遇到一位超復(fù)雜腦瘤患者，患者已經(jīng)過兩次開顱手術(shù)、一次經(jīng)鼻手術(shù)、一次放療、一次伽馬刀治療，腫瘤仍未被控制。張宏偉把患者情況發(fā)給DeepSeek，僅18秒后，它就給出了一份明確的方案，張宏偉能想到的、文獻(xiàn)上報(bào)道的都有，而且包括最新的臨床實(shí)驗(yàn)?！皩τ谀X腫瘤這類比較復(fù)雜的問題，DeepSeek的水平至少相當(dāng)于省級三甲醫(yī)院專家?！?張宏偉說。
輔助醫(yī)療決策也是醫(yī)院部署DeepSeek的主要目標(biāo)之一。以陸軍軍醫(yī)大學(xué)新橋醫(yī)院推出的“新橋 DeepSeek”智能體為例，面對復(fù)雜的醫(yī)學(xué)問題，在大模型的加持下，智能體可迅速、精準(zhǔn)地提供專業(yè)解答；在病例輔助分析方面，可為醫(yī)生的診療決策提供可靠的參考依據(jù)。此外，在DeepSeek與醫(yī)院OA系統(tǒng)深度融合之后，湖南省人民醫(yī)院也提出，未來，AI將深度參與臨床決策支持、病歷質(zhì)控、影像分析等場景。
“我們必須承認(rèn)，在醫(yī)療場景下，人工智能發(fā)揮的作用以及其自身潛力越來越大，于此同時(shí)，人工智能介入醫(yī)療背后的高風(fēng)險(xiǎn)也必須納入考量?！?對外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣告訴界面新聞。
能否對數(shù)據(jù)“守口如瓶”？
事實(shí)上，這并不是AI醫(yī)生首次登場。早在2019年1月，國家衛(wèi)生健康委統(tǒng)計(jì)信息中心面向全國開展人工智能技術(shù)應(yīng)用落地案例征集活動(dòng)。3個(gè)月內(nèi)，通過網(wǎng)上填報(bào)共收集案例245例，經(jīng)篩選進(jìn)入評選環(huán)節(jié)的案例190例，涉及137所醫(yī)療衛(wèi)生機(jī)構(gòu)和科研院所。
2024年國家衛(wèi)生健康委、國家中醫(yī)藥局、國家疾控局公布《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》，包括臨床專病智能輔助決策、手術(shù)智能輔助規(guī)劃等84個(gè)應(yīng)用場景。2024年12月13日，工信部和國家衛(wèi)健委聯(lián)合公示了51個(gè)高端醫(yī)療裝備推廣應(yīng)用項(xiàng)目，其中就包括人工智能輔助診療。
在基層應(yīng)用方面，醫(yī)學(xué)人工智能輔助診斷技術(shù)也在持續(xù)布局。據(jù)國家衛(wèi)生健康委基層司司長傅衛(wèi)介紹，截至2023年底，27個(gè)試點(diǎn)縣的基層機(jī)構(gòu)通過輔助診療系統(tǒng)已經(jīng)提供診斷建議2600余萬次。
與此前開發(fā)應(yīng)用的醫(yī)療大模型相比，DeepSeek顯得更為平易近人，普通民眾也可以通過詢問DeepSeek得到的答案。而這樣的“開源”，讓長期進(jìn)行醫(yī)療行業(yè)觀察的病毒學(xué)家常榮山產(chǎn)生擔(dān)憂，DeepSeek接入醫(yī)院系統(tǒng)，能否保證患者信息不被泄露？
“由于醫(yī)療數(shù)據(jù)通常包含極其敏感的信息，比如患者的基因數(shù)據(jù)和病史記錄，這些信息一旦泄露，可能會(huì)對個(gè)人隱私造成嚴(yán)重威脅。如果系統(tǒng)的架構(gòu)設(shè)計(jì)存在缺陷，或者數(shù)據(jù)在傳輸過程中沒有得到適當(dāng)?shù)募用鼙Ｗo(hù)，那么這些寶貴的數(shù)據(jù)就可能成為網(wǎng)絡(luò)攻擊者的攻擊目標(biāo)，從而被非法獲取和濫用。” 中國政法大學(xué)教授、京都律師事務(wù)所兼職律師鄭飛告訴界面新聞。
“開源代碼的不可控性是一個(gè)不容忽視的問題?！?鄭飛介紹，由于開源項(xiàng)目允許來自全球各地的開發(fā)者參與代碼的編寫和修改，這雖然促進(jìn)了技術(shù)的快速發(fā)展和創(chuàng)新，但同時(shí)也帶來了潛在的安全風(fēng)險(xiǎn)。社區(qū)中的代碼修改可能無意中引入了后門程序或者安全漏洞，這些漏洞可能會(huì)被惡意行為者利用，從而增加了數(shù)據(jù)泄露和系統(tǒng)被攻擊的風(fēng)險(xiǎn)。因此，在將開源AI系統(tǒng)應(yīng)用于醫(yī)療領(lǐng)域時(shí)，必須對這些風(fēng)險(xiǎn)進(jìn)行仔細(xì)評估，并采取相應(yīng)的安全措施來確保系統(tǒng)的安全性和數(shù)據(jù)的保密性。
使用DeepSeek主要有三種方式：直接訪問應(yīng)用、調(diào)用云服務(wù)接口、本地化部署定制開發(fā)。為了保證安全性與專業(yè)化，目前醫(yī)院使用DeepSeek的方式是本地化部署定制開發(fā)。長庚醫(yī)院醫(yī)學(xué)數(shù)據(jù)科學(xué)中心主任李棟接受經(jīng)濟(jì)觀察網(wǎng)采訪時(shí)介紹，一方面，醫(yī)院數(shù)據(jù)不能離院；另一方面，要保證病人得到更專業(yè)的咨詢，需要用醫(yī)院專業(yè)的真實(shí)醫(yī)療數(shù)據(jù)去訓(xùn)練，同時(shí)保證數(shù)據(jù)不外泄。
然而，如何在數(shù)據(jù)使用的同時(shí)保護(hù)患者的個(gè)人隱私，是一個(gè)長期存在的問題。作為率先完成DeepSeek本地化部署的醫(yī)院，深圳大學(xué)附屬華南醫(yī)院院長吳松在其文章中介紹，傳統(tǒng)的匿名化方法雖然能夠降低數(shù)據(jù)泄露的風(fēng)險(xiǎn)，但往往會(huì)導(dǎo)致數(shù)據(jù)的部分喪失，因此需要開發(fā)更加精細(xì)化的脫敏算法，在保證隱私保護(hù)的同時(shí)最大限度地保留數(shù)據(jù)的有效性。
此外，吳松表示，隨著數(shù)據(jù)量的持續(xù)增加，如何在保證數(shù)據(jù)安全的前提下實(shí)現(xiàn)大規(guī)模數(shù)據(jù)的存儲(chǔ)、傳輸和處理，也是當(dāng)前醫(yī)療大模型本地化部署面臨的一項(xiàng)重要挑戰(zhàn)。分布式存儲(chǔ)、邊緣計(jì)算等技術(shù)的應(yīng)用可能為這一問題提供解決方案，但如何平衡數(shù)據(jù)處理效率與安全性，依然需要進(jìn)一步研究和探索。
一旦發(fā)生個(gè)人信息泄露或不當(dāng)處理的情況，鄭飛介紹，根據(jù)《中華人民共和國民法典》以及《中華人民共和國個(gè)人信息保護(hù)法》等規(guī)則，作為數(shù)據(jù)控制者，如果醫(yī)療機(jī)構(gòu)未能履行其應(yīng)盡的安全管理義務(wù)，通常需要承擔(dān)主要責(zé)任。此外，在特定情況下，責(zé)任的劃分可能會(huì)牽涉到包括開發(fā)者與供應(yīng)商、第三方開源貢獻(xiàn)者、數(shù)據(jù)處理人員、網(wǎng)絡(luò)服務(wù)提供商在內(nèi)的多個(gè)相關(guān)方。
AI醫(yī)生必須服從人類醫(yī)療倫理框架
“AI必須服從人類醫(yī)療倫理框架，關(guān)鍵是強(qiáng)調(diào)人類控制最后的按鈕原則，明確要求守住醫(yī)生終審權(quán)、患者知情權(quán)、技術(shù)可溯性三大底線?！?上海交通大學(xué)數(shù)據(jù)法律研究中心執(zhí)行主任，上海交通大學(xué)法學(xué)院副教授何淵告訴界面新聞。
事實(shí)上，醫(yī)生終審原則早已明確。早在2009年，原衛(wèi)生部印發(fā)的《人工智能輔助診斷技術(shù)管理規(guī)范（試行）》就明確，人工智能輔助診斷技術(shù)為輔助診斷和臨床決策支持系統(tǒng)，不能作為臨床最終診斷，僅作為臨床輔助診斷和參考，最終診斷必須由有資質(zhì)的臨床醫(yī)師確定。
國家衛(wèi)健委、國家中醫(yī)藥局2022年發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細(xì)則（試行）》也遵循了這一原則，規(guī)定“醫(yī)師接診前需進(jìn)行實(shí)名認(rèn)證，確保由本人提供診療服務(wù)。其他人員、人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務(wù)”，此外“處方應(yīng)由接診醫(yī)師本人開具，嚴(yán)禁使用人工智能等自動(dòng)生成處方”。地方政策層面，北京、湖南等多地也對人工智能輔助診療劃下了“紅線”，嚴(yán)禁使用人工智能等自動(dòng)生成處方。
在人類控制最后按鈕的前提下，如何在醫(yī)生與AI之間建立起和諧互動(dòng)關(guān)系將成為關(guān)鍵問題。常榮山告訴界面新聞，斯坦福大學(xué)、哈佛醫(yī)學(xué)院等機(jī)構(gòu)的研究人員2024年10月發(fā)表的一項(xiàng)研究顯示，AI作為強(qiáng)大的診斷輔助工具卻并沒有提高醫(yī)生的表現(xiàn)，人與AI的結(jié)合實(shí)際上起到了“1+1=1”的效果?！癆I的確很強(qiáng)大，但如果醫(yī)生們并不能熟練掌握，其作用仍然有限。關(guān)鍵是如何通過完善教育培訓(xùn)制度、標(biāo)準(zhǔn)化工作程序、監(jiān)管框架設(shè)計(jì)等，突破人對AI的信任危機(jī)，從而提高效率。” 常榮山說。
“除了要確保‘人’在回路上，確保患者知情權(quán)也非常重要。如果在患者不知情的情況下使用了包括醫(yī)療輔助在內(nèi)的人工智能系統(tǒng)，不符合醫(yī)療倫理。從透明度治理的角度來講，也需要去讓患者進(jìn)行充分的知情、同意和告知，還有相應(yīng)的授權(quán)?！?張欣說。
然而，鄭飛指出，相較于傳統(tǒng)醫(yī)療行為中的知情同意，AI所包含的數(shù)據(jù)集交互和算法的復(fù)雜性問題，決定了人們難以就其個(gè)人數(shù)據(jù)的使用作出全面和可預(yù)測的決定，這使得與其相關(guān)的知情同意問題變得極為復(fù)雜。
“在當(dāng)前的監(jiān)管環(huán)境中，存在一些灰色地帶?！?鄭飛介紹，一方面，技術(shù)的快速發(fā)展和迭代速度遠(yuǎn)遠(yuǎn)超過了相關(guān)法規(guī)的更新速度。特別是人工智能算法，由于其具備自主性和動(dòng)態(tài)學(xué)習(xí)的能力，使得這些技術(shù)難以完全適應(yīng)傳統(tǒng)醫(yī)療器械所遵循的靜態(tài)標(biāo)準(zhǔn)。另一方面，分類標(biāo)準(zhǔn)的模糊性也是一個(gè)不容忽視的問題。例如，在醫(yī)療文本處理領(lǐng)域中，生成式人工智能的應(yīng)用是否應(yīng)該被歸類為“診斷輔助”工具，目前還沒有一個(gè)明確的界定。這種不確定性給監(jiān)管機(jī)構(gòu)帶來了挑戰(zhàn)，同時(shí)也為相關(guān)技術(shù)的發(fā)展和應(yīng)用帶來了潛在的風(fēng)險(xiǎn)。
AI參與診療，醫(yī)療損害責(zé)任如何厘清？
根據(jù)《中華人民共和國民法典》第1218條的規(guī)定，患者在診療活動(dòng)中受到損害，醫(yī)療機(jī)構(gòu)或者其醫(yī)務(wù)人員有過錯(cuò)的，由醫(yī)療機(jī)構(gòu)承擔(dān)賠償責(zé)任。我國現(xiàn)階段的人工智能輔助醫(yī)療的侵權(quán)案件，在司法實(shí)踐中采用的仍是傳統(tǒng)意義上的以過錯(cuò)責(zé)任原則為中心的醫(yī)療損害責(zé)任認(rèn)定方式。
“這意味著在發(fā)生醫(yī)療糾紛時(shí)，患者或其家屬需要證明醫(yī)療機(jī)構(gòu)或醫(yī)務(wù)人員存在過錯(cuò)，例如未能合理地審核人工智能（AI）系統(tǒng)提供的診斷建議，或者在操作過程中出現(xiàn)了失誤。而如果使用AI輔助診斷系統(tǒng)導(dǎo)致了誤診的情況發(fā)生，醫(yī)療機(jī)構(gòu)必須證明他們已經(jīng)采取了審慎的態(tài)度和措施來使用這項(xiàng)技術(shù)，比如對AI系統(tǒng)的建議進(jìn)行了充分的審查和驗(yàn)證?！?鄭飛說。
“當(dāng)涉及到AI自主決策時(shí)，會(huì)遇到歸責(zé)的困境?！编嶏w介紹，由于深度學(xué)習(xí)模型具有所謂的“黑箱”特性，即其決策過程不透明，這使得當(dāng)出現(xiàn)錯(cuò)誤或問題時(shí)，很難追溯到具體的錯(cuò)誤原因。這種不透明性導(dǎo)致了醫(yī)療機(jī)構(gòu)和AI系統(tǒng)的開發(fā)者之間經(jīng)常發(fā)生互相推諉責(zé)任的情況。從義務(wù)的角度看，這不僅會(huì)影響醫(yī)務(wù)人員向患者履行告知義務(wù)，也會(huì)影響醫(yī)務(wù)人員履行再判斷義務(wù)。
此外，責(zé)任的劃分還涉及到多方責(zé)任的交織問題，由于明確和統(tǒng)一的分擔(dān)標(biāo)準(zhǔn)，使得責(zé)任的劃分變得復(fù)雜和模糊。鄭飛舉例說，如果數(shù)據(jù)泄露事件是由于開源代碼中存在漏洞以及醫(yī)院在管理上的疏忽共同造成的，那么責(zé)任的分擔(dān)就需要根據(jù)各方的過錯(cuò)比例來進(jìn)行，但對于這個(gè)比例，尚無明確標(biāo)準(zhǔn)。
另一種情況，如果人工智能輔助醫(yī)療工具被明確界定為醫(yī)療器械，那么在責(zé)任認(rèn)定方面，就必須綜合考慮《產(chǎn)品質(zhì)量法》以及《醫(yī)療器械監(jiān)督管理?xiàng)l例》等相關(guān)法規(guī)。
“人工智能輔助醫(yī)療工具是否被正式歸類為醫(yī)療器械，這主要取決于它所具備的具體功能以及它被應(yīng)用在哪些場景中?！编嶏w介紹，如果DeepSeek僅僅被用作提供決策支持的工具，它可能不會(huì)被明確地劃歸為醫(yī)療器械的范疇之內(nèi)；然而，如果DeepSeek在實(shí)際應(yīng)用中直接參與了診斷過程，或者在治療過程中起到了關(guān)鍵作用（例如在手術(shù)導(dǎo)航、影像分析等方面），特別是對醫(yī)療器械數(shù)據(jù)進(jìn)行分析，那么它就可能需要按照醫(yī)療器械的相關(guān)規(guī)定進(jìn)行審批和監(jiān)管。
鄭飛介紹，關(guān)于產(chǎn)品缺陷的無過錯(cuò)責(zé)任問題，根據(jù)《產(chǎn)品責(zé)任法》第41條，因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財(cái)產(chǎn)損害的，生產(chǎn)者應(yīng)當(dāng)承擔(dān)賠償責(zé)任。生產(chǎn)者有義務(wù)對由于設(shè)計(jì)上的缺陷或者制造過程中的瑕疵所引起的損害承擔(dān)無過錯(cuò)責(zé)任。這意味著，即使生產(chǎn)者在制造過程中沒有過錯(cuò)，也必須對由此產(chǎn)生的損害進(jìn)行賠償。
此外，根據(jù)《民法典》第1203條，因產(chǎn)品存在缺陷造成損害的，被侵權(quán)人可以向產(chǎn)品的生產(chǎn)者請求賠償，也可以向產(chǎn)品的銷售者請求賠償。如果醫(yī)療機(jī)構(gòu)未能履行其合理使用義務(wù)，例如未能定期進(jìn)行設(shè)備維護(hù)，那么在發(fā)生損害時(shí)，醫(yī)療機(jī)構(gòu)可能需要根據(jù)其過錯(cuò)程度承擔(dān)補(bǔ)充賠償責(zé)任。
“就目前而言，考慮到人工智能輔助醫(yī)療的輔助定位，意味著其背后的人機(jī)關(guān)系始終由醫(yī)務(wù)人員主導(dǎo)。換言之，現(xiàn)有醫(yī)患關(guān)系結(jié)構(gòu)不會(huì)改變，醫(yī)療機(jī)構(gòu)仍然是承擔(dān)損害賠償責(zé)任的主體，醫(yī)務(wù)人員則繼續(xù)代表醫(yī)療機(jī)構(gòu)具體對患者負(fù)擔(dān)注意義務(wù)?！?鄭飛說。