近日，某知名醫(yī)生“拒絕把AI引入所在醫(yī)院電子病歷系統(tǒng)”的表述，引發(fā)熱議?！癆I+醫(yī)療”的應(yīng)用邊界在哪？如何解決“AI+醫(yī)療”的風(fēng)險與倫理之困？就這一話題，《經(jīng)濟參考報》記者對多位行業(yè)專家進行了采訪。專家認為，“AI+醫(yī)療”的核心是“用其長、防其短”，要明確AI的“輔助”定位，絕非替代醫(yī)療從業(yè)者，同時加快補齊監(jiān)管空白，搭建跨部門協(xié)同全鏈條動態(tài)監(jiān)管機制。
“AI+醫(yī)療”應(yīng)用邊界引關(guān)注
“拒絕把AI引入所在醫(yī)院電子病歷系統(tǒng)”，其核心是反對年輕醫(yī)生從實習(xí)階段就系統(tǒng)性依賴AI，擔(dān)憂年輕醫(yī)生的臨床思維訓(xùn)練受阻，甚至被AI結(jié)論誤導(dǎo)。
百川智能創(chuàng)始人、CEO王小川直言：“醫(yī)生和患者都認可患者利益優(yōu)先的原則。AI發(fā)展非常迅猛，一些場景下‘AI+醫(yī)生’已明顯優(yōu)于單一醫(yī)生，符合醫(yī)學(xué)科學(xué)規(guī)律。因為擔(dān)心阻礙‘醫(yī)生成長’而限制使用AI，可能就限制了最有利于病人的醫(yī)療措施。”
在王小川看來，如果AI能實質(zhì)性幫助到患者，就不應(yīng)該拒絕使用。換句話說，醫(yī)生的成長，不能以當(dāng)前患者為成本。至于對AI會導(dǎo)致年輕醫(yī)生能力退化的擔(dān)憂，解題的關(guān)鍵在于轉(zhuǎn)換使用思路：醫(yī)生不是在給AI糾錯，而是讓AI對醫(yī)生的臨床思維進行提醒，對診療結(jié)果進行校驗，從而降低漏診、誤診的風(fēng)險。這樣一來，患者受益的同時，醫(yī)生也成長了。
業(yè)界認為，此番行業(yè)討論的焦點集中于AI在醫(yī)療過程中的應(yīng)用邊界、人才培養(yǎng)、責(zé)任認定等核心問題上。
北京中醫(yī)藥大學(xué)衛(wèi)生健康法治研究與創(chuàng)新轉(zhuǎn)化中心主任鄧勇在接受《經(jīng)濟參考報》記者采訪時表示，爭論的核心是醫(yī)療行業(yè)“安全優(yōu)先”的本質(zhì)屬性與AI技術(shù)“快速迭代”的發(fā)展特性之間的適配矛盾——醫(yī)療直接關(guān)乎生命健康，容錯率低，而AI存在算法黑箱、數(shù)據(jù)偏差等不確定性，各方對風(fēng)險的容忍度不同。
鄧勇認為，爭議焦點主要集中在三個方面：一是價值導(dǎo)向問題，是優(yōu)先保障醫(yī)生能力培養(yǎng)，還是優(yōu)先保障患者診療獲益；二是角色定位問題，是將AI作為效率工具，還是需警惕其變相“主導(dǎo)”診療；三是風(fēng)險管控問題，是先放開應(yīng)用再完善規(guī)范，還是先建立規(guī)則再有序推廣。
“對于‘AI+醫(yī)療’該用還是該防的討論，其核心是‘用其長、防其短’，而非非此即彼?！笔锥坚t(yī)科大學(xué)附屬北京安貞醫(yī)院心臟超聲醫(yī)學(xué)中心主任何怡華說。
應(yīng)明確AI“輔助而非替代”定位
近年來，隨著技術(shù)的迭代，越來越多的AI產(chǎn)品落地醫(yī)院臨床場景，并從主流的醫(yī)學(xué)影像輔助診斷，延伸至智能預(yù)問診、隨訪管理、手術(shù)輔助、智能監(jiān)護、心理服務(wù)等多元環(huán)節(jié)，且產(chǎn)品合規(guī)化與臨床滲透率大幅提升。
根據(jù)中郵證券研報，截至2025年12月5日，累計已有207款人工智能醫(yī)療器械獲三類醫(yī)療器械注冊證。AI在生物制藥、輔助診斷、醫(yī)療服務(wù)等領(lǐng)域步入成熟階段。
圖為在2025年“AI賦能醫(yī)院高質(zhì)量發(fā)展論壇”上，工作人員在展示AI預(yù)問診功能。資料照片
2024年11月，國家衛(wèi)健委、國家中醫(yī)藥局、國家疾控局聯(lián)合印發(fā)的《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》，明確了4大領(lǐng)域13個細分板塊共84個“AI+醫(yī)療”應(yīng)用場景；2025年10月，國家衛(wèi)健委等五部門再發(fā)《關(guān)于促進和規(guī)范“人工智能+醫(yī)療衛(wèi)生”應(yīng)用發(fā)展的實施意見》，錨定8大重點方向推進落地。
“‘AI+醫(yī)療’是醫(yī)療技術(shù)數(shù)字化升級的必然趨勢，本質(zhì)是用人工智能技術(shù)優(yōu)化醫(yī)療服務(wù)流程、彌補醫(yī)療資源短板，絕非替代醫(yī)療從業(yè)者，而是醫(yī)療體系的重要補充。”鄧勇說。
何怡華也認為，臨床場景中，至少在目前的發(fā)展階段來看，AI“輔助工具”的核心邊界應(yīng)該是“建議權(quán)而非決策權(quán)”，即AI可提供數(shù)據(jù)支持、診斷參考、風(fēng)險預(yù)警，但最終的診療方案、治療決策必須由醫(yī)生結(jié)合患者具體病情、身體狀況、個人意愿等綜合判斷后作出。
“避免過度依賴的關(guān)鍵在于建立‘醫(yī)生主導(dǎo)、AI輔助’的使用機制”。何怡華表示，一方面，醫(yī)院需針對不同場景、不同類型的Al產(chǎn)品，制定差異化使用規(guī)范與操作流程，要求醫(yī)生對部分AI的輸出結(jié)果進行復(fù)核，將AI建議作為強有力助手而非不假思考的“直接采信”;另一方面，在人才培養(yǎng)中，要強化臨床思維和對疾病的認知推理能力培養(yǎng)，用好AI既可以獲得知識，也可以辯證思考專家經(jīng)驗，更關(guān)鍵的是助力醫(yī)生思辨能力的提升，讓技術(shù)成為夯實專業(yè)根基、錘煉核心素養(yǎng)的助力。
中國醫(yī)學(xué)科學(xué)院醫(yī)學(xué)信息研究所醫(yī)療衛(wèi)生法制研究室主任曹艷林建議，要避免醫(yī)生對AI的過度依賴，可以從制度約束、認知提升、技術(shù)倒逼、流程把控、考核監(jiān)督等多個維度構(gòu)建“醫(yī)生主動判斷、AI輔助參考”的臨床使用機制，讓醫(yī)生把AI當(dāng)作工具而非依賴，最終回歸以臨床思維為核心、患者個體需求為導(dǎo)向的醫(yī)療本質(zhì)。
“醫(yī)院應(yīng)制定AI使用規(guī)范，明確不能直接照搬AI的診斷、治療建議；建立AI使用的‘追責(zé)與溯源機制’；還應(yīng)加強AI產(chǎn)品設(shè)計的監(jiān)測與規(guī)范，要求臨床使用的AI產(chǎn)品不做定性判斷，只做客觀標(biāo)注和信息整合?！辈芷G林說。
“AI+醫(yī)療”風(fēng)險與倫理之困待解
中郵證券在研報中預(yù)測，“AI+醫(yī)療”行業(yè)人工智能解決方案的全球市場規(guī)模預(yù)計將由2022年的137億美元增至2030年的1553億美元，復(fù)合增長率為35.5%；到2030年，中國市場有望達到168.3億美元，行業(yè)存在爆發(fā)式增長機會。
但不容忽視的是，“AI+醫(yī)療”面臨的商業(yè)化進程、道德倫理、監(jiān)管風(fēng)險等一系列深層次挑戰(zhàn)仍然存在。
“AI醫(yī)療產(chǎn)品的核心風(fēng)險點，集中在數(shù)據(jù)、算法、安全三大維度，且彼此關(guān)聯(lián)、互相影響?！编囉抡f，作為最基礎(chǔ)的風(fēng)險點，患者隱私信息等相關(guān)數(shù)據(jù)不僅存在因采集不規(guī)范、存儲有漏洞、傳輸無加密而引發(fā)大規(guī)模泄露的隱患，還會陷入同質(zhì)化嚴重與缺乏小眾病數(shù)據(jù)的困境，直接局限了AI的診療邊界。
此外，鄧勇認為，算法相關(guān)風(fēng)險是核心所在，數(shù)據(jù)偏差衍生的診療偏見會對特定人群造成醫(yī)療不公，而算法決策邏輯不可解釋的“黑箱”問題，也讓醫(yī)生無法判斷其結(jié)論的合理性，難以開展有效校驗。
“性能穩(wěn)定性則是最關(guān)鍵的風(fēng)險點，AI診療能力高度依賴數(shù)據(jù)與算力，在復(fù)雜并發(fā)癥、罕見病等非標(biāo)準(zhǔn)化臨床場景中易出現(xiàn)性能波動，且若算法迭代后未充分驗證便上線，還會大幅提升誤診、漏診的醫(yī)療風(fēng)險?！编囉卵a充道。
在他看來，“AI+醫(yī)療”會引發(fā)新的醫(yī)學(xué)倫理挑戰(zhàn)?！笆紫龋鄶?shù)患者對AI診療邏輯不知情，醫(yī)生若未明確告知診療中AI的參與度，會侵犯患者知情權(quán)，且患者缺乏是否接受AI輔助診療的選擇權(quán)；其次，AI訓(xùn)練數(shù)據(jù)多源于優(yōu)質(zhì)醫(yī)療資源集中的地區(qū)，易對罕見病、小眾人群、基層患者產(chǎn)生算法偏見，導(dǎo)致診療服務(wù)的不公平分配?！编囉抡f。
此外，鄧勇認為，“優(yōu)質(zhì)AI醫(yī)療產(chǎn)品多集中于頭部機構(gòu)，可能加劇‘強者愈強’的醫(yī)療資源分化，進一步拉大基層與三甲醫(yī)院的服務(wù)差距；此外，過度依賴AI會弱化醫(yī)患面對面的溝通與人文關(guān)懷，讓醫(yī)療服務(wù)淪為‘?dāng)?shù)據(jù)+算法’的冰冷流程，背離醫(yī)療的人文本質(zhì)?！?/p>
“從醫(yī)學(xué)倫理角度來看，AI+醫(yī)療確實帶來了新挑戰(zhàn)：一是患者知情權(quán)問題；二是算法公平性，若訓(xùn)練數(shù)據(jù)存在偏差，可能導(dǎo)致AI對特定人群的診斷準(zhǔn)確率不足，需持續(xù)優(yōu)化數(shù)據(jù)多樣性；三是醫(yī)療資源的分配，若AI產(chǎn)品價格過高，可能加劇優(yōu)質(zhì)醫(yī)療資源的‘?dāng)?shù)字鴻溝’，需推動AI技術(shù)普惠化?！焙吴A認為，這些挑戰(zhàn)并非不可解決，而是需要通過技術(shù)優(yōu)化、制度規(guī)范逐步完善，不能因存在倫理問題就否定AI的價值。
完善全鏈條動態(tài)監(jiān)管
“當(dāng)前，我國的法律制度和監(jiān)管規(guī)則已確立醫(yī)療機構(gòu)和醫(yī)生是責(zé)任主體，AI是輔助工具，并明確了‘安全優(yōu)先’‘?dāng)?shù)據(jù)合規(guī)’的核心底線，能有效防范AI醫(yī)療的基礎(chǔ)風(fēng)險，但對AI醫(yī)療特有的算法‘黑箱’、持續(xù)迭代、責(zé)任鏈復(fù)雜等問題，缺乏精細化、動態(tài)化的管控機制?！辈芷G林說。
在何怡華看來，面對快速迭代的技術(shù)與復(fù)雜的臨床場景，監(jiān)管方面仍需強化幾個方面：一是產(chǎn)品上市前的測評和審核，目前多是針對單項Al技術(shù)產(chǎn)品的上市前審核，而對于醫(yī)療大模型的測評和監(jiān)管尚存在欠缺;二是動態(tài)監(jiān)管機制，AI算法在臨床應(yīng)用中會不斷迭代優(yōu)化，對上市后的算法更新、性能監(jiān)測需持續(xù)監(jiān)管;三是隱私保護的技術(shù)與制度銜接，醫(yī)療數(shù)據(jù)包含大量敏感信息，如何在保障Al訓(xùn)練數(shù)據(jù)需求的同時，杜絕隱私泄露，仍需更細化的操作規(guī)范。
“應(yīng)加快補齊監(jiān)管空白，盡快出臺AI醫(yī)療責(zé)任界定、算法審查、全流程監(jiān)測等專項規(guī)則；搭建跨部門協(xié)同監(jiān)管平臺，整合醫(yī)療、網(wǎng)信、工信等部門力量，實現(xiàn)從準(zhǔn)入到退出的全鏈條動態(tài)監(jiān)管；加強基層AI應(yīng)用監(jiān)管，出臺適配基層的AI產(chǎn)品標(biāo)準(zhǔn)，避免優(yōu)質(zhì)AI資源過度集中。”鄧勇說。
具體來看，鄧勇建議，首先，按AI醫(yī)療產(chǎn)品的風(fēng)險等級分類，對輔助影像篩查、報告錄入等低風(fēng)險產(chǎn)品，簡化審批流程、鼓勵試點應(yīng)用；對輔助診斷、治療方案建議等高風(fēng)險產(chǎn)品，嚴格準(zhǔn)入標(biāo)準(zhǔn)、強化全流程監(jiān)測。
其次，管住核心風(fēng)險點，一是建立算法備案與審查機制，要求企業(yè)披露算法基本邏輯與訓(xùn)練數(shù)據(jù)來源；二是明確責(zé)任劃分規(guī)則，厘清各方在診療中的責(zé)任邊界；三是搭建風(fēng)險預(yù)警平臺，實時監(jiān)測AI臨床應(yīng)用中的異常數(shù)據(jù)。
此外，建立監(jiān)管沙盒機制，對創(chuàng)新型AI醫(yī)療產(chǎn)品，劃定特定區(qū)域、特定場景進行試點，允許在可控范圍內(nèi)探索；同時根據(jù)技術(shù)發(fā)展、應(yīng)用反饋，及時優(yōu)化監(jiān)管規(guī)則，避免規(guī)則滯后于技術(shù)創(chuàng)新。
