
“醫(yī)療AI人機(jī)對(duì)齊問題不僅是一項(xiàng)技術(shù)挑戰(zhàn),更是一項(xiàng)關(guān)于‘AI如何服務(wù)人類’的價(jià)值思考。”4月19日,第十四屆全國(guó)政協(xié)委員、工業(yè)和信息化部原副部長(zhǎng)王江平在中國(guó)醫(yī)學(xué)發(fā)展大會(huì)開幕式上表示,醫(yī)療健康A(chǔ)I應(yīng)用必須通過全面體系化的滲透策略——讓對(duì)齊法則深入技術(shù)架構(gòu)、數(shù)據(jù)集建設(shè)、醫(yī)院管理、患者知情、行業(yè)監(jiān)管等環(huán)節(jié),才能確保AI始終服務(wù)人類,實(shí)現(xiàn)從“高效工具”到“可信伙伴”的跨越。
人機(jī)對(duì)齊正在成為治理AI倫理問題的基本法則
近年來(lái),AI技術(shù)如潮水般涌進(jìn)各個(gè)領(lǐng)域,在帶來(lái)效率革命的同時(shí),也暴露出隱私泄露、歧視偏見、算法濫用等倫理挑戰(zhàn)。我國(guó)高度重視該問題,提出《全球人工智能治理倡議》,出臺(tái)《科技倫理審查辦法(試行)》等一系列政策法規(guī),進(jìn)入體系化治理推進(jìn)階段。
王江平表示,從技術(shù)層面看,人機(jī)對(duì)齊正在成為治理AI倫理問題的基本法則。在醫(yī)療領(lǐng)域,人機(jī)對(duì)齊可從三個(gè)維度發(fā)揮作用,促進(jìn)AI倫理治理。一是可解釋性。清晰展現(xiàn)AI的決策邏輯,讓醫(yī)患理解“黑箱”背后的依據(jù)。歐盟《人工智能法案》明確要求高風(fēng)險(xiǎn)AI系統(tǒng)(醫(yī)療AI屬此類別)必須提供“技術(shù)文件”和“透明度信息”,將可解釋性從技術(shù)選項(xiàng)升級(jí)為合規(guī)標(biāo)準(zhǔn)。二是信任性。只有當(dāng)AI的建議符合醫(yī)學(xué)倫理,人類才能對(duì)其建立深度信任,才敢對(duì)其托付生命健康。醫(yī)療行業(yè)的特殊性對(duì)模型魯棒性提出了極高要求。三是人類和諧性。AI在應(yīng)用過程中可能偏離人類的真實(shí)需求,如醫(yī)療AI為“最大化患者生存率”可能忽視治療痛苦,情感陪伴機(jī)器人可能導(dǎo)致用戶過度依賴、人際疏離等。人機(jī)對(duì)齊要求在算法設(shè)計(jì)中加入人性考量、目標(biāo)校準(zhǔn),確保技術(shù)真正服務(wù)于人類福祉,而非單一指標(biāo)的“冰冷計(jì)算”。
王江平指出,有人擔(dān)心人機(jī)對(duì)齊會(huì)束縛技術(shù)創(chuàng)新,其實(shí)恰恰相反——它是創(chuàng)新的催化劑。當(dāng)前,人機(jī)對(duì)齊技術(shù)日益廣泛地應(yīng)用于模型訓(xùn)練,如基于人工反饋的強(qiáng)化學(xué)習(xí)(RLHF)、檢索增強(qiáng)生成(RAG)技術(shù)等已經(jīng)被大多數(shù)主流模型采用?;贏I反饋的強(qiáng)化學(xué)習(xí)方法(RLAIF)可有效解決人類專家標(biāo)注耗時(shí)長(zhǎng)、難以規(guī)?;葐栴},OpenAI提出的弱到強(qiáng)泛化方法、阿里通義實(shí)驗(yàn)室提出的基于辯論驅(qū)動(dòng)的弱監(jiān)督對(duì)齊方法等,為解決未來(lái)的“超級(jí)對(duì)齊”問題提供了一種可能性。王江平表示:“人機(jī)對(duì)齊的前沿研究正從單一技術(shù)向多維度技術(shù)融合快速發(fā)展,既推動(dòng)了AI倫理與安全治理,也極大促進(jìn)了AI模型能力提升?!?/p>
醫(yī)療領(lǐng)域是AI應(yīng)用的“高壓地帶”
在王江平看來(lái),醫(yī)療領(lǐng)域是AI應(yīng)用的“高壓地帶”,這源于其三大特殊性。一是數(shù)據(jù)敏感性。醫(yī)療數(shù)據(jù)包含生理指標(biāo)、病史、診療記錄等敏感信息,直接關(guān)聯(lián)個(gè)人生命權(quán)和隱私權(quán)。二是結(jié)果不可逆性。生成式AI的“幻覺”問題在醫(yī)療場(chǎng)景中可能導(dǎo)致嚴(yán)重問題。王江平坦言:“我們必須清醒認(rèn)識(shí)到,一次錯(cuò)誤診斷可能直接危及生命,醫(yī)療AI應(yīng)用必須追求‘零失誤’。”三是責(zé)任主體復(fù)雜性。對(duì)于AI參與醫(yī)療決策導(dǎo)致?lián)p害問題,需以“權(quán)責(zé)清單”等形式清晰界定責(zé)任,避免出現(xiàn)“技術(shù)出錯(cuò)、操作失誤、患者買單”的困局。
醫(yī)療健康A(chǔ)I應(yīng)用必須實(shí)行全面體系化的滲透策略
如何讓人機(jī)對(duì)齊貫穿醫(yī)療AI的“研發(fā)—應(yīng)用—監(jiān)管”全周期全鏈條?王江平提出一條路徑——從技術(shù)架構(gòu)、數(shù)據(jù)集建設(shè)、醫(yī)院管理、患者知情、行業(yè)監(jiān)管五大環(huán)節(jié)協(xié)同發(fā)力。
在技術(shù)架構(gòu)環(huán)節(jié),要從源頭上注入倫理基因、實(shí)現(xiàn)價(jià)值觀驅(qū)動(dòng)。模型預(yù)訓(xùn)練階段引入“醫(yī)學(xué)倫理知識(shí)圖譜”,讓模型優(yōu)先學(xué)習(xí)循證醫(yī)學(xué)指南、臨床診療規(guī)范等,確保模型“學(xué)的是正確的知識(shí)”。模型微調(diào)階段通過人工反饋強(qiáng)化學(xué)習(xí)讓模型適應(yīng)具體場(chǎng)景倫理偏好,在給出方案時(shí)綜合評(píng)估患者年齡、病情、經(jīng)濟(jì)狀況等因素,避免“一刀切”決策。
在數(shù)據(jù)集建設(shè)環(huán)節(jié),要充分考量醫(yī)療數(shù)據(jù)格式不統(tǒng)一、多模態(tài)混雜、小樣本高維度數(shù)據(jù)并存、隱私問題突出等難題。運(yùn)用隱私計(jì)算技術(shù)實(shí)現(xiàn)數(shù)據(jù)“可用不可見”,通過術(shù)語(yǔ)標(biāo)準(zhǔn)化打破數(shù)據(jù)孤島,利用小樣本增強(qiáng)技術(shù)解決標(biāo)注數(shù)據(jù)不足問題。設(shè)立“數(shù)據(jù)過濾器”,自動(dòng)屏蔽包含歧視、錯(cuò)誤倫理導(dǎo)向的數(shù)據(jù)源。建設(shè)醫(yī)療可信數(shù)據(jù)空間,推動(dòng)統(tǒng)一數(shù)據(jù)規(guī)則和技術(shù)標(biāo)準(zhǔn),促進(jìn)合規(guī)共享。
在醫(yī)院管理環(huán)節(jié),在診斷、手術(shù)等高風(fēng)險(xiǎn)場(chǎng)景應(yīng)實(shí)施“雙保險(xiǎn)機(jī)制”,AI手術(shù)建議需醫(yī)生實(shí)時(shí)復(fù)核并留存記錄。在健康咨詢、用藥提醒等中低風(fēng)險(xiǎn)場(chǎng)景可允許AI自主決策,嵌入動(dòng)態(tài)監(jiān)控日志,記錄交互細(xì)節(jié)供事后審計(jì)。開發(fā)可視化工具包,讓醫(yī)生快速理解模型邏輯。設(shè)立“人機(jī)協(xié)作績(jī)效指標(biāo)”,將AI使用規(guī)范納入醫(yī)生考核體系,避免“盲目信任”或“過度抵觸”。
在患者知情環(huán)節(jié),要向患者提供“可理解的AI決策報(bào)告”,用通俗語(yǔ)言解釋推薦藥物、治療方案的理由。保障患者的否決權(quán),建立“患者一票否決通道”,當(dāng)患者對(duì)AI建議提出質(zhì)疑時(shí)強(qiáng)制切換至人工服務(wù)。
在模型測(cè)評(píng)與行業(yè)監(jiān)管環(huán)節(jié),建立國(guó)家統(tǒng)一的醫(yī)療AI對(duì)齊認(rèn)證標(biāo)準(zhǔn)體系,由第三方機(jī)構(gòu)開展測(cè)評(píng),通過者頒發(fā)“倫理合規(guī)標(biāo)簽”,作為市場(chǎng)準(zhǔn)入前提。常態(tài)化開展“紅藍(lán)對(duì)抗演練”等對(duì)抗性測(cè)試,模擬罕見病誤診、數(shù)據(jù)投毒等極端場(chǎng)景,測(cè)試模型魯棒性。設(shè)立多學(xué)科倫理委員會(huì),由臨床醫(yī)生、AI工程師、倫理學(xué)家、患者代表共同參與,定期評(píng)估模型對(duì)齊度,避免“技術(shù)單邊主義”。編制《醫(yī)療AI對(duì)齊白皮書》,為開發(fā)者、醫(yī)療機(jī)構(gòu)提供操作指南。
王江平表示:“要通過這五大環(huán)節(jié)的協(xié)同發(fā)力、綜合施策,確保醫(yī)療AI筑牢倫理合規(guī)防線?!?/p>
數(shù)據(jù)飛輪是醫(yī)療健康模型技術(shù)迭代的必要手段和對(duì)齊策略
“數(shù)據(jù)飛輪”是用戶對(duì)AI輸出進(jìn)行標(biāo)注、反饋,從而實(shí)現(xiàn)模型持續(xù)優(yōu)化的閉環(huán)機(jī)制。在AI領(lǐng)域數(shù)據(jù)飛輪不僅是技術(shù)迭代的引擎,更是人機(jī)對(duì)齊的重要實(shí)現(xiàn)路徑。王江平表示:“醫(yī)療AI有必要引入數(shù)據(jù)飛輪機(jī)制,通過‘模型輸出評(píng)估—數(shù)據(jù)收集—應(yīng)用反饋—模型優(yōu)化’的閉環(huán),使醫(yī)療AI模型得以持續(xù)貼近真實(shí)醫(yī)療需求?!?/p>
醫(yī)療AI的“數(shù)據(jù)飛輪”應(yīng)建立準(zhǔn)入和激勵(lì)機(jī)制。準(zhǔn)入機(jī)制目的是確保數(shù)據(jù)“干凈合規(guī)”,醫(yī)療數(shù)據(jù)貢獻(xiàn)者(醫(yī)院、醫(yī)生)需通過倫理審查和資質(zhì)認(rèn)證,避免噪聲數(shù)據(jù)污染模型價(jià)值觀。激勵(lì)機(jī)制目的是讓數(shù)據(jù)共享“雙向受益”。醫(yī)院通過數(shù)據(jù)共享可以獲得AI模型優(yōu)先使用權(quán)或定制化服務(wù),醫(yī)生標(biāo)注高質(zhì)量數(shù)據(jù)可積累學(xué)術(shù)積分、助力職稱晉升,從而激發(fā)醫(yī)院和醫(yī)生參與人機(jī)對(duì)齊的積極性。
王江平表示,應(yīng)在真實(shí)的醫(yī)療場(chǎng)景中持續(xù)收集高質(zhì)量數(shù)據(jù)反饋,不斷修正模型偏差,讓對(duì)齊能力在迭代中持續(xù)進(jìn)化,使對(duì)齊效果在實(shí)踐中不斷提升。當(dāng)醫(yī)療AI解決對(duì)齊問題,真正成為人類可以信賴的醫(yī)療助手,必將成為千行百業(yè)AI應(yīng)用的典范。
來(lái)源:中國(guó)電子報(bào) 盧夢(mèng)琪