“醫(yī)療AI人機(jī)對(duì)齊問題不僅是一項(xiàng)技術(shù)挑戰(zhàn)，更是一項(xiàng)關(guān)于‘AI如何服務(wù)人類’的價(jià)值思考。”4月19日，第十四屆全國(guó)政協(xié)委員、工業(yè)和信息化部原副部長(zhǎng)王江平在中國(guó)醫(yī)學(xué)發(fā)展大會(huì)開幕式上表示，醫(yī)療健康A(chǔ)I應(yīng)用必須通過全面體系化的滲透策略——讓對(duì)齊法則深入技術(shù)架構(gòu)、數(shù)據(jù)集建設(shè)、醫(yī)院管理、患者知情、行業(yè)監(jiān)管等環(huán)節(jié)，才能確保AI始終服務(wù)人類，實(shí)現(xiàn)從“高效工具”到“可信伙伴”的跨越。
人機(jī)對(duì)齊正在成為治理AI倫理問題的基本法則
近年來(lái)，AI技術(shù)如潮水般涌進(jìn)各個(gè)領(lǐng)域，在帶來(lái)效率革命的同時(shí)，也暴露出隱私泄露、歧視偏見、算法濫用等倫理挑戰(zhàn)。我國(guó)高度重視該問題，提出《全球人工智能治理倡議》，出臺(tái)《科技倫理審查辦法（試行）》等一系列政策法規(guī)，進(jìn)入體系化治理推進(jìn)階段。
王江平表示，從技術(shù)層面看，人機(jī)對(duì)齊正在成為治理AI倫理問題的基本法則。在醫(yī)療領(lǐng)域，人機(jī)對(duì)齊可從三個(gè)維度發(fā)揮作用，促進(jìn)AI倫理治理。一是可解釋性。清晰展現(xiàn)AI的決策邏輯，讓醫(yī)患理解“黑箱”背后的依據(jù)。歐盟《人工智能法案》明確要求高風(fēng)險(xiǎn)AI系統(tǒng)（醫(yī)療AI屬此類別）必須提供“技術(shù)文件”和“透明度信息”，將可解釋性從技術(shù)選項(xiàng)升級(jí)為合規(guī)標(biāo)準(zhǔn)。二是信任性。只有當(dāng)AI的建議符合醫(yī)學(xué)倫理，人類才能對(duì)其建立深度信任，才敢對(duì)其托付生命健康。醫(yī)療行業(yè)的特殊性對(duì)模型魯棒性提出了極高要求。三是人類和諧性。AI在應(yīng)用過程中可能偏離人類的真實(shí)需求，如醫(yī)療AI為“最大化患者生存率”可能忽視治療痛苦，情感陪伴機(jī)器人可能導(dǎo)致用戶過度依賴、人際疏離等。人機(jī)對(duì)齊要求在算法設(shè)計(jì)中加入人性考量、目標(biāo)校準(zhǔn)，確保技術(shù)真正服務(wù)于人類福祉，而非單一指標(biāo)的“冰冷計(jì)算”。
王江平指出，有人擔(dān)心人機(jī)對(duì)齊會(huì)束縛技術(shù)創(chuàng)新，其實(shí)恰恰相反——它是創(chuàng)新的催化劑。當(dāng)前，人機(jī)對(duì)齊技術(shù)日益廣泛地應(yīng)用于模型訓(xùn)練，如基于人工反饋的強(qiáng)化學(xué)習(xí)（RLHF）、檢索增強(qiáng)生成（RAG）技術(shù)等已經(jīng)被大多數(shù)主流模型采用?；贏I反饋的強(qiáng)化學(xué)習(xí)方法（RLAIF）可有效解決人類專家標(biāo)注耗時(shí)長(zhǎng)、難以規(guī)?；葐栴}，OpenAI提出的弱到強(qiáng)泛化方法、阿里通義實(shí)驗(yàn)室提出的基于辯論驅(qū)動(dòng)的弱監(jiān)督對(duì)齊方法等，為解決未來(lái)的“超級(jí)對(duì)齊”問題提供了一種可能性。王江平表示：“人機(jī)對(duì)齊的前沿研究正從單一技術(shù)向多維度技術(shù)融合快速發(fā)展，既推動(dòng)了AI倫理與安全治理，也極大促進(jìn)了AI模型能力提升?！?/p>
醫(yī)療領(lǐng)域是AI應(yīng)用的“高壓地帶”
在王江平看來(lái)，醫(yī)療領(lǐng)域是AI應(yīng)用的“高壓地帶”，這源于其三大特殊性。一是數(shù)據(jù)敏感性。醫(yī)療數(shù)據(jù)包含生理指標(biāo)、病史、診療記錄等敏感信息，直接關(guān)聯(lián)個(gè)人生命權(quán)和隱私權(quán)。二是結(jié)果不可逆性。生成式AI的“幻覺”問題在醫(yī)療場(chǎng)景中可能導(dǎo)致嚴(yán)重問題。王江平坦言：“我們必須清醒認(rèn)識(shí)到，一次錯(cuò)誤診斷可能直接危及生命，醫(yī)療AI應(yīng)用必須追求‘零失誤’。”三是責(zé)任主體復(fù)雜性。對(duì)于AI參與醫(yī)療決策導(dǎo)致?lián)p害問題，需以“權(quán)責(zé)清單”等形式清晰界定責(zé)任，避免出現(xiàn)“技術(shù)出錯(cuò)、操作失誤、患者買單”的困局。
醫(yī)療健康A(chǔ)I應(yīng)用必須實(shí)行全面體系化的滲透策略
如何讓人機(jī)對(duì)齊貫穿醫(yī)療AI的“研發(fā)—應(yīng)用—監(jiān)管”全周期全鏈條？王江平提出一條路徑——從技術(shù)架構(gòu)、數(shù)據(jù)集建設(shè)、醫(yī)院管理、患者知情、行業(yè)監(jiān)管五大環(huán)節(jié)協(xié)同發(fā)力。
在技術(shù)架構(gòu)環(huán)節(jié)，要從源頭上注入倫理基因、實(shí)現(xiàn)價(jià)值觀驅(qū)動(dòng)。模型預(yù)訓(xùn)練階段引入“醫(yī)學(xué)倫理知識(shí)圖譜”，讓模型優(yōu)先學(xué)習(xí)循證醫(yī)學(xué)指南、臨床診療規(guī)范等，確保模型“學(xué)的是正確的知識(shí)”。模型微調(diào)階段通過人工反饋強(qiáng)化學(xué)習(xí)讓模型適應(yīng)具體場(chǎng)景倫理偏好，在給出方案時(shí)綜合評(píng)估患者年齡、病情、經(jīng)濟(jì)狀況等因素，避免“一刀切”決策。
在數(shù)據(jù)集建設(shè)環(huán)節(jié)，要充分考量醫(yī)療數(shù)據(jù)格式不統(tǒng)一、多模態(tài)混雜、小樣本高維度數(shù)據(jù)并存、隱私問題突出等難題。運(yùn)用隱私計(jì)算技術(shù)實(shí)現(xiàn)數(shù)據(jù)“可用不可見”，通過術(shù)語(yǔ)標(biāo)準(zhǔn)化打破數(shù)據(jù)孤島，利用小樣本增強(qiáng)技術(shù)解決標(biāo)注數(shù)據(jù)不足問題。設(shè)立“數(shù)據(jù)過濾器”，自動(dòng)屏蔽包含歧視、錯(cuò)誤倫理導(dǎo)向的數(shù)據(jù)源。建設(shè)醫(yī)療可信數(shù)據(jù)空間，推動(dòng)統(tǒng)一數(shù)據(jù)規(guī)則和技術(shù)標(biāo)準(zhǔn)，促進(jìn)合規(guī)共享。
在醫(yī)院管理環(huán)節(jié)，在診斷、手術(shù)等高風(fēng)險(xiǎn)場(chǎng)景應(yīng)實(shí)施“雙保險(xiǎn)機(jī)制”，AI手術(shù)建議需醫(yī)生實(shí)時(shí)復(fù)核并留存記錄。在健康咨詢、用藥提醒等中低風(fēng)險(xiǎn)場(chǎng)景可允許AI自主決策，嵌入動(dòng)態(tài)監(jiān)控日志，記錄交互細(xì)節(jié)供事后審計(jì)。開發(fā)可視化工具包，讓醫(yī)生快速理解模型邏輯。設(shè)立“人機(jī)協(xié)作績(jī)效指標(biāo)”，將AI使用規(guī)范納入醫(yī)生考核體系，避免“盲目信任”或“過度抵觸”。
在患者知情環(huán)節(jié)，要向患者提供“可理解的AI決策報(bào)告”，用通俗語(yǔ)言解釋推薦藥物、治療方案的理由。保障患者的否決權(quán)，建立“患者一票否決通道”，當(dāng)患者對(duì)AI建議提出質(zhì)疑時(shí)強(qiáng)制切換至人工服務(wù)。
在模型測(cè)評(píng)與行業(yè)監(jiān)管環(huán)節(jié)，建立國(guó)家統(tǒng)一的醫(yī)療AI對(duì)齊認(rèn)證標(biāo)準(zhǔn)體系，由第三方機(jī)構(gòu)開展測(cè)評(píng)，通過者頒發(fā)“倫理合規(guī)標(biāo)簽”，作為市場(chǎng)準(zhǔn)入前提。常態(tài)化開展“紅藍(lán)對(duì)抗演練”等對(duì)抗性測(cè)試，模擬罕見病誤診、數(shù)據(jù)投毒等極端場(chǎng)景，測(cè)試模型魯棒性。設(shè)立多學(xué)科倫理委員會(huì)，由臨床醫(yī)生、AI工程師、倫理學(xué)家、患者代表共同參與，定期評(píng)估模型對(duì)齊度，避免“技術(shù)單邊主義”。編制《醫(yī)療AI對(duì)齊白皮書》，為開發(fā)者、醫(yī)療機(jī)構(gòu)提供操作指南。
王江平表示：“要通過這五大環(huán)節(jié)的協(xié)同發(fā)力、綜合施策，確保醫(yī)療AI筑牢倫理合規(guī)防線?！?/p>
數(shù)據(jù)飛輪是醫(yī)療健康模型技術(shù)迭代的必要手段和對(duì)齊策略
“數(shù)據(jù)飛輪”是用戶對(duì)AI輸出進(jìn)行標(biāo)注、反饋，從而實(shí)現(xiàn)模型持續(xù)優(yōu)化的閉環(huán)機(jī)制。在AI領(lǐng)域數(shù)據(jù)飛輪不僅是技術(shù)迭代的引擎，更是人機(jī)對(duì)齊的重要實(shí)現(xiàn)路徑。王江平表示：“醫(yī)療AI有必要引入數(shù)據(jù)飛輪機(jī)制，通過‘模型輸出評(píng)估—數(shù)據(jù)收集—應(yīng)用反饋—模型優(yōu)化’的閉環(huán)，使醫(yī)療AI模型得以持續(xù)貼近真實(shí)醫(yī)療需求?！?/p>
醫(yī)療AI的“數(shù)據(jù)飛輪”應(yīng)建立準(zhǔn)入和激勵(lì)機(jī)制。準(zhǔn)入機(jī)制目的是確保數(shù)據(jù)“干凈合規(guī)”，醫(yī)療數(shù)據(jù)貢獻(xiàn)者（醫(yī)院、醫(yī)生）需通過倫理審查和資質(zhì)認(rèn)證，避免噪聲數(shù)據(jù)污染模型價(jià)值觀。激勵(lì)機(jī)制目的是讓數(shù)據(jù)共享“雙向受益”。醫(yī)院通過數(shù)據(jù)共享可以獲得AI模型優(yōu)先使用權(quán)或定制化服務(wù)，醫(yī)生標(biāo)注高質(zhì)量數(shù)據(jù)可積累學(xué)術(shù)積分、助力職稱晉升，從而激發(fā)醫(yī)院和醫(yī)生參與人機(jī)對(duì)齊的積極性。
王江平表示，應(yīng)在真實(shí)的醫(yī)療場(chǎng)景中持續(xù)收集高質(zhì)量數(shù)據(jù)反饋，不斷修正模型偏差，讓對(duì)齊能力在迭代中持續(xù)進(jìn)化，使對(duì)齊效果在實(shí)踐中不斷提升。當(dāng)醫(yī)療AI解決對(duì)齊問題，真正成為人類可以信賴的醫(yī)療助手，必將成為千行百業(yè)AI應(yīng)用的典范。
來(lái)源：中國(guó)電子報(bào) 盧夢(mèng)琪
