筑牢倫理基石，賦能創(chuàng)新發(fā)展——深入解讀《人工智能科技倫理審查與服務(wù)辦法（試行）》

筑牢倫理基石，賦能創(chuàng)新發(fā)展

——深入解讀《人工智能科技倫理審查與服務(wù)辦法（試行）》

敖立   中國(guó)信息通信研究院副院長(zhǎng)

工業(yè)和信息化領(lǐng)域科技倫理專家委員會(huì)副主任委員

引言

科技創(chuàng)新，倫理先行�？萍紓惱硎侨祟惿鐣�(huì)倫理價(jià)值在科技領(lǐng)域的延伸與拓展，是開(kāi)展科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)需遵循的價(jià)值理念與行為規(guī)范。習(xí)近平總書(shū)記高度重視科技倫理建設(shè)，2021 年 12 月 17 日，在主持中央全面深化改革委員會(huì)第二十三次會(huì)議時(shí)強(qiáng)調(diào)：“科技倫理是科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則，要堅(jiān)持增進(jìn)人類福祉、尊重生命權(quán)利、公平公正、合理控制風(fēng)險(xiǎn)、保持公開(kāi)透明的原則，健全多方參與、協(xié)同共治的治理體制機(jī)制，塑造科技向善的文化理念和保障機(jī)制。”2023 年 10 月，習(xí)近平總書(shū)記提出《全球人工智能治理倡議》，明確“堅(jiān)持倫理先行，建立并完善人工智能科技倫理準(zhǔn)則、規(guī)范及問(wèn)責(zé)機(jī)制，形成人工智能科技倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界”。這些重要論述深刻闡明了科技倫理對(duì)保障科技安全的意義，為加強(qiáng)科技倫理治理提供了根本遵循。

近日，工業(yè)和信息化部等十部門(mén)聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡(jiǎn)稱《辦法》），對(duì)人工智能科技倫理審查與服務(wù)提出明確要求，這是深入貫徹習(xí)近平總書(shū)記重要論述，促進(jìn)人工智能產(chǎn)業(yè)科技創(chuàng)新高質(zhì)量發(fā)展和高水平安全良性互動(dòng)的重要舉措。

一、科技倫理引導(dǎo)人工智能健康有序發(fā)展

近年來(lái)，在技術(shù)創(chuàng)新與商業(yè)應(yīng)用的雙輪驅(qū)動(dòng)下，人工智能正加速與實(shí)體經(jīng)濟(jì)深度融合。其不僅在互聯(lián)網(wǎng)等數(shù)字原生領(lǐng)域?qū)崿F(xiàn)規(guī)�；瘧�(yīng)用，還逐步滲透到金融、醫(yī)療、交通等行業(yè)，在重要場(chǎng)景中的賦能成效顯著。然而，隨著技術(shù)快速演進(jìn)與應(yīng)用領(lǐng)域拓展，人工智能帶來(lái)的算法歧視、深度偽造等倫理問(wèn)題愈發(fā)凸顯。

人工智能科技倫理治理是引導(dǎo)科技創(chuàng)新方向的 “指南針”。一方面，它能引導(dǎo)企業(yè)開(kāi)展符合倫理要求的技術(shù)創(chuàng)新，推動(dòng)研發(fā)團(tuán)隊(duì)將倫理要求貫穿于人工智能研發(fā)應(yīng)用全過(guò)程，避免單純追求技術(shù)性能而忽視潛在倫理風(fēng)險(xiǎn)；另一方面，能有效促進(jìn)倫理相關(guān)技術(shù)研發(fā)，如可解釋性人工智能技術(shù)、隱私增強(qiáng)技術(shù)等。此類技術(shù)突破不僅有助于解決當(dāng)前人工智能面臨的倫理困境，還能開(kāi)拓新的技術(shù)應(yīng)用領(lǐng)域。

人工智能科技倫理治理是促進(jìn)產(chǎn)業(yè)健康發(fā)展的 “方向盤(pán)”。通過(guò)治理，能有效解決人工智能應(yīng)用中的倫理問(wèn)題，如隱私保護(hù)、偏見(jiàn)歧視等，增強(qiáng)公眾對(duì)人工智能的信任，為其廣泛應(yīng)用奠定堅(jiān)實(shí)基礎(chǔ)。以醫(yī)療領(lǐng)域?yàn)槔�，符合倫理要求的人工智能輔助診斷系統(tǒng)能更好地協(xié)助醫(yī)生進(jìn)行疾病診斷與治療方案制定，提高醫(yī)療服務(wù)的準(zhǔn)確性與效率，推動(dòng)人工智能在醫(yī)療行業(yè)的深度融合，開(kāi)拓龐大市場(chǎng)。同時(shí)，倫理治理能規(guī)范產(chǎn)業(yè)行為，降低倫理風(fēng)險(xiǎn)，為產(chǎn)業(yè)營(yíng)造良好發(fā)展環(huán)境，促進(jìn)其長(zhǎng)期穩(wěn)定發(fā)展。

人工智能科技倫理治理是提升國(guó)家競(jìng)爭(zhēng)力的 “助推器”。當(dāng)前，人工智能科技倫理治理已成為全球關(guān)注焦點(diǎn)。聯(lián)合國(guó)教科文組織于 2021年11月發(fā)布《人工智能科技倫理問(wèn)題建議書(shū)》，歐盟、美國(guó)、日本等國(guó)家和地區(qū)也通過(guò)建立人工智能專家委員會(huì)等方式，推動(dòng)負(fù)責(zé)任的人工智能技術(shù)發(fā)展。良好的倫理治理環(huán)境，一方面能吸引更多國(guó)際合作伙伴，促進(jìn)產(chǎn)業(yè)合作與交流；另一方面，能在全球范圍內(nèi)樹(shù)立我國(guó)人工智能企業(yè)負(fù)責(zé)任的形象，助力相關(guān)產(chǎn)品和服務(wù)獲得國(guó)際市場(chǎng)認(rèn)可，提升國(guó)際競(jìng)爭(zhēng)力。

二、服務(wù)人工智能行業(yè)發(fā)展，聚焦科技倫理治理重點(diǎn)問(wèn)題

（一）加強(qiáng)科技倫理服務(wù)，支持促進(jìn)人工智能科技倫理發(fā)展

與《科技倫理審查辦法（試行）》相比，《辦法》增設(shè)第二章 “服務(wù)與促進(jìn)”，從標(biāo)準(zhǔn)建設(shè)、促進(jìn)服務(wù)、鼓勵(lì)創(chuàng)新、宣傳教育、人才培養(yǎng)五個(gè)方面提出舉措，賦能產(chǎn)業(yè)發(fā)展。當(dāng)前，全球人工智能科技倫理治理已進(jìn)入快車道，治理重點(diǎn)從倫理原則轉(zhuǎn)向落地實(shí)施，推動(dòng)治理技術(shù)化、工程化、標(biāo)準(zhǔn)化成為關(guān)鍵。我國(guó)人工智能科技倫理治理面臨技術(shù)手段待突破、治理缺乏統(tǒng)一標(biāo)準(zhǔn)、工具匱乏等挑戰(zhàn)，需通過(guò)鼓勵(lì)技術(shù)創(chuàng)新、制定倫理標(biāo)準(zhǔn)、推進(jìn)倫理服務(wù)等方式應(yīng)對(duì)。此外，人工智能科技倫理治理不僅是技術(shù)問(wèn)題，更是社會(huì)問(wèn)題，因此通過(guò)宣傳教育提升公眾倫理素養(yǎng)、通過(guò)人才培養(yǎng)加強(qiáng)科研人員倫理意識(shí)，是防范倫理風(fēng)險(xiǎn)的重要舉措。

（二）立足人工智能特點(diǎn)，促進(jìn)人工智能科技倫理審查落地

《科技倫理審查辦法（試行）》是覆蓋各領(lǐng)域科技倫理審查的綜合性規(guī)定，對(duì)審查基本程序、標(biāo)準(zhǔn)、條件等提出統(tǒng)一要求。與生命科學(xué)、醫(yī)學(xué)相比，人工智能科技倫理因技術(shù)特征具有獨(dú)有特點(diǎn)。因此，《辦法》在遵循通用辦法基礎(chǔ)上，充分考慮人工智能特點(diǎn)，在適用范圍、申請(qǐng)材料、審查重點(diǎn)、簡(jiǎn)易程序適用等方面進(jìn)一步完善細(xì)化，以更適用于人工智能科技倫理審查。例如，《辦法》第十五條規(guī)定，人工智能科技倫理審查除關(guān)注科技人員資質(zhì)、積極作用、風(fēng)險(xiǎn)控制方案等常規(guī)內(nèi)容外，還需遵守增進(jìn)人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等人工智能科技倫理要求。

（三）優(yōu)化倫理治理，盡量降低創(chuàng)新主體倫理管理成本

考慮到中小企業(yè)難以成立科技倫理委員會(huì)的現(xiàn)實(shí)，《辦法》提出建設(shè)專業(yè)性人工智能科技倫理服務(wù)中心（以下簡(jiǎn)稱“服務(wù)中心”）。第十一條對(duì) “服務(wù)中心” 的設(shè)立、業(yè)務(wù)、要求進(jìn)行細(xì)化，明確其可接受中小企業(yè)委托，提供倫理服務(wù)。為避免重復(fù)監(jiān)管，《辦法》第二十六條規(guī)定了與其他監(jiān)管措施的銜接。此前，網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等文件，已將符合科技倫理要求作為審批條件或監(jiān)管內(nèi)容，針對(duì)此類人工智能科技活動(dòng)，可不再開(kāi)展專家復(fù)核，大幅降低了企業(yè)合規(guī)成本。

三、不斷完善人工智能治理生態(tài)，筑牢人工智能產(chǎn)業(yè)健康發(fā)展根基

當(dāng)前，人工智能科技倫理治理仍面臨不少現(xiàn)實(shí)挑戰(zhàn)。一是技術(shù)迭代快于治理規(guī)則完善，新場(chǎng)景、新應(yīng)用不斷涌現(xiàn)，倫理風(fēng)險(xiǎn)具有隱蔽性、突發(fā)性、不可預(yù)測(cè)性，現(xiàn)有規(guī)范難以全面覆蓋。二是倫理原則落地難，企業(yè)面臨產(chǎn)品性能和倫理要求的平衡，管理成本高。三是治理支撐體系尚不完善，缺乏國(guó)際權(quán)威的第三方倫理測(cè)評(píng)標(biāo)準(zhǔn)和認(rèn)證體系。未來(lái)，應(yīng)以《辦法》出臺(tái)為契機(jī)，堅(jiān)持發(fā)展和安全并重，不斷完善治理生態(tài)，推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量和可持續(xù)發(fā)展。

（一）推行敏捷治理，以柔性監(jiān)管護(hù)航技術(shù)創(chuàng)新

一是健全政府與創(chuàng)新主體常態(tài)化溝通協(xié)作機(jī)制，建立倫理風(fēng)險(xiǎn)信息共享、協(xié)同處置的工作格局。二是鼓勵(lì)企業(yè)創(chuàng)新，在守住安全底線的前提下，允許企業(yè)在盡到合理監(jiān)管義務(wù)時(shí)容錯(cuò)糾錯(cuò)。三是建立技術(shù)發(fā)展與倫理風(fēng)險(xiǎn)動(dòng)態(tài)監(jiān)測(cè)機(jī)制，及時(shí)完善政策規(guī)范，實(shí)現(xiàn)治理與技術(shù)發(fā)展同頻共振。

（二）深化協(xié)同共治，以多元參與筑牢責(zé)任鏈條

一是完善政府、企業(yè)、科研機(jī)構(gòu)、科技社團(tuán)組織、社會(huì)公眾等共同參與的多元治理體系，明確各方定位與職責(zé)。二是健全“政府引導(dǎo) + 企業(yè)自律 + 第三方支撐” 的協(xié)同運(yùn)行模式，將倫理要求嵌入人工智能全生命周期。三是加強(qiáng)科技倫理科普與培訓(xùn)，通過(guò)多種渠道、更加豐富的傳播方式，營(yíng)造全社會(huì)共同關(guān)注、共同參與、共同監(jiān)督的良好生態(tài)。

（三）夯實(shí)基礎(chǔ)支撐，以標(biāo)準(zhǔn)工具提升治理效能

一是加快出臺(tái)人工智能科技倫理風(fēng)險(xiǎn)評(píng)估、審查程序、審查委員會(huì)等配套標(biāo)準(zhǔn)，為創(chuàng)新主體提供可操作、可落地的規(guī)范指引。二是搭建科技倫理公共服務(wù)平臺(tái)，推進(jìn)科技倫理服務(wù)中心建設(shè)，提供專業(yè)的倫理審查、教育培訓(xùn)、專家咨詢等服務(wù)，降低中小企業(yè)治理成本。三是加強(qiáng)治理技術(shù)和工具研發(fā)，推動(dòng)構(gòu)建人工智能倫理治理開(kāi)源社區(qū)，推動(dòng)治理工具、數(shù)據(jù)集開(kāi)源開(kāi)放，以技術(shù)賦能提升治理成效。

四、結(jié)語(yǔ)

中國(guó)信息通信研究院作為工業(yè)和信息化領(lǐng)域科技倫理專家委員會(huì)秘書(shū)處單位，將在工業(yè)和信息化部的指導(dǎo)下，充分發(fā)揮在人工智能政策研究、標(biāo)準(zhǔn)制定、技術(shù)評(píng)測(cè)等方面的優(yōu)勢(shì)，深化科技倫理治理支撐，保障《辦法》有效落實(shí)。一是搭建人工智能科技倫理產(chǎn)業(yè)服務(wù)平臺(tái)。開(kāi)展科技倫理宣傳教育，開(kāi)發(fā)人工智能科技倫理審查、測(cè)評(píng)工具，促進(jìn)治理工具開(kāi)源開(kāi)放。二是探索成立人工智能科技倫理服務(wù)中心。接受相關(guān)部門(mén)委托，承擔(dān)人工智能科技倫理專家復(fù)核工作，并為企業(yè)、高校、科研院所等單位提供科技倫理審查、咨詢、培訓(xùn)等服務(wù)。三是持續(xù)推動(dòng)人工智能科技倫理標(biāo)準(zhǔn)制定工作。在工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)下，持續(xù)推動(dòng)人工智能科技倫理風(fēng)險(xiǎn)評(píng)估、科技倫理委員會(huì)、科技倫理服務(wù)中心、科技倫理審查程序、科技倫理審查人員技術(shù)技能要求等標(biāo)準(zhǔn)制定工作。四是積極開(kāi)展人工智能科技倫理治理國(guó)際交流合作。加強(qiáng)與國(guó)際研究機(jī)構(gòu)的合作，依托國(guó)際人工智能領(lǐng)域的高端峰會(huì)等組織研討活動(dòng)，宣傳人工智能科技倫理治理理念。