近年來(lái)，人工智能加速成為產(chǎn)業(yè)轉(zhuǎn)型升級(jí)的重要力量，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生了深遠(yuǎn)影響。在此趨勢(shì)下，中國(guó)信息通信研究院（簡(jiǎn)稱(chēng)“中國(guó)信通院”）《專(zhuān)家談》欄目特別推出“人工智能”系列專(zhuān)題，邀請(qǐng)多位行業(yè)權(quán)威專(zhuān)家，從多個(gè)視角解讀當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的熱點(diǎn)與趨勢(shì)。本期邀請(qǐng)到中國(guó)信通院政策與經(jīng)濟(jì)研究所副所長(zhǎng)張春飛，圍繞人工智能治理的重要性和緊迫性、人工智能治理框架，以及專(zhuān)業(yè)機(jī)構(gòu)作用的發(fā)揮，為我們進(jìn)行深度解析。
一、人工智能治理的重要性緊迫性前所未有
當(dāng)前，人工智能技術(shù)快速發(fā)展正深刻重塑著人類(lèi)生產(chǎn)生活方式。今年以來(lái)，以DeepSeek為代表的開(kāi)源模型，極大地降低了算力成本和大模型部署門(mén)檻，加速推動(dòng)了人工智能與經(jīng)濟(jì)社會(huì)各領(lǐng)域的融合發(fā)展，也帶來(lái)了一系列治理問(wèn)題和安全風(fēng)險(xiǎn)。一方面，人工智能技術(shù)本身存在內(nèi)生安全風(fēng)險(xiǎn)，在模型幻覺(jué)、不可解釋性等內(nèi)在缺陷尚未解決的情況下，人工智能在各個(gè)領(lǐng)域廣泛應(yīng)用、深度融合，將進(jìn)一步疊加、放大虛假信息、技術(shù)濫用等安全風(fēng)險(xiǎn)，治理的復(fù)雜性前所未有。另一方面，隨著通用AI的不斷逼近，各方對(duì)系統(tǒng)性風(fēng)險(xiǎn)的關(guān)注也前所未有。英國(guó)人工智能安全研究所發(fā)布的《2025年國(guó)際人工智能安全報(bào)告》（International AI Safety Report 2025）指出，前沿AI可能引發(fā)大規(guī)模失業(yè)等風(fēng)險(xiǎn)，甚至使人類(lèi)失去對(duì)AI系統(tǒng)控制，事關(guān)社會(huì)穩(wěn)定乃至人類(lèi)命運(yùn)。
二、人工智能治理需要一個(gè)體系化的治理框架
人工智能治理已進(jìn)入從原則到實(shí)踐的關(guān)鍵階段，這需要相應(yīng)的治理框架，凝聚各方共識(shí)、指導(dǎo)規(guī)則的構(gòu)建和落地。目前，各國(guó)政府、國(guó)際組織、智庫(kù)機(jī)構(gòu)從基于風(fēng)險(xiǎn)管理、全生命周期治理等不同視角提出人工智能治理框架。中國(guó)信通院從What、Why、Who、How四個(gè)維度研究提出了“1244”人工智能治理總體框架，“1”是持續(xù)研究AI概念范疇和演進(jìn)，“2”是跟蹤研判內(nèi)生、衍生兩類(lèi)風(fēng)險(xiǎn)變化和影響，“4”是總結(jié)梳理政府、企業(yè)、專(zhuān)業(yè)機(jī)構(gòu)、國(guó)際組織四類(lèi)治理主體的最新舉措和成效，第二個(gè)“4”是持續(xù)研究“負(fù)責(zé)任創(chuàng)新、可持續(xù)發(fā)展、倫理先行、安全底線(xiàn)”四組議題的最新進(jìn)展，基于國(guó)際比較、產(chǎn)業(yè)實(shí)踐，探索提出符合中國(guó)國(guó)情的治理方案。
三、提升人工智能治理能力需要更好發(fā)揮專(zhuān)業(yè)機(jī)構(gòu)的作用
面對(duì)復(fù)雜的安全風(fēng)險(xiǎn)和挑戰(zhàn)，人工智能治理中的治理主體更加多元，專(zhuān)業(yè)機(jī)構(gòu)發(fā)揮了非常重要的作用。從國(guó)內(nèi)治理來(lái)看，人工智能治理中的很多風(fēng)險(xiǎn)挑戰(zhàn)是由技術(shù)的內(nèi)在缺陷引發(fā)，其治理必須緊密結(jié)合技術(shù)發(fā)展規(guī)律。由于政府與人工智能企業(yè)之間存在技術(shù)力量上的不對(duì)稱(chēng)性，需要引入第三方專(zhuān)業(yè)機(jī)構(gòu)的支持。比如，OpenAI等企業(yè)就與美國(guó)NIST達(dá)成合作，允許NIST等第三方機(jī)構(gòu)提前獲得公司新模型的訪(fǎng)問(wèn)權(quán)，在模型發(fā)布前進(jìn)行基準(zhǔn)評(píng)測(cè)。從國(guó)際治理來(lái)看，人工智能成為全球新一輪科技產(chǎn)業(yè)競(jìng)賽焦點(diǎn)，在競(jìng)爭(zhēng)升溫的同時(shí)，很多風(fēng)險(xiǎn)挑戰(zhàn)又需要各國(guó)共同應(yīng)對(duì)。在此過(guò)程中，專(zhuān)業(yè)機(jī)構(gòu)可以發(fā)揮重要的協(xié)調(diào)作用，推動(dòng)原則框架落地、標(biāo)準(zhǔn)規(guī)范對(duì)接、治理框架互操作等等。
四、結(jié)束語(yǔ)
二十屆三中全會(huì)提出完善人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系。近期中央政治局進(jìn)行的第二十次集體學(xué)習(xí)強(qiáng)調(diào)要完善人工智能監(jiān)管體制機(jī)制。我們將在政府部門(mén)指導(dǎo)下，聯(lián)合產(chǎn)學(xué)研用各方力量，深入研究和參與制定相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，為推動(dòng)我國(guó)人工智能健康有序發(fā)展貢獻(xiàn)力量。
