人工智能技術(shù)正以前所未有的浪潮之勢，引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革，深度重塑經(jīng)濟社會發(fā)展格局。2025年8月，國務(wù)院發(fā)布《關(guān)于深入實施“人工智能+”行動的意見》，系統(tǒng)推動人工智能在全社會的普及應(yīng)用與深度融合，逐步形成“以創(chuàng)新帶應(yīng)用、以應(yīng)用促創(chuàng)新”的良性發(fā)展飛輪。技術(shù)躍遷釋放價值紅利的同時帶來風(fēng)險挑戰(zhàn)，只有當(dāng)“安全內(nèi)核”嵌入“發(fā)展飛輪”，產(chǎn)業(yè)才能實現(xiàn)高質(zhì)量和可持續(xù)發(fā)展。
近日，中國信息通信研究院(簡稱“中國信通院”)正式發(fā)布《人工智能安全治理研究報告(2025年)――推進人工智能安全治理產(chǎn)業(yè)實踐框架》。
報告深入分析全球人工智能安全治理逐步邁向體系化、實操化趨勢，認(rèn)識到各主要經(jīng)濟體持續(xù)推進治理框架落地，如何在產(chǎn)業(yè)層面構(gòu)建務(wù)實有效的安全治理舉措已成為各方關(guān)注的核心議題。本報告立足本土產(chǎn)業(yè)實踐，深入剖析當(dāng)前面臨的安全治理挑戰(zhàn)，提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實踐框架，旨在為產(chǎn)業(yè)提供一套系統(tǒng)性、可落地、動態(tài)化的安全治理體系，推動人工智能釋放更大動能。
報告核心觀點
1.人工智能技術(shù)發(fā)展帶來風(fēng)險態(tài)勢不斷演化，需樹立動態(tài)的安全觀。人工智能技術(shù)應(yīng)用的安全風(fēng)險突破了傳統(tǒng)安全邊界帶來新態(tài)勢：一是風(fēng)險形態(tài)演變快，補丁式防護思路難適用；二是風(fēng)險識別難度高，應(yīng)用場景風(fēng)險指標(biāo)難量化；三是模型能力進展快，對抗已知漏洞邁向應(yīng)對未知風(fēng)險。由于人工智能技術(shù)和應(yīng)用具有不可預(yù)見性，當(dāng)前人類對于人工智能安全風(fēng)險認(rèn)知存在局限性，需要建立動態(tài)演化的人工智能安全觀。
2.全球各方多措并舉推進人工智能安全治理務(wù)實行動。國際合作層面，全球加強安全治理深化交流，聯(lián)合國、國際電信聯(lián)盟等主要國際組織加速推進治理規(guī)則完善，多國協(xié)同推進全球安全治理實踐，產(chǎn)業(yè)界、學(xué)術(shù)界積極開展對話交流凝聚治理共識。監(jiān)管政策層面，各國推動安全治理體系化落地，各主要經(jīng)濟體實施差異化監(jiān)管方案，配套建立治理平臺，開展治理行動，推動形成治理實效。產(chǎn)業(yè)實踐層面，構(gòu)建安全治理務(wù)實舉措成為核心議題，通過形成自律共識、開展測試評估、建立互通渠道等，形成保障產(chǎn)業(yè)發(fā)展的良性生態(tài)。
3.人工智能產(chǎn)業(yè)面臨技術(shù)、應(yīng)用、管理、協(xié)同共治的多重挑戰(zhàn)。一是技術(shù)發(fā)展擴大內(nèi)生安全新敞口。模型固有特性誘發(fā)安全可控復(fù)雜難題，內(nèi)生安全形勢愈發(fā)嚴(yán)峻。與傳統(tǒng)網(wǎng)絡(luò)安全相比，人工智能安全攻防非對稱性加劇，技術(shù)安全凸顯“易攻難守”新形勢。二是應(yīng)用延展引發(fā)衍生安全新難題。模型應(yīng)用既帶來應(yīng)用形態(tài)迭代、開源生態(tài)濫用、軟件供應(yīng)鏈漏洞等外部性安全難題，也引發(fā)個人、群體、社會多層面次生風(fēng)險傳導(dǎo)放大。三是組織管理體系構(gòu)建面臨新卡點。人工智能技術(shù)的黑箱屬性、應(yīng)用的不確定性和產(chǎn)業(yè)鏈條的多樣性愈發(fā)凸顯，給人工智能模型研發(fā)、系統(tǒng)部署、應(yīng)用運行等不同組織主體以及同時擁有多重身份的組織主體帶來管理挑戰(zhàn)。四是多元共治協(xié)同機制尚待健全完善。當(dāng)前行業(yè)在核心治理環(huán)節(jié)普遍存在共建合力不足的問題，統(tǒng)一標(biāo)準(zhǔn)尚未形成、協(xié)同機制仍需完善。
4.報告提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實踐框架。面對人工智能內(nèi)生安全與應(yīng)用風(fēng)險交織泛化的復(fù)雜挑戰(zhàn)，傳統(tǒng)單點、靜態(tài)的防護體系已難以為繼，產(chǎn)業(yè)界亟需一個系統(tǒng)性的安全治理落實框架。為此，報告立足本土產(chǎn)業(yè)實踐，提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實踐框架。企業(yè)內(nèi)部層面，人工智能管理體系建設(shè)應(yīng)結(jié)合技術(shù)發(fā)展態(tài)勢，深度融合“管理層”的制度牽引作用與“技術(shù)層”的能力支撐作用，聚焦實際應(yīng)用場景的應(yīng)用風(fēng)險，建立覆蓋人工智能系統(tǒng)全生命周期的動態(tài)安全合規(guī)和風(fēng)險管理方案，系統(tǒng)構(gòu)建“開發(fā)側(cè)”“部署側(cè)”與“應(yīng)用側(cè)”安全關(guān)，實現(xiàn)從模型研發(fā)、系統(tǒng)部署到場景應(yīng)用的全鏈條防護。此外，產(chǎn)業(yè)界需加強多元共治，將分散的治理努力匯聚成強大的系統(tǒng)屏障。
5.多領(lǐng)域勾勒人工智能安全治理從原則框架走向行業(yè)縱深實施的清晰路徑。金融行業(yè)探索構(gòu)建基于智能程度與金融場景的分級管控體系，通過安全護欄、算法修正與本地化部署，筑牢風(fēng)險防線。醫(yī)療行業(yè)積極應(yīng)對模型幻覺等核心挑戰(zhàn)，通過構(gòu)建高價值應(yīng)用、高知識密度、高技術(shù)含量數(shù)據(jù)集，保障輸出的準(zhǔn)確性與安全性。交通行業(yè)聚焦智能座艙與自動駕駛，積極探索端到端安全測試與仿真驗證體系。能源行業(yè)在關(guān)鍵領(lǐng)域推動人工智能安全內(nèi)生設(shè)計理念落地，推行“可解釋AI+專家規(guī)則”雙校驗機制，確保工業(yè)級可靠。通信行業(yè)創(chuàng)新實踐“以技治技”，通過大小模型協(xié)同、安全知識賦能與全生命周期管控，構(gòu)建主動防御體系。
