飛象網(wǎng)訊 “AI在落地過(guò)程中面臨的安全挑戰(zhàn)已遠(yuǎn)超網(wǎng)絡(luò)與數(shù)據(jù)安全的原有邊界，360提出‘以模制�！路妒剑运拇笾悄荏w筑牢AI安全防線�！� 在ISC.AI 2025未來(lái)峰會(huì)上，360數(shù)字安全集團(tuán)總裁胡振泉直擊AI安全痛點(diǎn)，系統(tǒng)闡釋了360在AI安全防護(hù)的核心邏輯與實(shí)踐成果，為智能時(shí)代的AI安全防護(hù)提供了創(chuàng)新性解決方案。
AI安全進(jìn)入“高風(fēng)險(xiǎn)期”內(nèi)憂外患亟待破局
隨著大模型技術(shù)加速落地與智能體的規(guī)模化應(yīng)用，AI已從實(shí)驗(yàn)室全面滲透至千行百業(yè)。然而，在技術(shù)紅利持續(xù)釋放的背后，AI安全風(fēng)險(xiǎn)正進(jìn)入“集中爆發(fā)期”，呈現(xiàn)出“內(nèi)憂外患”的復(fù)雜態(tài)勢(shì)。
胡振泉分析到，從內(nèi)部來(lái)看，AI存在與生俱來(lái)的“四大基因缺陷”：一切皆可編程、一切皆可模仿、一切皆可生成、一切皆可調(diào)度。從外部來(lái)看，一方面，針對(duì)AI系統(tǒng)的攻擊將變成大國(guó)博弈的關(guān)鍵；另一方面，黑灰產(chǎn)利用AI批量制造攻擊武器，甚至部署“黑客智能體”，傳統(tǒng)安全防御體系難以應(yīng)對(duì)。
“這些風(fēng)險(xiǎn)交織，使得AI安全的復(fù)雜程度遠(yuǎn)超傳統(tǒng)范疇”。胡振泉強(qiáng)調(diào)，AI安全既涵蓋網(wǎng)絡(luò)、數(shù)據(jù)等傳統(tǒng)安全問(wèn)題，也涉及AI內(nèi)容安全、應(yīng)用安全及未來(lái)場(chǎng)景安全。廣大政企機(jī)構(gòu)在AI落地過(guò)程中面臨的安全挑戰(zhàn)，已遠(yuǎn)遠(yuǎn)超出網(wǎng)絡(luò)與數(shù)據(jù)安全的原有邊界，亟需一套系統(tǒng)性的創(chuàng)新解決方案。
“以模制�！甭涞兀核拇笾悄荏w構(gòu)建AI全鏈路防護(hù)
當(dāng)前，傳統(tǒng)安全企業(yè)因缺乏對(duì)AI技術(shù)的深度理解，在應(yīng)對(duì)AI安全問(wèn)題時(shí)往往“盲人摸象”；而大模型企業(yè)則因安全技術(shù)積累與攻防實(shí)踐經(jīng)驗(yàn)不足，難以提出有效的解決方案。
作為企業(yè)中的數(shù)字安全及AI國(guó)家隊(duì)，360憑借“懂AI更懂安全”的跨領(lǐng)域優(yōu)勢(shì)，創(chuàng)新提出“以模制�！毙路妒剑萌斯ぶ悄芗夹g(shù)自身優(yōu)勢(shì)對(duì)抗AI安全風(fēng)險(xiǎn)，并打磨出360大模型安全衛(wèi)士，聚焦解決AI的“可靠、可信、向善、可控”四大核心問(wèn)題。具體而言，360大模型安全衛(wèi)士通過(guò)四大安全智能體形成閉環(huán)防護(hù)體系：
內(nèi)容安全智能體：作為AI內(nèi)容“守門人”，通過(guò)幻覺(jué)抑制、安全風(fēng)控等專用模型，實(shí)時(shí)審核輸入輸出內(nèi)容，攔截違法違規(guī)信息，抑制虛假生成，為黨政軍企等場(chǎng)景筑牢內(nèi)容安全防線。
AI Agent安全智能體：聚焦智能體執(zhí)行安全，通過(guò)異常行為識(shí)別、權(quán)限管控及人工審核，防范數(shù)據(jù)泄露與越權(quán)操作，確保 AI“行動(dòng)能力” 可控。
軟件安全智能體：掃描AI軟件漏洞與配置缺陷，排查開(kāi)源組件風(fēng)險(xiǎn)，從源頭保障AI系統(tǒng)供應(yīng)鏈安全。
安全風(fēng)險(xiǎn)評(píng)估智能體：以實(shí)戰(zhàn)化模擬攻擊（如注入攻擊、數(shù)據(jù)竊�。┨崆氨┞断到y(tǒng)短板，幫助客戶發(fā)現(xiàn)多項(xiàng)關(guān)鍵隱患。
胡振泉強(qiáng)調(diào)，這四大智能體協(xié)同發(fā)力，形成從內(nèi)容生成到任務(wù)執(zhí)行、從開(kāi)發(fā)上線到風(fēng)險(xiǎn)評(píng)估的全鏈路防護(hù)，真正實(shí)現(xiàn)用AI思維解決AI安全問(wèn)題。
“天生優(yōu)勢(shì)”奠定技術(shù)壁壘 360引領(lǐng)AI安全升級(jí)
胡振泉表示，隨著360大模型安全衛(wèi)士在客戶側(cè)的不斷落地，愈發(fā)清晰地認(rèn)識(shí)到：AI安全是一個(gè)門檻極高的技術(shù)領(lǐng)域，做好這件事必須具備四大必要條件：
一是AI領(lǐng)域的深耕積淀，需深刻理解AI技術(shù)特性與發(fā)展規(guī)律；二是安全行業(yè)的實(shí)戰(zhàn)積累，對(duì)傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全有深入實(shí)踐；三是自身 AI業(yè)務(wù)的安全實(shí)踐，通過(guò)大規(guī)模場(chǎng)景“自用自證”持續(xù)迭代產(chǎn)品；四是AI安全語(yǔ)料的長(zhǎng)期積累，擁有大量高質(zhì)量的內(nèi)容安全與網(wǎng)絡(luò)安全語(yǔ)料，為模型訓(xùn)練提供核心“生產(chǎn)資料”。
胡振泉指出，360通過(guò)自身大規(guī)模AI業(yè)務(wù)場(chǎng)景驗(yàn)證產(chǎn)品能力，形成“從實(shí)踐中來(lái)，到實(shí)踐中去”的迭代閉環(huán)，同時(shí)沉淀了海量安全語(yǔ)料，構(gòu)建起了難以復(fù)制的核心競(jìng)爭(zhēng)力。
最后，胡振泉呼吁，AI安全需要全行業(yè)協(xié)同發(fā)力。360將持續(xù)開(kāi)放 “以模制�！钡募夹g(shù)框架與實(shí)踐經(jīng)驗(yàn)，與產(chǎn)業(yè)鏈各方共建AI安全生態(tài)，為智能時(shí)代的安全發(fā)展保駕護(hù)航。
