2025 年 8 月 6 日，第十三屆互聯(lián)網(wǎng)安全大會(huì)（ISC.AI 2025）以 “All In Agent”為主題在北京舉辦，工業(yè)和信息化部原總工程師、中國互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)常務(wù)副主任趙志國出席大會(huì)并致辭，他肯定了智能體技術(shù)的戰(zhàn)略價(jià)值，并表示人工智能與網(wǎng)絡(luò)安全的融合發(fā)展，是時(shí)代命題，是必答題，而不是選擇題，更是責(zé)任的擔(dān)當(dāng)。需要各界加強(qiáng)人工智能與安全產(chǎn)業(yè)的深度融合、雙向賦能，堅(jiān)持協(xié)同共治，形成安全發(fā)展合力。

 AI既是安全“倍增器”，也帶來三大風(fēng)險(xiǎn)

人工智能技術(shù)加速迭代，人工智能領(lǐng)域創(chuàng)新呈群體性突破之勢(shì)，人工智能與實(shí)體經(jīng)濟(jì)深度融合特征更加明顯，尤為值得一提的是，人工智能和安全領(lǐng)域的結(jié)合日益緊密，不僅催生為網(wǎng)絡(luò)安全提供了更具主動(dòng)性和適應(yīng)性的技術(shù)工具，更推動(dòng)安全體系從被動(dòng)防御向智能驅(qū)動(dòng)重構(gòu)，其“安全能力倍增器”的效應(yīng)正加速顯現(xiàn)。

但同時(shí)也要清醒地認(rèn)識(shí)到，技術(shù)革新的背后安全風(fēng)險(xiǎn)正在交織疊加，帶來的風(fēng)險(xiǎn)挑戰(zhàn)引發(fā)廣泛關(guān)注：

一是技術(shù)脆弱性帶來內(nèi)生安全風(fēng)險(xiǎn)。現(xiàn)階段人工智能技術(shù)創(chuàng)新是以數(shù)據(jù)、算法、算力三要素的共同驅(qū)動(dòng)，數(shù)據(jù)的依賴性、算法的復(fù)雜性、算力的集中性等內(nèi)在屬性，使得模型幻覺、算法黑箱、數(shù)據(jù)可信等特有的安全風(fēng)險(xiǎn)更加凸顯。

二是惡意利用放大安全危機(jī)。人工智能驅(qū)動(dòng)的攻擊手段正朝著智能化、自動(dòng)化方向發(fā)展，在顯著降低攻擊門檻、提升攻擊頻率的同時(shí)，進(jìn)一步增強(qiáng)了攻擊的隱蔽性與變異性。深度偽造欺詐、自動(dòng)化攻擊、開源生態(tài)投毒等新型網(wǎng)絡(luò)威脅日漸增多。

三是治理的復(fù)雜性日益凸顯。人工智能技術(shù)的廣泛使用、各行業(yè)各領(lǐng)域的應(yīng)用推廣，以及多場(chǎng)景的深度滲透，使其安全治理涉及技術(shù)標(biāo)準(zhǔn)、法律法規(guī)、應(yīng)用安全、倫理規(guī)范等多重維度，監(jiān)管框架完善的速度仍落后于技術(shù)發(fā)展應(yīng)用速度，治理難度與不確定性持續(xù)上升。

夯實(shí) “人工智能 + 安全” 發(fā)展基石

近日國務(wù)院審議通過了《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》，強(qiáng)調(diào)要“提升安全能力水平，加快形成動(dòng)態(tài)敏捷、多元協(xié)同的人工智能治理格局”，這為“人工智能+安全”工作指明了前進(jìn)的方向、提供了根本的遵循。在會(huì)上，趙志國提出三點(diǎn)建議。

第一，堅(jiān)持技術(shù)創(chuàng)新，筑牢安全發(fā)展根基。聚焦深度學(xué)習(xí)框架、智能芯片等關(guān)鍵領(lǐng)域攻堅(jiān)突破，加快自主創(chuàng)新步伐，提高安全發(fā)展能力。構(gòu)建通用與專用相結(jié)合的模型體系，加強(qiáng)模型安全評(píng)估與審計(jì)驗(yàn)證工作，提升模型準(zhǔn)確性和穩(wěn)定性。加快構(gòu)建安全可靠、綠色高效的智能算力基礎(chǔ)設(shè)施，強(qiáng)化芯片、服務(wù)器等底層硬件的自主保障能力，筑牢基礎(chǔ)設(shè)施安全底座。

第二，堅(jiān)持融合賦能，壯大產(chǎn)業(yè)發(fā)展生態(tài)。加強(qiáng)人工智能與安全產(chǎn)業(yè)的深度融合、雙向賦能。一方面，以“人工智能+安全”深度融合培育壯大安全產(chǎn)業(yè)，發(fā)揮人工智能在數(shù)據(jù)處理、模式識(shí)別、告警研判、惡意軟件識(shí)別等方面的優(yōu)勢(shì)，推動(dòng)安全技術(shù)更新、路徑升級(jí)、模式重塑，牽引市場(chǎng)主體、產(chǎn)業(yè)生態(tài)發(fā)展壯大。另一方面，以安全能力建設(shè)保障人工智能產(chǎn)業(yè)發(fā)展壯大，加大智能算法漏洞檢測(cè)、深度偽造防御、隱私計(jì)算等安全產(chǎn)品供給，加快工業(yè)互聯(lián)網(wǎng)、5G等重點(diǎn)場(chǎng)景安全防御能力建設(shè)，織密人工智能應(yīng)用的安全防護(hù)網(wǎng)，構(gòu)建內(nèi)生安全綜合能力體系。

第三，堅(jiān)持協(xié)同共治，形成安全發(fā)展合力。積極推動(dòng)“政產(chǎn)學(xué)研用”多元主體協(xié)同發(fā)力，在安全機(jī)制共建、技術(shù)攻關(guān)、規(guī)模應(yīng)用、標(biāo)準(zhǔn)體系、人才培養(yǎng)等方面深化合作，構(gòu)建“人工智能+安全”產(chǎn)業(yè)生態(tài)圈。積極推動(dòng)并參與人工智能安全治理國際合作，聚焦模型幻覺、不可解釋性等技術(shù)風(fēng)險(xiǎn)，強(qiáng)化前瞻研判、交流合作、標(biāo)準(zhǔn)共建，推動(dòng)形成具有廣泛共識(shí)的人工智能全球治理的架構(gòu)和體系。

“中國互聯(lián)網(wǎng)協(xié)會(huì)也將持續(xù)發(fā)揮橋梁和紐帶作用，與業(yè)界同仁攜手共進(jìn)，為建設(shè)網(wǎng)絡(luò)強(qiáng)國、制造強(qiáng)國、數(shù)字中國貢獻(xiàn)堅(jiān)實(shí)的力量！”他最后說道。