近日，作為互聯網安全大會（ISC 2021）九大峰會之一的“中國人工智能安全創新峰會”在北京國家會議中心成功召開。此次大會在中國人工智能學會的大力支持和ISC組委會的積極籌備下，由中國人工智能學會主辦，CAAI人工智能與安全專業委員會、360政企安全集團共同承辦。峰會邀請了CAAI人工智能與安全專業委員會領導、專家學者、機構代表、業界友商等共同參與，圍繞人工智能安全發展趨勢及最新研究成果與應用等前沿話題展開探討。

　　AI安全不容忽視

　　作為新一輪科技革命和產業變革的重要驅動力量，人工智能正在對經濟、社會發展帶來顛覆性影響。但人工智能技術是一把"雙刃劍"，在推動數字經濟社會創新發展的同時，也可能引發一系列安全挑戰。北京大學教授陳鐘從人工智能賦能網絡攻擊的新興威脅場景、技術現狀、發展趨勢以及應對之道進行詳細解讀，他表示未來網絡安全將呈現零信任、無邊界、賽博化的特點，人工智能面臨著軟件漏洞、系統安全、網絡安全、傳感器欺騙、數據投毒等五大威脅。因此人工智能系統在被廣泛使用之前，需要保證系統將以受控、充分定義和充分理解的方式安全地操作。陳鐘強調，需要進一步加強對人工智能技術的攻關，積極探索人工智能與區塊鏈的融合發展，使互聯變互信，創造更加安全、可信的美好未來。

北京大學教授陳鐘

　　隨后，中國科學院大學教授、博士生導師、密碼學院院長、數據保護研究中心主任荊繼武向與會者分享了對智能時代信息化發展形勢的判斷，講述了信息安全技術的新方向——白盒化。他表示，人工智能技術正在加速網絡共同體的形成，安全技術將逐步走向開放化、白盒化，他以“密碼算法的保密與開放”、“技術細節的保密與開放”為例對其進行深入解讀。他強調，白盒化的安全是未來全球安全市場的重要方向，它的發展需得到市場支持，公開體系結構，從而推動安全技術產品的專業化完善和深度融合。

　　中國科學院大學教授、博士生導師、密碼學院院長、數據保護研究中心主任荊繼武

　　目前真正能代表人工智能最前沿發展的莫過于深度學習，尤其是深度學習在無人駕駛、醫療決策等領域的應用。浙江大學 "百人計劃"研究員、博士生導師、浙江大學濱江研究院國產信創研究中心副主任紀守領以《深度學習模型的安全可解釋性與魯棒性》為主題分享了在深度學習模型上的研究成果，并從對抗樣本攻防對深度學習模型的魯棒性進行了拆解，從模型層面、數據層面、承載系統層面對深度學習模型的安全性進行分享。

　　浙江大學 "百人計劃"研究員、博士生導師、浙江大學濱江研究院國產信創研究中心副主任紀守領

　　AI對抗開辟網絡安全新戰場

　　中科院信息工程研究所副主任陳愷通過實例向觀眾展示了如何利用聲音、圖像中的噪聲信息“騙”過人工智能大腦，對抗自動駕駛目標識別系統。他表示，人工智能技術雖然廣泛應用于計算機視覺、自然語言處理、自動駕駛等領域，但人工智能系統容易受到攻擊，限制了其在關鍵安全領域的應用。因此提高人工智能系統對抗攻擊的魯棒性在人工智能進一步發展中發揮著越來越重要的作用。陳愷表示只有掌握了各種攻擊方式對于人工智能造成干擾的原因，才更有能力制定相應的防御思路，在模型之前可以放一些檢測器進行檢測對抗樣本，以此提升網絡的安全性能。

中科院信息工程研究所副主任陳愷

　　目前，針對網絡空間的攻擊無所不在，網絡安全與治理已經成為學術界和產業界共同關注的科技前沿問題。北京郵電大學教授李小勇以《AI及威脅情報驅動的跨網系行為檢測與異常發現》為題，從網絡空間安全與威脅情報、威脅情報的發展與應用、AI及威脅情報驅動的跨網系異常檢測這三個方面進行了分享。他指出，利用異構多源行為大數據高效感知、IP流量異常行為高效識別與利用、空口異常行為精準識別與利用、跨網系異常行為融合分析與態勢感知等關鍵技術可以進行跨網系異常檢測，智能威脅云的情報可以減少攻擊面、監測未知威脅、實時安全防護，實現智能防御。

北京郵電大學教授李小勇

　　共建開放創新的AI安全生態

　　近年來，人工智能技術的發展和應用不斷推動著網絡安全攻防自動化和智能化的水平，目前已經在惡意代碼檢測、惡意流量分析、漏洞挖掘、僵尸網絡檢測、網絡灰產檢測等各領域有了廣泛的應用。360集團AI安全實驗室主任鄒權臣在演講中表示，各個場景、各個領域的人工智能系統都存在著被攻擊和被欺騙的可能，因此亟需構建人工智能安全創新環境，通過開源開放與高等院校和科研院所進行對接與成果轉化，促進人工智能安全行業持續、健康、快速發展。值得一提的是，360安全大腦成功入選科技部“國家新一代人工智能開放創新平臺”，實現了大規模數據集、知識庫、AI模型、算法算力的開放。目前已經與清華大學、中科院自動化所、中科院信工所、北京瑞萊智慧科技有限公司、浙江大學等開展平臺共建合作。未來希望更多優秀的機構和團隊參與到這個平臺生態的建設過程中。

360集團AI安全實驗室主任鄒權臣

　　數字化轉型驅動技術變革，傳統的IT架構被顛覆，未知威脅變得更隱蔽，因此智能、堅固的安全體系比以往任何時候都重要，因此構建主動感知、敏捷智能、精準預警、全時可用的云網邊端一體化安全防護體系成為關鍵。新華三技術有限公司安全研究院院長顧成杰在演講中強調，云智原生將賦予企業和組織與生俱來的云與智能的架構和能力，加速釋放數據價值，企業要以原生的思維構建云安全體系，驅動安全與云計算深度融合；通過全域同構，實現公有云、私有云、邊緣云多場景的安全統一、極簡運營、一致體驗；通過多云管理，打造同構/異構多云安全一體化服務，打通本地和公有云側的安全能力。

新華三技術有限公司安全研究院院長顧成杰

　　隨著人工智能技術步入快車道，人工智能芯片使用成本的快速降低，深度學習框架等核心技術的開源與共享，AIoT智能硬件的快速發展，均在助力人工智能行業成功破圈。在智能物聯網（AIoT）時代，智能硬件產品正在逐步融入我們的生活，進一步改變我們的生活方式。360智慧生活集團技術中心總經理、360集團硬件專業委員會執行主席孫浩在演講表示，這個趨勢對應的是AI算力的平民化、邊緣化，即使在算法理論沒有進一步突破的前提下，AI能夠憑借更加低廉的硬件結合邊緣，融入終端設備，走入生活給整個行業來巨變。隨后，孫浩從AIoT融入家庭安全和智能家居場景的維度對360在智慧生活領域的思考和實踐做了分享。

　　360智慧生活集團技術中心總經理、360集團硬件專業委員會執行主席孫浩

　　可以預見，數字時代，人工智能作為最具顛覆性和戰略性的核心關鍵技術，與網絡安全相輔相成。人工智能可以提升網絡安全工作的的效率，網絡安全也要為人工智能的發展保駕護航。但人工智能安全不是任何一家公司、社區能夠獨立解決的問題，因此，需要構建開放創新的AI安全生態助力人工智能技術的穩健發展。