AI技術(shù)在引發(fā)科技變革、提升生產(chǎn)力和效率等方面展現(xiàn)了巨大的潛力，但與此同時(shí)，它帶來的安全隱患也越來越凸顯。利用深度偽造制造假象、操縱輿論甚至進(jìn)行欺詐活動(dòng)已經(jīng)侵?jǐn)_了正常的公眾生活，“AI騙局”的新手段層出不窮，讓人防不勝防，AI技術(shù)淪為了新式電信詐騙的“幫兇”。

在前段時(shí)間的“3·15”晚會(huì)上，信息技術(shù)實(shí)驗(yàn)室這次公布了一系列利用AI技術(shù)進(jìn)行的“新型詐騙”：一位女士接到女兒被綁架的電話，電話另一端傳來的女兒的哭聲令女士慌了陣腳。報(bào)警后，警方調(diào)查結(jié)果證明，這通電話是由詐騙分子借用虛擬號(hào)碼，再通過AI擬聲技術(shù)進(jìn)行的詐騙行為。另外一個(gè)案例看起來更是“高級(jí)”，公司職員接到到了老板的視頻電話，被要求轉(zhuǎn)賬180萬(wàn)余元，然而實(shí)際上視頻中的“老板”只是用AI的合成技術(shù)制作出的“李鬼”。

深度偽造不是一項(xiàng)全新的技術(shù)，但如今，生成式AI技術(shù)的爆發(fā)式發(fā)展大大降低了其門檻，增強(qiáng)了偽造的真實(shí)感，雖然科技含量不高，但套路滿滿，讓人防不勝防。這些案件背后，都是犯罪分子利用AI技術(shù)對(duì)人的面部形象、說話聲音進(jìn)行了模仿。受害者眼見不一定為實(shí)，耳聽的也有可能為虛。

警方指出，無論是AI模擬聲音還是AI視頻通話，其持續(xù)時(shí)間普遍較短，通常只有數(shù)秒鐘。這主要是因?yàn)檫@些視頻通話中所使用的均為預(yù)先制作的偽造視頻，播放時(shí)間越長(zhǎng)，被受害者看出“端倪”的概率越大。在當(dāng)前技術(shù)水平下，要在點(diǎn)對(duì)點(diǎn)的實(shí)時(shí)視頻通話中實(shí)現(xiàn)高度逼真的AI換臉是極具挑戰(zhàn)性的。這不僅需要突破視頻通話軟件的安全防護(hù)體系，而且還需要大量數(shù)據(jù)的輸入、專業(yè)算法的支持以及持續(xù)的優(yōu)化迭代。

01 AI技術(shù)的AB面

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)。一方面，人工智能賦能國(guó)家安全相關(guān)領(lǐng)域，是筑牢國(guó)家安全屏障的有力抓手。另一方面，人工智能因其脆弱性、不穩(wěn)定性、不可解釋性等特點(diǎn)，在與經(jīng)濟(jì)社會(huì)深度融合應(yīng)用的過程中，極易引發(fā)國(guó)家、社會(huì)、企業(yè)和個(gè)人等層面的安全風(fēng)險(xiǎn)。

AI技術(shù)就如同放在手上的硬幣，不論朝上的一面如何“奪目”，都不能忽視其背面的存在。隨著以ChatGPT為代表的大模型的開放和應(yīng)用，AI生成技術(shù)的使用門檻不斷降低，引發(fā)了社會(huì)各界對(duì)人工智能安全與合規(guī)問題的廣泛關(guān)注。據(jù)網(wǎng)絡(luò)安全公司Darktrace的報(bào)告指出，類似ChatGPT的生成式AI技術(shù)導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊數(shù)量激增135%。

此外，利用深度學(xué)習(xí)技術(shù)的“深度偽造”手段，能夠?qū)崿F(xiàn)圖像、聲音、視頻等多媒體內(nèi)容的篡改和偽造，生成高度逼真且難以辨識(shí)的虛假信息，嚴(yán)重干擾了公眾的認(rèn)知和判斷能力。在網(wǎng)上搜索AI換臉、AI變聲等，輸入圖片就可以輕松“換臉”的平臺(tái)十分常見，也可以自如地訓(xùn)練和制定聲音，從而合成視頻輸出。不僅如此，奇安信科技集團(tuán)董事長(zhǎng)齊向東此前指出，生成式人工智能技術(shù)還可以快速生成釣魚郵件、編寫惡意軟件與代碼，導(dǎo)致AI欺詐事件頻繁發(fā)生。

02 “用魔法打敗魔法” 用AI治理AI

隨著全球范圍內(nèi)對(duì)人工智能安全治理的日益重視，安全領(lǐng)域的技術(shù)也在不斷創(chuàng)新。

對(duì)此，齊向東認(rèn)為，“AI帶來的安全問題，只能用AI來解決。”AI一方面讓安全問題凸顯，同時(shí)也在賦能網(wǎng)絡(luò)安全行業(yè)，在促進(jìn)攻防技術(shù)升級(jí)上有大作用，這將推動(dòng)攻防雙方在AI利用方面展開競(jìng)賽。

“人工智能不會(huì)取代網(wǎng)絡(luò)安全專家，但是它會(huì)讓網(wǎng)絡(luò)安全專家更有能力應(yīng)對(duì)危險(xiǎn)，所以人工智能應(yīng)該是在網(wǎng)絡(luò)安全領(lǐng)域掀起一場(chǎng)技術(shù)革命，讓網(wǎng)絡(luò)安全行業(yè)變得更好。”齊向東表示，應(yīng)鼓勵(lì)各個(gè)行業(yè)的龍頭公司和網(wǎng)絡(luò)安全公司合作，把AI安全技術(shù)融入數(shù)字化場(chǎng)景當(dāng)中，進(jìn)行有效的安全防護(hù)。

360集團(tuán)創(chuàng)始人周鴻祎則建議，業(yè)內(nèi)應(yīng)制定保障通用大模型安全的標(biāo)準(zhǔn)體系，推動(dòng)通用大模型開展安全評(píng)測(cè)、接入安全服務(wù)，降低通用大模型安全風(fēng)險(xiǎn)。圖靈獎(jiǎng)得主約書亞·本吉奧指出，科學(xué)還無法確保這些未來的人工智能系統(tǒng)是安全的，應(yīng)該從現(xiàn)在開始，尋找科學(xué)的應(yīng)對(duì)方案和全球性政治解決途徑。

從供給側(cè)看，圍繞攻防應(yīng)用場(chǎng)景研發(fā)“AI+安全”尖端技術(shù)。鼓勵(lì)各行業(yè)頭部企業(yè)與專業(yè)安全廠商合作，探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測(cè)、漏洞挖掘、指揮研判等方面的應(yīng)用，推動(dòng)“AI+安全”進(jìn)入良性循環(huán)。

從需求側(cè)看，建議政府強(qiáng)化政策牽引，對(duì)研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)給予支持，推動(dòng)“AI+安全”相關(guān)產(chǎn)業(yè)取得更多科技創(chuàng)新成果，壯大“AI+安全”領(lǐng)域。