近一年以來，AIGC（生成式人工智能）技術火爆全球，越來越多的“黑科技”進入人們的生活之中，帶來無數新奇的科技體驗。與此同時，人們也憂心于愈加頻發的高科技詐騙事件，萬物皆可P、AI換臉、人聲生成等擬真技術也導致了許多犯罪行為的發生。

　　面對AI引發的信任焦慮，中國信息通信研究院于近日主辦了“聚焦·大模型時代AIGC新浪潮”論壇，圍繞“多模態基礎大模型的可信AI”這一熱門議題開設專場分享。論壇分享中，深耕人工智能領域多年的合合信息展示了為AI可信化落地賦能的多項圖像內容安全保護技術。

　　各類網絡詐騙案件中，人們最難以區分真假的還屬包含轉賬記錄、隱私聊天記錄、商業機密等重要信息的經過PS處理的截圖。除了肉眼根本無法鑒別之外，在技術檢測上，背景沒有紋路和底色、沒有光照差異的截圖檢測也比證照篡改檢測難度更大。

合合信息AI圖像篡改檢測技術應用效果展示

　　早在2022年的世界人工智能大會上，合合信息就展示了其對證件圖片篡改痕跡達到的“像素級”識別的“PS篡改檢測”技術；今年，合合信息更是將該技術升級為“AI圖像篡改檢測”技術，能夠識別截圖中多種篡改方式留下的痕跡。

　　合合信息AI圖像篡改檢測技術基于深度學習的圖像篡改檢測技術及相關系統，通過學習圖像被篡改后統計特征的變化，無論是“摳下”關鍵要素后移動“粘貼”至另一處的“復制移動”圖片篡改手段，還是“擦除”“重打印”等方式，篡改過程中留下的細微痕跡都能被捕捉到，并以熱力圖的形式展示圖像區域篡改地點。

　　此外，針對現有的視覺模型通常難以充分發掘原始圖像和篡改圖像的細粒度差異特征的難點，合合信息提出了一種基于HRNet的編碼器－解碼器結構的圖像真實性鑒別模型，能夠捕捉到細粒度的視覺差異，達到高精度鑒別效果。

　　除了圖像篡改外，合合信息還在本次論壇中發布了針對以“AI換臉”等生成式圖像詐騙手段開發的生成式圖像鑒別技術。該技術基于空域與頻域關系建模，避開了常規的窮舉檢測思路，利用多維度特征來分辨真實圖片和生成式圖片的細微差異，在反詐騙、版權保護等領域的應用空間十分廣泛。

　　在這場隱形的AI技術安全保衛戰中，合合信息利用自身技術優勢為行業提供有效指引，以實際行動助力人工智能倫理規范和法律規范完善工作的推進。合合信息也期待更多研究機構、企業主體參與進來，共同推動AI服務規范性的整體提升和行業發展秩序的建立，助力科技向上而行，向善發展。