據外媒報道,美國國土安全部(DHS)于周四發布了一份戰略手冊,用于將人工智能安全集成到國家的關鍵基礎設施中。"關鍵基礎設施中人工智能的角色和責任框架"是與國土安全部部長 Alejandro N. Mayorkas 和新成立的AI 安全和安保委員會共同制定的,旨在指導人工智能集成商(包括云提供商、開發商和關鍵基礎設施運營商)合作。
該書面框架將涉及國土安全部確定的當今社會關鍵基礎設施面臨的核心風險領域的三個方面: 人工智能驅動的攻擊、對人工智能系統的針對性攻擊和設計缺陷。 該框架區分了每個人工智能利益相關者可能遇到的獨特挑戰,并針對每個群體提出了具體建議。
對于云和計算提供商而言、 它強調確保人工智能開發環境的安全,包括訪問管理和物理數據中心安全,同時鼓勵監控異常情況和報告可疑活動的途徑。
敦促人工智能開發者遵循安全設計方法,確保模型符合人類價值觀,評估偏差和失敗風險,并支持獨立評估。
建議關鍵基礎設施運營商為人工智能部署實施強有力的網絡安全,保護客戶數據,保持人工智能使用的透明度,并積極監控人工智能系統的性能,以告知開發人員潛在的影響。
鼓勵民間團體、大學和消費者權益倡導者參與標準制定,研究人工智能的社會影響,并幫助塑造人工智能在關鍵基礎設施中的安全部署。 同時,根據人工智能指導方針,地方和聯邦層面的公共部門實體負責促進負責任地使用人工智能,支持標準制定,并開展國際合作,保護可能受到全球影響的人。
Mayorkas 強調了人工智能對國家基礎設施的變革潛力,同時強調要以微妙、平衡的方式對待這項技術。 "該框架如果得到廣泛采用,將大大有助于更好地確保提供清潔水、穩定電力、互聯網接入等關鍵服務的安全和安保。"國土安全部討論各部門聯合目標的新聞稿中說。