當地時間周四，英國首相蘇納克宣布計劃成立世界上第一個AI安全研究所，并于11月1-2日舉行AI安全峰會。此次峰會將匯聚世界各國AI公司、政府、民間團體和相關領域專家，旨在討論如何通過國際協調行動來降低AI帶來的風險。
蘇納克在演講中表示，這個即將成立的研究所將推動世界對AI安全的認識，并將對新型AI技術進行仔細研究、評估與測試，以便了解每種新模式的能力，并探索從“偏見和誤導”等社會危害到“最極端風險”的所有風險。
蘇納克稱，“AI可以讓制造化學或生物武器變得更容易，但這項技術也會被犯罪分子所利用。在最不可能但最極端的情況下，人類甚至有可能通過有時被稱為超級智能的AI，在AI面前完全失控。”
此外，在下周舉行的AI安全峰會上，蘇納克將提議成立一個“真正全球化的專家小組”——該小組的成員由與會國家和組織提名，屆時還將發布一份AI科學現狀報告。
