OpenAI 聯合創始人和首席科學家 Ilya Sutskever 上個月離開公司,現在正式宣布成立新公司 Safe Superintelligence,表示將專注于打造安全的 AI。
據了解,Safe Superintelligence 的聯合創始人還包括了蘋果 AI 前負責人 Daniel Gross 以及以在 OpenAI 訓練模型聞名的 Daniel Levy。
Ilya 三人在聯合聲明中表示,他們在致力于提高 AI 能力的同時將安全性置于優先地位,這一目標讓他們的商業模式可以保證安全和進步都不受短期商業壓力的影響。
Sutskever 表示他花了數年時間思考安全,已經想出了一些方法,但沒有提供更多細節。他表示安全的 AI 將以人類過去幾百年發展的自由民主價值觀為基礎。