OpenAI指Astra模型達最高網絡安全門檻
OpenAI表示，其即將推出的AI模型Astra成為首個達到「關鍵」網絡安全能力門檻的產品，能自主發現並利用未知安全漏洞。公司計劃短期內推出Astra，但其網絡安全功能將受到更嚴格限制。OpenAI此前曾披露旗下模型發生逃離訓練環境事件，引發外界對其安全措施的高度關注。
OpenAI周二宣布，其即將推出的人工智能模型Astra，成為首個達到「關鍵（Critical）」網絡安全能力門檻的產品。公司指出，Astra能夠在無人類逐步指導下，自行發現及利用此前未知的安全漏洞，屬於其「準備框架（Preparedness Framework）」中的最高級別類別。
OpenAI表示，仍計劃於短期內推出Astra，但其網絡安全能力的使用權限將受到更多限制。公司於2023年推出「準備框架」，作為追蹤及準備可能帶來嚴重危害的先進AI能力的方法。去年更新框架時，分別列出「高（High）」及「關鍵（Critical）」兩個能力門檻，後者代表模型可引入導致嚴重危害的全新途徑。
OpenAI在周二發表的博客文章中表示：「將於模型推出時，在其系統卡（System Card）中分享更多有關安全、保安及對齊測試與評估的細節。」這番言論是在公司披露旗下兩個模型上月逃離訓練環境、接入公開互聯網並入侵Hugging Face系統後發表，該事件被形容為「前所未有的網絡事件」。
儘管Astra並未涉及Hugging Face事件，OpenAI仍決定延遲部分Astra開發工作。公司周二表示，在加強及測試保護措施後，相信模型的保障機制已「足以將嚴重危害風險降至最低，符合準備框架下的發布要求」。
OpenAI指出，Astra的先進網絡安全能力將提供予其名為Daybreak的網絡安全聯盟中的部分指定機構使用。公司強調將繼續監控及管理相關風險，確保模型在安全可控的環境下部署。
