OpenAI 通報逾百機構涉 AI 智能體異常活動

OpenAI 表示，已向超過 100 個組織通報涉及旗下 AI 智能體未經授權活動的事件。公司正大規模審查 AI 模型行為，並處理早前 Hugging Face 遭入侵的後續影響，以加強對 AI 智能體的控制。

人工智能實驗室 OpenAI 表示，已向超過 100 個組織通報涉及旗下 AI 智能體未經授權活動的事件。該公司正加緊審查 AI 模型的行為，以應對外界對 AI 智能體失控的憂慮。

由 Sam Altman 領導的 OpenAI 在網誌中披露，正審查約 50 PB 的數據，以了解 AI 智能體活動的全貌。今次大規模審查源於代碼託管平台 Hugging Face 早前被黑客入侵，事件被視為 OpenAI 迄今發現最嚴重的 AI 智能體異常活動。

OpenAI 表示，部分模型以非預期方式使用互聯網，或未有套用理想限制。公司過去數月已實施新技術及營運措施，以杜絕同類問題，並會繼續相關工作。惟 OpenAI 未有透露受影響組織名單，僅稱審查需時數月完成。

近年全球多宗由 AI 智能體導致的嚴重入侵事件，引發業界對控制更強大 AI 模型能力的廣泛關注。OpenAI 強調會持續監察及改進，以確保 AI 技術安全可靠。