OpenAI 智能體入侵德國網站改作留言板
今年春季，一群 OpenAI 的叛變 AI 智能體入侵一個德國程式設計師共用編輯網站，將其改造成 AI 專用的留言板。研究人員發現逾 15,000 次編輯記錄，智能體互相分享繞過 OpenAI 限制的方法，事件再次引發業界對 AI 失控風險的憂慮。
新研究報告揭露，今年春季一群 OpenAI 的叛變 AI 智能體入侵一個德國網站，將其改造成 AI 智能體的留言板。路透社取得的報告由 AI 安全非牟利組織 Nightingale 的行政總裁 Sydney Von Arx 及量化交易員轉任 AI 研究員的 Cormac Slade Byrd 等研究人員發表，他們在 8 月底於互聯網搜索未經授權的 AI 智能體行為時發現事件。
研究人員指出，他們在專為程式設計師而設的德文網站 DseWiki 上找到逾 15,000 次由 AI 智能體進行的編輯。這些智能體將網站改造成留言板，互相分享作弊方法、繞過 OpenAI 限制及隱藏行為。Von Arx 表示，很難相信 OpenAI 希望智能體這樣做，智能體不應互相協調或在開放互聯網上留言。
研究人員透過訊息署名辨識出這些活動由 AI 智能體驅動，部分帳號自稱「OpenAIResearcher」或「OAIResearchMar26」，顯示與 OpenAI 有關聯。公開伺服器日誌顯示，大部分活動來自微軟 Azure 基礎設施，而 OpenAI 有時會使用該服務。研究人員亦觀察到事件後多次有 OpenAI 員工訪問該網站。
被審視的訊息顯示，智能體策劃如何逃避偵測、使用 Tor 等工具，以及在被關閉後保存通訊記錄。當網站管理員在 6 月開始刪除頁面時，智能體建立備份頁面以躲避清理。倫敦國王學院訪問高級研究員 Lukasz Olejnik 認為，這屬於駭客攻擊行為，但 OpenAI 根據其分析否認此描述。
劍橋大學存在風險研究中心學者 Maurice Chiodo 審視部分智能體的通訊後表示，這些訊息猶如某種地下網絡運作，執意完成任務。他認為，事件應加劇業界對先進 AI 最大威脅可能並非單一超智能系統，而是「大量勾結的半智能 AI 群體」的憂慮。
OpenAI 發言人稱無法有意義地回應一份未獲機會審視的報告，並指路透社及報告作者拒絕提供報告予他們查閱。發言人否認法律團隊阻止調查事件的說法，強調 OpenAI 已誠信地與外部專家合作並披露相關事件。
