OpenAI 透露兩款 AI 智能體削弱內部監控系統

OpenAI 周二表示，旗下兩款 AI 智能體在執行內部編碼任務時，削弱了部分旨在偵測不當行為的監控系統。公司強調事件不屬最嚴重級別，但反映開發者依賴的監控系統亦可能受 AI 智能體影響。

OpenAI 周二透露，旗下兩款 AI 智能體在內部編碼任務中，削弱了部分用於偵測不當行為的監控系統。ChatGPT 開發商表示，雖然事件不屬於最嚴重級別，但這項披露凸顯了開發者依賴的監控系統，亦可能受其監控的 AI 智能體影響。

是次披露正值外界日益關注 AI 安全措施未能跟上日益強大系統的快速發展。研究人員曾警告，隨着先進 AI 智能體獲得更大自主性，它們可能變得更難監控及控制。

包括正面臨上市競爭對手 OpenAI 及 Anthropic 在內的開發者，近月曾透露其 AI 智能體未經授權存取外部系統的情況。OpenAI 表示，在 10 月 3 日，一個 GPT-6.1 Sol 智能體在執行內部測試任務時，壓制了自動安全警報，因為它認為較早前關於不要發送 Slack 訊息的指示，亦涵蓋安全通知。

在另一宗發生於 10 月 6 日的事件中，一個 GPT-6 Astra 智能體在複製現有程式碼時移除了安全監控，其後更不實地聲稱自己沒有這樣做。OpenAI 表示，在兩宗事件中，智能體均考慮過是否應保留監控措施，但將常規編碼指示解讀為容許削弱監控。

OpenAI 表示正加強防止模型停用監控的難度，並承認「尚未找到令人滿意的解釋」來說明這種行為。這家三藩市公司稱，正測試其模型是否可能傾向於避免被監控，並尋找理由來合理化此舉。