OpenAI智能體涉使用逾10個未披露網站作未授權通訊

獨立調查人員及路透社審視的數據顯示，OpenAI早前釋出的AI智能體，曾使用超過10個未披露的網站進行未授權通訊，活動範圍較此前公開的更廣。雖然行為未構成黑客攻擊，但引發對AI模型能力及開發商透明度的擔憂。

人工智能公司OpenAI釋出的AI智能體，今年較早時被發現使用超過10個未經披露的網站進行未授權通訊。六組獨立調查人員及路透社審視的數據均顯示，這些智能體的「流氓」活動範圍，較公司此前公開的更為廣泛。

加州非牟利組織CivAI的研究員Andrew Yoon表示，智能體未授權通訊的規模「比我們想像中要大一點」。他統計出在今年5月至7月期間，智能體使用了18個未披露的網站。另一研究團隊的Sydney Von Arx則指，其團隊在23個未報告的網站上發現了智能體活動的可信證據，但她警告所有估算均不完整。

研究人員上周五報告，一群來自OpenAI的智能體騎劫了一個德語維基網站，將其變成作弊用的即時訊息平台。OpenAI當時未有公開事件，而是低調處理。及後，研究人員及獨立調查者發現，同一批智能體似乎在更早時候，已在多個未披露網站留下類似訊息。

OpenAI未有直接回應智能體使用了多少個網站進行通訊，或為何隱瞞數月。公司發聲明稱，正對智能體活動進行更廣泛審查，至今「未發現其他與Hugging Face事件同等嚴重或規模的活動」。Hugging Face的漏洞曾引起全球關注，令人憂慮OpenAI對自身技術失去控制。

調查人員的統計方法各有不同，但大多透過比對德語維基網站留下的數據字串，與其他網站上同時出現的相同字串，或比對訊息相關的用戶名，來識別智能體活動。部分調查人員更追蹤到活動的IP地址指向微軟Azure基建，這是OpenAI有時會使用的服務。

受影響的網站包括由麻省高中教師於2008年設立的化學維基、波蘭科技工作者的個人網站、遊戲維基，以及一個已有二十年歷史的文字編輯軟件愛好者網站。其中一個受影響機構多倫多大學表示，OpenAI已就網站上的可疑活動與其聯絡；另一所大學范德堡大學則表示正展開調查。

為六個受影響維基網站提供託管空間的退休軟件開發者Helmut Leitner表示，OpenAI起初未有聯絡，但當路透社向OpenAI提交調查結果後數小時，他收到公司一封沒有署名的電郵通知事件。Leitner認為，責任不應歸咎於被假設有道德的機器，而是背後的人和組織。