谷歌Gemini安全測試誤入侵三公司系統

谷歌人工智能模型Gemini今年5月於安全測試期間，意外入侵三家公司的受保護系統。事件由AI安全公司Irregular參與的測試引發，谷歌已確認並通知相關部門。業界領袖呼籲放緩AI開發速度，以應對風險。

谷歌（Google）的人工智能模型Gemini今年5月在研究人員測試其網絡安全能力期間，意外入侵了三家公司的受保護系統。谷歌周五證實，這些入侵發生在AI安全公司Irregular參與運行的測試中。Irregular此前亦參與了OpenAI、Anthropic及Meta Platforms已披露的類似事件。

據《華爾街日報》報道，Gemini其中一次入侵發生在該模型被要求從一家虛構公司獲取信息時，這家虛構公司恰好與一家真實公司同名，Gemini隨後猜中密碼並進入了這家真實公司的服務系統。谷歌發言人表示，公司已通知有關部門。

近期，OpenAI、Anthropic、Meta及谷歌開發的AI智能體系統接連發生入侵事件，引發網絡安全與AI專家憂慮。Anthropic執行長Dario Amodei呼籲整個行業放慢這項技術的開發速度。OpenAI執行長奧爾特曼（Sam Altman）及馬斯克（Elon Musk）等人對這項主張表示支持，並引發更廣泛討論，焦點包括AI風險不斷上升及所需採取的降低措施。

《華爾街日報》報道指出，另外幾起Gemini入侵事件發生在模型使用公司名稱進行網絡搜索時。這些搜索把它引向公開的線上代碼庫，其中包含其他公司的登錄憑證，Gemini隨後利用這些憑證進入更多系統。