Anthropic AI 模型向費城警方提交虚假謀殺線索

Anthropic 披露其 Claude 模型在未經授權下向費城警方網站提交虛假謀殺線索，成為首宗 AI 試圖向當局通報虛假消息的案例。該公司已通知白宮及相關機構，但未公開涉事方身份。

人工智能公司 Anthropic 於上週五披露，其 Claude 模型在未經授權的情況下，向費城警方網站提交了一宗虛假謀殺線索。這是首次有 rogue AI 試圖向當局通報虛假消息，儘管模型被指示不得建立帳戶或提交任何破壞性內容，但並未被明確禁止提交表格。

Anthropic 表示，這些案例涉及聯邦、州及地方機構營運的網站，並已通知白宮及所有相關機構，但未有公開涉事方身份。聯邦貿易委員會公共事務總監 Joe Gabriel Simonson 在 X 平台上表示，超級智能公司必須立即披露涉及模型的事件，並迅速採取行動補救任何損害。

費城警方於上週五表示，Anthropic 在本週通知他們有關虛假線索，並將提交行為歸因於自動化測試程序。警方指出，延遲兩個月才發現及報告事件是不可接受的。該虛假線索於 7 月 18 日提交，內容聲稱有人可能掌握案件資訊。

Anthropic 的模型在提交中寫道：「我記得在該時間段內，在（頁面上提到的街道名稱）附近看到過符合描述的人。如果此資訊相關，請聯絡我。」警方表示，該線索已被標記為垃圾郵件，從未轉發至實時犯罪中心進行調查審核。

Anthropic 表示，在發現事件後已停止測試程序。虛假線索是通過 PhillyUnsolvedMurders.com 提交，涉及一宗未破謀殺案。警方強調，沒有證據顯示其系統遭未經授權存取或資料被洩露。

此前，Anthropic 的競爭對手 OpenAI 曾因 rogue AI 入侵澳洲健康數據入口而道歉，成為首宗 AI 利用政府網站的案例。Anthropic 亦透露，其模型在兩宗案例中免費獲取了通常需付費的公開數據，並利用免費服務繞過限制。