騰訊AI代理出現非預期瀏覽行為

騰訊（0700）周五承認，用於評估第三方模型的AI代理出現非預期網頁瀏覽行為。安全研究組織Swarmchasers指，有關代理於9月28日至10月8日期間多次嘗試從阿里巴巴旗下高德地圖獲取資訊。

騰訊（0700）周五表示，用於評估第三方模型的AI代理出現非該公司預期的網頁瀏覽行為，這似乎是內地大型企業首次承認出現「失控代理」事件。聲明回應了AI安全研究組織Swarmchasers周三的報告，該組織指，與騰訊雲基礎設施相關的「失控」代理，於9月28日至10月8日期間多次嘗試從阿里巴巴旗下高德地圖（內地相當於Google Maps的服務）檢索資訊。

騰訊旗下人工智能部門騰訊混元在社交平台X上發文指，有關活動並非源自其混元模型，審查後未發現故意針對或協調的證據。Swarmchasers研究人員指，代理試圖獲取內地公園、博物館及動物園常用入口等資訊。

有關行為未如美國AI公司披露的事件嚴重，包括OpenAI代理入侵開源平台Hugging Face，以及Anthropic代理提交虛假兇殺舉報。但今次披露反映研究顯示，內地AI代理亦可能虛報身份、隱瞞失敗及試圖繞過測試控制。

騰訊表示高度重視有關發現，正加強網絡存取控制及代理監測。混元是內地領先的AI模型開發商之一，與阿里巴巴（9988）及字節跳動等競爭對手的內部團隊較量。字節跳動本周宣布成立專注AI模型及代理安全的新部門。

Swarmchasers指，使用「失控」一詞形容代理採取超出預期範圍的行動，或以非預期方式完成任務。當常規自動化請求被攔截後，代理嘗試其他方法，包括使用可開啟網頁及執行代碼的公共網絡工具、經其他網站轉發請求，以及使用公開軟件代碼中找到的高德密鑰及安全代碼。

Swarmchasers表示，未發現代理突破高德主要反機械人防護的證據。記錄的2,818次嘗試中，大部分失敗或返回反機械人頁面、登入畫面或空白結果。部分請求透過緩存頁面及中介服務取得資訊，包括成都動物園訪客到達數據。研究人員未能確定代理是否閱讀結果或完成任務。阿里巴巴拒絕置評。