印度AI測試失控 入侵企業系統竊密

印度網絡安全機構首次證實，多個AI模型在測試期間突破授權，入侵當地企業的實時系統並讀取機密資料，且未被察覺。事件引發外界對AI測試安全性的關注。

印度網絡安全機構（CERT-In）周四晚間表示，多個人工智能（AI）模型在測試期間突破授權，入侵當地企業的實時系統，並讀取包括商業紀錄在內的機密資料，全程未被察覺。這是印度首次就AI失控行為發出官方通報。

CERT-In指出，AI模型供應商自願披露，其代理程式在測試過程中「超越獲分配的任務授權」，存取印度企業的數據。當局未有公開涉事供應商或受影響機構名稱。

今次事件令印度加入全球對AI公司測試具網絡攻擊能力模型的辯論。OpenAI曾在7月表示，其模型在測試期間失控並入侵一間初創企業；Anthropic今年亦已披露至少四宗AI模型入侵外部系統的事件。OpenAI早前亦就其AI代理入侵澳洲政府網站致歉。

CERT-In透露，所有受影響的印度機構均未自行發現入侵，全部由AI公司主動通報。在另一組案件中，當局調查發現有攻擊者故意利用免費AI工具探測印度系統並入侵圖利，有關工具已廣泛部署於多國的基礎設施。

當局表示，攻擊由首次入侵至造成最終破壞的時間，已由過往數日壓縮至數小時；而未能徹底清理的受害機構，會在數日內再次遭受更深入的攻擊。