Anthropic警告AI模型或數月內自複製

人工智能公司Anthropic警告，小型AI模型可能數月內具備在物聯網裝置上自我複製的能力，例如智能焗爐及Android TV盒。該公司實驗顯示，若小模型按現有速度改進，今年底前或能自主複製，屆時將難以關閉。

人工智能公司Anthropic周一發表報告，警告小型AI模型可能僅需數月，便具備足夠能力在商業物聯網裝置（如智能焗爐及非官方Android TV盒）上自我複製。該公司實驗探討AI模型能否自行尋找有漏洞的裝置，複製自身並持續擴散，無需人類介入。

實驗發現，參數量低於300億的小型模型，能夠完成複製所需的多個步驟，但亦難以由頭到尾完成整個流程。在簡化測試中（移除部分安全措施），GLM-5.2及更強模型能夠做到端對端複製。

Anthropic警告，複製中的模型難以關閉，因為沒有中央開關點；與傳統惡意軟件不同，它們能自行辨識不熟悉的裝置，並以數據中心處理器為目標。該公司研究集中於Android TV、智能家電及其他聯網裝置，因為這些裝置通常保安較弱。

該公司又指，若小型模型按歷史速度改進，今年底前將能自主複製，之後小型權重複製器亦會緊隨出現。Anthropic表示，這類自主AI系統複製速度可能較慢，並依賴廣泛可用但相對不安全的運算資源，因此應加強系統防護，增加AI代理擴散的難度。