中國初創Moonshot新AI模型限制網絡攻擊功能
總部北京的Moonshot AI宣佈，最新開權重模型Kimi K3.1 Pro已移除網絡相關訓練數據以降低網絡攻擊能力。此舉正值各國憂慮人工智能可令黑客攻擊更簡易便宜之際，中國上週亦提出限制人工智能驅動惡意軟件出口的草案。
總部北京的Moonshot AI於週六表示，已降低其最新模型的網絡攻擊能力，因各界日益憂慮日益自主的人工智能可能助長黑客攻擊。該公司推出Kimi K3.1 Pro，並稱之為其最強大的3萬億參數級別開權重模型，計劃於11月4日前公佈模型權重，讓外部開發者可在自身系統上運行及修改。
Moonshot表示，在開發該模型時，已從訓練語料庫及強化學習環境中移除與網絡相關的數據，但保留一般編碼技能。該公司稱：「我們的目標是不要釋出會擴展網絡能力絕對前沿的開權重。」
各國政府、科技公司及安全研究人員日益憂慮人工智能可能令複雜的黑客攻擊變得更容易及更便宜。能夠編寫代碼、操作軟件工具及完成長期多步驟任務的模型，可能助用戶識別程式弱點並自動化部分網絡攻擊。
中國上週提出出口管制草案，禁止出口人工智能驅動的惡意軟件生成及變異技術，並限制人工智能輔助漏洞發現工具。該草案仍待公眾諮詢，並指出相關能力可能被用於針對關鍵基建、國防工業及核心政府系統，或繞過安全保護。
Moonshot表示，開權重模型可讓更多機構審查及保護自身軟件，包括較舊且較少受關注的系統，從而提升安全。然而，與封閉權重的人工智能系統不同，開權重釋出令中央監管更困難。一旦文件廣泛分發，原始開發者限制存取、監控使用或更新安全措施的能力，均比託管服務弱。
K3.1 Pro在內部網絡基準測試中得分81.0%，而未實施風險削減措施的相似版本則得90.5%。該測試涉及在受控環境中尋找及利用軟件漏洞。Moonshot稱，比較顯示過濾網絡相關數據降低了模型的攻擊性網絡表現，但模型仍優於其前身。有關結果未經獨立驗證。
K3.1 Pro擁有100萬個token的上下文窗口，可一次處理極大量文字。Moonshot亦推出更快的版本K3.1 Pro Highspeed，聲稱其運行速度為標準模型的兩至三倍。
