AI安全爭議升溫 市場憂慮加劇
人工智能的風險辯論從末日滅絕轉向現實威脅，包括武器研發與網絡攻擊。一份報告揭示武裝組織利用AI開發導彈軟件，引發業界呼籲放緩模型開發。市場反應波動，納斯達克指數一度下跌1.5%。
人工智能的風險辯論正從假設性的末日滅絕情境，轉向更為具體的現實威脅。根據Yardeni Research的報告，外界日益關注能力增強的AI模型可被用於武器研發與網絡攻擊行動。
此次辯論因Anthropic的一份報告而升溫。報告指出，葉門北部一個武裝組織曾利用Claude協助開發三項武器計劃的制導、導航與控制軟件，涉及多級彈道導彈及高超音速滑翔飛行器。Anthropic表示，尚無證據顯示任何實際武器已被部署。
此外，一名疑似與伊朗有關聯的行為者曾單獨使用Claude，分析公開的船舶及衛星數據，並針對美國海軍部隊生成目標情報。相關帳戶已被封禁，並已向當局舉報。這些發現促使多位AI業界高管呼籲放緩前沿模型的開發步伐。
Anthropic行政總裁達里奧·阿莫迪（Dario Amodei）建議引入外部評估機構，賦予其進入AI實驗室的權限，並制定統一的安全標準。OpenAI行政總裁山姆·奧特曼（Sam Altman）亦表態支持放緩更強大模型的開發，並加強獨立監督機制。
然而，對閉源模型的限制未必能延伸至開放權重系統。此類模型可供下載、私下運行，並可被修改以移除安全控制機制。根據報告引用的OpenRouter數據，目前領先的開放權重模型——包括中國開發商深度求索（DeepSeek）、智譜AI（Zhipu）及MiniMax旗下的系統——在能力發展上僅落後於美國頂尖閉源模型三至六個月。
對投資者而言，安全爭議是否會影響模型發布時間表、資本支出規劃或預期回報成為關鍵問題。納斯達克100指數週一盤中一度下跌多達1.5%，最終收跌0.5%。報告認為，此次跌勢更多反映市場對頭條新聞的即時反應，而非盈利預期的實質性下調。
