AI兩巨頭促國際合作規管風險

OpenAI行政總裁Sam Altman與Anthropic行政總裁Dario Amodei周三呼籲加強國際合作，應對人工智能風險。Altman在聯合國安理會發言，強調各國必須團結維護集體利益；Amodei則要求禁止AI用於製造生物武器等任務。

OpenAI行政總裁Sam Altman與Anthropic行政總裁Dario Amodei周三呼籲加強國際合作，以應對不受約束的人工智能風險。Altman在聯合國安全理事會發言時表示，各國「必須」在面對強大新技術時團結一致，以維護「集體利益」。Amodei亦呼籲各國擱置分歧，應對AI被濫用所帶來的「全球威脅」。

兩名AI業界領袖均呼籲國際機構制定全球標準，以衡量新AI模型的能力及潛在風險。Amodei更要求聯合國安全理事會考慮達成有限協議，禁止利用AI執行某些任務，包括製造生物武器。他強調：「如果管理不善，我甚至相信AI可能對整個人類構成風險。」

Amodei上述言論發表不足兩周前，他曾發表長篇網誌文章，主張AI公司放慢新模型開發步伐。OpenAI與SpaceX行政總裁Elon Musk其後罕有公開支持Amodei的觀點。Amodei周三補充，Anthropic將「在安全前提下盡可能放慢步伐」。

目前尚不清楚相關放慢措施具體會如何實施，而OpenAI與Anthropic周二均已發布新模型。兩家公司正籌備大型首次公開招股，據報Anthropic估值最高可達2萬億美元。其他AI業界領袖對廣泛放慢AI研發步伐的想法則較為抗拒。

Meta Platforms行政總裁Mark Zuckerberg及Nvidia行政總裁黃仁勳表示，企業應自行調整發展步伐，淡化業界統一行動的必要性。美國總統特朗普亦公開反對放慢AI發展，他周二批評所謂控制該技術的「全球主義計劃」。

特朗普預定於周三晚在華盛頓接待中國國家主席習近平，並於本周舉行多場會議。周四，特朗普將於白宮舉行國宴，多名科技企業高層包括黃仁勳及Elon Musk將出席。市場預期，AI相關憂慮將成為特朗普與習近平會談的重要議題。Elon Musk本周接受中國官方媒體訪問時表示：「我認為，對全球安全非常重要的一件事，是中國與美國就AI監管平台達成共識，以確保AI對全人類的安全。」