Anthropic CEO籲AI公司減慢模型開發速度
Anthropic行政總裁Dario Amodei呼籲人工智能公司減慢模型能力提升的速度，並提出三步框架，包括設立獨立評估員、前沿AI公司協調安全標準及國際合作，以管理AI被濫用的風險。Elon Musk及Sam Altman均表態支持。Amodei強調此舉並非停止技術進步，而是為安全措施爭取時間。
人工智能公司Anthropic行政總裁Dario Amodei呼籲業界減慢AI模型能力的提升速度，並提出一個三步框架，旨在為管理相關風險爭取更多時間。Amodei上周六（13日）在社交平台X發表長文，表示「我們必須減慢提升AI模型能力的步伐，但進步速度仍會很快，我們要善用所爭取到的時間」。
Amodei的三步計劃包括：在前沿AI公司內部設立具員工級權限的獨立評估員，以核實安全措施；協調頂尖AI公司制定安全標準，限制未經監管的AI發展；以及推動國際合作以管理AI風險。xAI行政總裁Elon Musk及OpenAI行政總裁Sam Altman均在X上發文表示同意。Altman更稱「設立具員工級權限的獨立評估員是個好主意，我們也會這樣做」。
Amodei發表文章前，Anthropic於上周四（11日）發布一份威脅情報報告，詳細披露多名行為者利用其Claude AI模型進行武器開發、網絡行動、監控及詐騙等活動。Amodei指出，AI自我改進的能力日益增強，加上近期OpenAI及Hugging Face發生的事件，是他呼籲減慢模型開發的主要原因。
外界對AI潛在危害的憂慮本周升溫，Anthropic研究員Jacob Coxon辭職時表示，「開發AI的人真心相信，它可能在十年內殺死我們所有人」。Amodei強調，並非要求停止模型訓練或技術進步，而是確保公司有足夠時間調整及保護模型，並由第三方評估員確認相關步驟。
然而，保持領先地位涉及巨額資金。OpenAI及Anthropic正籌備大型首次公開招股（IPO），每一項新能力都有助於日後的融資、基建承諾或上市。Amodei透露，Anthropic將在前沿AI公司內部設立永久第三方審查員，並賦予他們相關工具及內部風險評估程序的權限。
Amodei同時指出，民主國家的減速應以保持美國AI公司相對於中國的領先優勢為限，因為中國在AI領域取得優勢將對美國構成國家安全風險。他呼籲加強對先進AI芯片、模型蒸餾及模型權重竊取的控制，以防止中國縮窄差距。
