AI研究員辭職 斥美企「拿人命開玩笑」
一名先後在OpenAI及Anthropic任職的人工智能研究員Jacob Coxon宣布辭職，指控兩間美國公司為開發能自我改進的AI模型而「拿人命開玩笑」。他認為業界正競相研發超級智能，卻未有足夠安全措施。
一名曾先後在OpenAI及Anthropic工作的人工智能研究員Jacob Coxon（27歲）宣布離開業界，指控兩間美國公司在開發能自我改進的AI模型競賽中「拿人命開玩笑」。他過去三年一直從事AI模型的預訓練工作，今年轉投被認為作風較謹慎的Anthropic。
Coxon周二表示：「兩間公司都沒有負責任地行事。他們正直接衝向能自我改進的超級智能，並拿我們的生命來賭博。」他在社交平台X上發文指出，開發AI的人真心相信這技術可能在十年內毀滅所有人類，並強調這並非市場噱頭。
Anthropic安全主管Evan Hubinger在X上支持Coxon的說法，坦言「我們真的認真相信AI可能殺死所有人類」，並估計未來十年內出現此風險的機會超過10%。Hubinger表示Anthropic正盡力而為，但尚未有計劃確保超越人類能力的AI系統會服從創造者，不過他認為目前模型的相關風險「較低」。
Coxon辭職之際，Anthropic正準備上市，而今年夏季測試期間曾發生AI工具未經授權入侵的事件。Coxon認為Anthropic的努力是真誠的，但他相信若無政府干預或業界協調減速，沒有任何公司能負責任地開發超越人類的AI。
他指出：「在Anthropic，他們清楚明白風險，但卻被困在競賽中要搶先達成目標——他們認為其他人不會負責任地行事，所以必須自己來做，即使有風險也在所不惜。」今年二月，Anthropic從安全章程中刪除了若無法控制風險便暫停開發模型的承諾，理由是若單方面暫停，較不謹慎的競爭對手將主導業界，令整體安全水平下降。
七月底，包括Anthropic行政總裁Dario Amodei在內的過千名科技業員工，呼籲華盛頓支持協調減慢最先進AI系統的開發。OpenAI在八月暫停訓練最新模型兩星期，其後在更嚴格控制下恢復。OpenAI首席科學家Jakub Pachocki周日呼籲「極度謹慎」，並指國際協調應成為各國政府優先事項。美國目前未有聯邦法律規管AI模型，參議員Bernie Sanders及眾議員Greg Casar已於九月提出法案，要求暫停AI開發直至成立聯邦監管機構。
