前Anthropic研究員稱AI掌握在私營巨擘手中「荒謬」
前Anthropic研究員Jacob Coxon於公司上市當日批評,人工智能由盈利主導的企業開發是「荒謬」情況。他警告,若容許AI自主進行「遞歸自我改進」,最快可能於2027年底出現極危險的超智能系統。
人工智能研究員Jacob Coxon周四向法新社表示,見到這項強大科技由盈利主導的大型企業開發,是「荒謬」的。這位27歲的英國人形容,在他前僱主創下股市紀錄的這一天,「感覺很奇怪」。
Coxon在Anthropic位於三藩市的總部外發表言論,現場有抗議者要求禁止開發能夠自主生成新一代模型的技術,業內稱之為「遞歸自我改進」。他曾在OpenAI工作三年,負責模型預訓練階段,其後在Anthropic短暫任職。
Anthropic在周三的上市日中估值達1.5萬億美元,首日在納斯達克交易所收市時估值為1.3萬億美元。OpenAI本月初據報在私人融資中估值達1.25萬億美元。Coxon認為,這反映情況已變得「瘋狂」。
Coxon於9月8日在社交平台X上宣布辭職,指控兩家公司「正競相邁向能自我改進的超智能」。他當時寫道:「開發AI的人真心相信,它可能在這個十年末殺死我們所有人。」他向法新社補充,遞歸自我改進可能在理論上將數十年的AI研究壓縮至數月,若無法理解AI系統,到2027年底便可能出現極危險的先進系統。
儘管Coxon在Anthropic的股份尚未完全歸屬便辭職,他仍持有OpenAI的股權,若該公司如期在2027年上市,其價值可能相當可觀。他曾在史丹福大學形容這些股份為「血錢」,但之後承諾將所有股份價值捐贈給AI安全組織。
Coxon計劃轉向非牟利機構工作,專注AI安全研究。他認為唯一能減慢AI公司發展的是政治行動,形容「這是政治問題,不是技術問題」。他整體上支持AI科技,但提醒人們慎思,稱聊天機械人並非最終形態,系統正邁向能執行所有人類勞動的廣泛能力。