有效利他主義與AI憂慮的哲學根源
有效利他主義（EA）是一套以證據和理性為本的慈善運動，在矽谷和華盛頓引發爭議。其支持者認為EA能有效分配資源，但特朗普政府批評它誇大人工智能的風險。本文探討EA的起源、發展及其與AI憂慮的關聯。
有效利他主義（Effective Altruism, EA）是一套以證據和理性為本的慈善運動，近年成為華盛頓和矽谷最受爭議的思想之一。Anthropic行政總裁達里奧·阿莫迪（Dario Amodei）雖然表示自己並非其中一員，但他的個人和專業圈子卻與EA緊密相連。支持者認為EA是理性、有實證地行善的方法，但特朗普政府內許多人批評它助長對人工智能的誇大憂慮。
EA的哲學根源可追溯至澳洲哲學家彼得·辛格（Peter Singer）。他在1972年提出，如果合理的人會認為弄髒衣服去救一個溺水兒童是道德正確的，那麼他們也應該犧牲更多資源和舒適去拯救外國的生命，因為距離不應成為障礙。這個想法獲得富裕捐贈者的認同，他們感到有道德義務去付出，同時希望金錢能發揮最大效益。
EA在2000年代末至2010年代初的科技樂觀主義時期成形。2007年，金融專業人士霍爾登·卡諾夫斯基（Holden Karnofsky）和伊利·哈森菲爾德（Elie Hassenfeld）辭職創立GiveWell，以數據分析慈善機構的成效。卡諾夫斯基曾是阿莫迪的室友，現在是他的姐夫。兩年後，牛津大學哲學家威廉·麥卡斯基爾（William MacAskill）和托比·奧德（Toby Ord）發起「盡其所能捐贈」運動，鼓勵人們把至少10%收入用於解決全球貧窮。
EA的三大主要關注範疇包括全球貧窮、工廠化養殖動物和「全球災難性風險」，後者是最具爭議的一環。邁阿密大學教授理查德·查佩爾（Richard Chappell）表示，這種對未來的憂慮正是人工智能的切入點。EA的數據驅動思維令它在科技界和華爾街找到追隨者，包括加密貨幣金融家山姆·班克曼-弗里德（Sam Bankman-Fried），他因欺詐被判入獄25年，曾是Anthropic的早期投資者。
EA對AI的關注亦受理性主義運動影響，該網上社群由作家埃利澤·尤德科夫斯基（Eliezer Yudkowsky）創立，他自2000年代起警告超級智能AI可能毀滅人類。兩個運動在成員和理念上重疊，都強調以證據和概率推理，並相信防止人類滅絕應是首要任務。上月，27歲研究員雅各布·科克森（Jacob Coxon）辭去Anthropic職務，警告AI公司「拿我們的生命賭博」，其貼文瀏覽量超過1億次。數日後，阿莫迪發表長文，指AI日益增加的風險需要放緩發展。
