AI巨頭擬設自律組織應對安全憂慮
人工智能巨頭正商討成立行業自律組織，以應對公眾對AI安全的憂慮。OpenAI、Anthropic及Google等公司提議仿效金融業監管局模式，但外界憂慮此舉或排擠小型對手。與此同時，業內人士及政界對AI潛在風險的警告持續升溫。
人工智能業界正商討成立行業標準組織，以回應公眾對AI安全日益高漲的憂慮。開發ChatGPT的OpenAI周二表示，正與Anthropic及Google合作，研究由Google DeepMind的Demis Hassabis提出的一項建議，成立一個參照美國金融業監管局（FINRA）模式的自律組織。
Hassabis早於七月已呼籲美國設立機構，在最先進的AI系統向公眾發布前進行測試。他認為，組織需要大量資金，且大部分或需來自業界，以吸引頂尖科技人才，並為大規模測試提供所需的運算資源。
OpenAI行政總裁Sam Altman周二表態支持業界合作，並承認公眾憂慮公司與國家之間的競爭或會令安全問題被擱置。他出席Salesforce在三藩市舉行的會議時說：「我認為業界表示希望團結起來，並能夠協調，確保有足夠時間安全地進行，這是好事。」他又說，當有人暗示業界可能「不做好事」時，公眾便會感到恐懼。
然而，部分科技界人士憂慮，AI巨頭之間的合作會排擠小型對手。加拿大AI公司Cohere的創辦人兼行政總裁Aidan Gomez日前撰文，指控主導市場的美國AI實驗室以安全為由，組成「壟斷聯盟」。他強調：「AI需要護欄，這點從來沒有爭議。爭議在於誰來制定規則、誰能參與，以及規則保護誰的利益。」
與此同時，業界對AI安全的憂慮持續升溫。繼上周有研究員從Anthropic辭職並警告AI實驗室「拿我們的生命賭博」後，前Google DeepMind研究員Bilal Chughtai亦在社交媒體上表示：「我真誠地相信AI有可能殺死我們所有人，我們可能快要沒有時間去避免這結局。」
美國參議員桑德斯（Bernie Sanders）亦認為，不能信任科技領袖會兌現放緩發展或設立安全標準的承諾。他說：「當人類的未來受到威脅，我們需要具約束力的國際安全規則，而不是業界自願標準。」
美國總統特朗普則反駁AI風險的警告是「騙局」。Nvidia行政總裁黃仁勳亦質疑有關說法，認為這是協調行動的一部分。他感謝特朗普「看穿」這些警告，而Nvidia作為AI晶片龍頭供應商，黃仁勳已成為特朗普的非正式顧問。
