奧特曼考慮放緩AI開發步伐應對安全憂慮

OpenAI執行長山姆·奧特曼正考慮放緩前沿人工智能開發速度，並可能與其他AI實驗室協調進行。此舉源於外界對AI系統安全性的持續擔憂，OpenAI亦已採取暫停訓練等措施。

據彭博新聞週五報道，OpenAI執行長山姆·奧特曼（Sam Altman）正考慮放緩前沿人工智能的開發速度，並可能與其他AI實驗室協調進行。此舉背景是外界對日益強大的AI系統安全性的擔憂持續升溫。

據知情人士透露，奧特曼本週在一次全公司會議上討論了這一可能性。相關構想涉及多家AI公司自願放緩開發進程，但部分實驗室可能不會同意此類安排。

OpenAI首席科學家雅庫布·帕喬基（Jakub Pachocki）近期呼籲在建立統一安全標準之前自願放緩開發速度，並警告稱沒有任何公司能夠保證其安全能力能夠跟上AI系統能力的快速提升。整個行業的安全憂慮持續升級。

OpenAI已採取放緩開發的措施。該公司表示，今年8月在涉及一個AI代理與Hugging Face的事件發生後，曾暫停對其最新模型進行為期兩週的強化學習訓練，同時加強了安全防護、監控及對齊保障措施。目前，該公司規模最大的前沿強化學習計劃仍處於暫停狀態，等待進一步測試完成。

Anthropic及Google DeepMind的研究人員也公開發表了對AI開發速度的擔憂。美國國會議員目前已加強審查力度，參議院正就OpenAI處理Hugging Face安全漏洞事件的方式展開調查。

與此同時，OpenAI與Anthropic均在籌備潛在的公開上市，這使投資者更加關注這兩家公司如何在快速推進AI商業價值與開發更強大系統所帶來的成本及風險之間取得平衡。此外，OpenAI已單獨敦促美國國會制定強制性的國家AI安全要求，內容涵蓋獨立評估、網絡安全措施及事故報告機制。