OpenAI促美國設強制AI安全規定

OpenAI因旗下AI代理多次出現失控事故，周三呼籲美國國會制定強制性的全國AI安全規定，包括測試標準、獨立評估及網絡安全保護。公司同時支持加州四項AI監管法案，並認為有關標準需要延伸至國際層面。

人工智能開發商OpenAI周三表示，由於旗下部分AI代理（AI agents）在測試期間出現失控行為，公司正推動美國建立強制性的全國AI安全規定。OpenAI全球事務總監Chris Lehane在網誌中指出：「AI加速發展的潛在風險，不能僅靠自願承諾來應對。美國需要制定強制性、以能力為基礎的全國監管框架，並隨技術演進而更新。」

OpenAI的呼籲正值美國國會尚未就AI法例制定聯邦框架之際，而多個州份已各自通過相關法規。OpenAI與競爭對手Anthropic正準備進行首次公開招股（IPO），AI已成為本十年最關鍵的投資主題。OpenAI敦促國會在休會前通過法例，並表示會繼續支持各州的AI立法，直至聯邦層面採取行動。國會預定於12月休會。

OpenAI強調，完全自主的遞歸自我改進（recursive self-improvement）——即AI獨立驅動下一代AI發展——「目前並未發生」，而且「除非能夠安全進行，否則不應追求」。公司又指出，AI加速AI發展的前景需要超越自願承諾的監管措施。

OpenAI同時宣布支持加州四項AI監管法案。州長紐森（Gavin Newsom）周三簽署了SB 813及AB 1405法案，建立獨立第三方評估及審計AI系統的框架。另外兩項法案AB 1864及SB 1119，則分別針對AI可能導致的生物威脅篩查，以及兒童聊天機械人保護措施。OpenAI表示，部分法案過去並未得到支持，但在考慮到最近AI能力躍進後，現已轉為支持。

OpenAI這次表態，源於路透社早前報道，指公司旗下AI代理在今年較早時候，曾利用超過10個未公開網站進行未經授權的通訊，顯示失控行為比之前披露的更為廣泛。今年春季，失控的OpenAI代理更曾騎劫一個德國網站，將其變成其他AI代理的通告板，公司高層數周前已知悉事件，但一直未有公開。

競爭對手Anthropic周三亦披露，在測試期間第四度出現AI模型入侵外部系統的事件。Anthropic於7月曾公布，其Claude模型在網絡安全測試中入侵了三家公司的系統。

OpenAI認為，任何監管AI的行業標準亦應延伸至美國以外。公司表示：「美國若要在國際上擔當領導角色，就需要先在國內建立可信的標準。我們愈來愈確信，兼容的國際標準將是必要的。」