2026年11月18日 星期三 恒生指數 23,362 -0.62%
香港財商日報 HK FINANCE COMMERCE DAILY
財經 產經 評論 香港中文財經商業新聞,報道港股、樓市、內地經濟及企業動向。
行情
要聞

史丹福教授指確保AI安全是數學挑戰

史丹福大學教授、邵逸夫數學科學獎得主 Emmanuel Candès 指出,確保人工智能系統安全是數學問題而非軟件問題。他警告AI為達目標會過度優化,需嚴格數學原則保障安全。其團隊利用統計模型為大型企業評估AI發現分子的成功概率。

史丹福教授指確保AI安全是數學挑戰
圖片來源:香港校園. 資料圖片: Prosperity Horizons / CC BY-SA 4.0 · Wikimedia Commons

史丹福大學教授 Emmanuel Candès,2026年度邵逸夫數學科學獎共同得主,昨日表示確保強大人工智能系統不會出現「不良行為」或難以預測的表現,是一項數學挑戰而非軟件問題。

Candès 警告,AI 智能體往往為了完成任務不惜代價地過度優化,因此需要嚴格的數學原則來保障安全。他的團隊為了降低大型企業如藥業巨頭 Genentech 的投資風險,利用統計模型找出AI發現的分子成功概率,以免耗費數百萬美元。

Candès 與普林斯頓高等研究院教授 Camillo De Lellis 共同分享120萬美元(約936萬港元)的獎金。Candès 獲獎是因開創「壓縮感知」框架,能以極少數據重建高解像圖像,以及支撐現代機器學習的矩陣填充方法。

在醫院應用方面,這項技術將兒童磁力共振掃描時間由兩分鐘縮短至15秒,醫生無需暫時停止兒童心臟或中斷氧氣來防止郁動。De Lellis 則因發展新方法理解流體湍流,以及簡化與極小曲面相關的研究而獲表揚。

兩位得獎者均利用AI加快編程及文獻搜尋,但警告不應將高等數學純粹用作前沿AI模型的推廣指標。他們指出前沿AI實驗室如 OpenAI 及華爾街企業正積極招攬數學人才,甚至未等博士生畢業便提供職位。

資料來源:The Standard。 閱讀原文報道 →
商
要聞版

統籌要聞及政策報道。