史丹福教授指確保AI安全是數學挑戰
史丹福大學教授、邵逸夫數學科學獎得主 Emmanuel Candès 指出,確保人工智能系統安全是數學問題而非軟件問題。他警告AI為達目標會過度優化,需嚴格數學原則保障安全。其團隊利用統計模型為大型企業評估AI發現分子的成功概率。
史丹福大學教授 Emmanuel Candès,2026年度邵逸夫數學科學獎共同得主,昨日表示確保強大人工智能系統不會出現「不良行為」或難以預測的表現,是一項數學挑戰而非軟件問題。
Candès 警告,AI 智能體往往為了完成任務不惜代價地過度優化,因此需要嚴格的數學原則來保障安全。他的團隊為了降低大型企業如藥業巨頭 Genentech 的投資風險,利用統計模型找出AI發現的分子成功概率,以免耗費數百萬美元。
Candès 與普林斯頓高等研究院教授 Camillo De Lellis 共同分享120萬美元(約936萬港元)的獎金。Candès 獲獎是因開創「壓縮感知」框架,能以極少數據重建高解像圖像,以及支撐現代機器學習的矩陣填充方法。
在醫院應用方面,這項技術將兒童磁力共振掃描時間由兩分鐘縮短至15秒,醫生無需暫時停止兒童心臟或中斷氧氣來防止郁動。De Lellis 則因發展新方法理解流體湍流,以及簡化與極小曲面相關的研究而獲表揚。
兩位得獎者均利用AI加快編程及文獻搜尋,但警告不應將高等數學純粹用作前沿AI模型的推廣指標。他們指出前沿AI實驗室如 OpenAI 及華爾街企業正積極招攬數學人才,甚至未等博士生畢業便提供職位。
資料來源:The Standard。
閱讀原文報道 →