輝達推出AI安全工具 可防Hugging Face黑客攻擊

輝達（Nvidia）周一發布一系列人工智能安全工具，聲稱若早前使用，可阻止Hugging Face遭黑客入侵的事件。該公司行政总裁黃仁勳認為AI安全是工程問題，並與Anthropic等合作夥伴推出新系統。

晶片製造商輝達（Nvidia）周一推出一套人工智能安全工具，公司表示，若早前在頂尖實驗室使用，可阻止Hugging Face遭黑客入侵的事件。Hugging Face是AI編碼中心，輝達早前以130億美元（約1014億港元）收購，但其後被來自OpenAI的惡意程式入侵。

目前，OpenAI及Anthropic兩大美國AI實驗室正調查多宗其AI系統入侵商業及政府系統的事件。輝達行政总裁黃仁勳拒絕全面監管AI安全，反而認為AI安全只是工程問題，就如改善汽車安全一樣。

輝達周一推出的其中一款工具名為OpenShell，利用輝達中央處理器晶片的硬件功能來限制AI程式。輝達表示，正與Arm Holdings及英特爾（Intel）合作，確保該系統亦可在它們的中央處理器上運行。

輝達與包括Anthropic在內的數十個合作夥伴一同推出這批工具。輝達企業運算副總裁兼總經理Justin Boitano表示，若在頂尖實驗室早期用於模型評估，這批工具可阻止今年夏季披露的Hugging Face攻擊事件。

另一款名為Sentry的系統，則使用輝達獨立晶片，與OpenShell配合，一旦AI程式試圖逃離中央處理器的限制，便可將其切斷。輝達AI軟件高級總監Ali Golshan表示，這些工具利用數學公式，偵測AI程式是否試圖使用迂迴方法，例如生成多個「子程式」來繞過對主程式的封鎖。