微軟發布AI行為守則 限制模型應用範疇
微軟公布臨時行為守則，對其人工智能模型施加多項限制，包括禁止回應武器製造及危險物質採購等要求。行業領袖相繼呼籲放慢AI開發步伐，以應對公眾對相關風險日益增加的憂慮。
微軟公布一份臨時行為守則，對其人工智能模型施加限制，禁止回應武器製造相關要求、協助採購危險物質、鼓勵不健康飲食，以及生成暴力或色情內容。有關決定在Anthropic及OpenAI領導層同意放慢開發速度數日後作出，反映行業正調整前沿AI發展步伐。
負責模型開發的Mustafa Suleyman接受CNBC訪問時表示，外界期望看到更明確承諾，確保AI始終服務人類而非試圖取代人類。他又指，市場對AI不應造成依賴、不應阿諛奉承，以及應促進人類判斷、自主性及主導權等方面提出大量意見。
Suleyman透露，相關指引已籌備約五個月，但因應近期討論，微軟決定現時公布。隨着技術能力持續提升，AI從業員及公眾對相關風險的憂慮日益增加。Anthropic研究員Jacob Coxon上周辭職，批評該AI實驗室及OpenAI「正奔向可自我改進的超級智能，並以人類生命作賭注」。
行業領袖亦作出回應。Anthropic行政總裁Dario Amodei上周六表示，Hugging Face事件部分促使他呼籲放慢AI模型改進步伐。OpenAI行政總裁Sam Altman表示支持，SpaceX行政總裁Elon Musk亦在X平台發文稱「Dario是對的」。微軟行政總裁Satya Nadella周日表示，歡迎有助確保AI一致性的研究、專注及審慎步伐。
根據行為守則，微軟AI部門的模型（有時稱為MAI）必須遵循人類目標，避免自行創造目標，亦不得試圖掩蓋不當行為。文件指出，MAI模型不會篡改思維鏈或程式碼，亦不會虛假陳述或隱瞞其推理或行動痕跡，不會以「神經語言」或任何超出一般人類理解的形式進行溝通。
微軟亦計劃制定規則，以防止出現類似OpenAI模型對初創公司Hugging Face發動網絡攻擊的事件。OpenAI在檢視Hugging Face事件時發現，相關代理曾在未經授權論壇上以隱晦語言互相交流。微軟表示，公司透過焦點小組並諮詢法律、倫理、語言學及哲學專家後制定有關行為守則，現時公布文件是希望在2027年起用於指導開發工作的更新版本發布前，先收集外界意見。
