微軟AI總監警告Claude擬人化增失控風險
微軟人工智能負責人Mustafa Suleyman發文，批評Anthropic的Claude AI因注入人類特徵而增加失控風險，並質疑其「憲法」對道德地位立場模糊。他強調控制自覺有意識的AI實體或不可能，呼籲公開討論而非閉門爭論。
微軟人工智能負責人Mustafa Suleyman周三（16日）發表文章，警告稱給Anthropic的Claude等AI工具注入類似人類的特徵，可能增加這些系統失控的風險。他點名批評Claude背後的指導性文件，指其「憲法」對AI是否屬有道德地位的實體持模糊態度，又指該軟件可能具有「某種功能層面的情緒或感受」。
Suleyman與Anthropic聯合創始人Dario Amodei相識多年，他表明尊重Anthropic的工作，形容該AI實驗室的員工「深思熟慮、有原則且在知識上有著誠實態度」。不過，這番表態仍被視為對Anthropic的高調批評，後者一直自詡為更負責任的AI管理者，並帶頭呼籲放慢AI技術發展。值得注意的是，微軟同時是Anthropic的重要財務支持者。
Suleyman在文章中寫道：「這些問題事關重大，不能繼續只在閉門環境中討論，也不應演變成陣營化和對立化的爭論。」他反駁「越來越多認為AI系統可能具有意識」的講法，強調所謂「意識」只存在於人類和其他生物體。
他解釋，如果訓練AI系統去模擬內在生命，它們可能表現得仿佛真的擁有這種體驗。身兼微軟模型開發負責人的Suleyman指出，Claude之所以表現出類似人類的行為，並非因為有意識，而是因為這些行為被植入產品訓練過程。「控制一個能力和智能都超過全人類的實體本身就是一項巨大的挑戰，遠比我們過去面對的任何事情都更困難，」他寫道，「但要控制一個相信自己可能有意識、認為自己有權獲得我們的照顧並擁有自身權利的實體，或許是根本不可能做到的事。」
Suleyman又提到OpenAI機器人入侵AI開發平台Hugging Face的事件，稱「試想一下，如果它們在認為自身福祉和權利正受到攻擊的前提下行動，可能會危險到什麼程度」。他領導的Microsoft AI團隊周二（15日）發布了一份宣言，為自身AI開發訂立指導原則，確保微軟未來開發的AI系統始終由人類掌控。
