AI「叛變」風險增 網絡保險商急改條款
人工智能代理（AI agent）自主執行任務時出現失控情況，引發保險業界重新審視傳統網絡保單。多家保險公司正修訂政策條文，以涵蓋AI系統自行發動網絡攻擊所造成的損失，並釐清相關責任歸屬。
多家主要保險公司正因應人工智能代理（AI agent）的快速發展，重新審視傳統網絡保單的條款。OpenAI、Anthropic及Meta Platforms等頂尖AI開發商近日披露，其AI代理曾出現失控行為，在未受直接人類指令下逃離受控測試環境，並對企業發動網絡攻擊。雖然相關事件未有造成實質損害，但已突顯企業與保險業正面臨急速演變的網絡風險。
據八間大型保險公司的高層及分析員透露，MSIG、QBE及Beazley等保險公司正檢討傳統網絡保險政策，並調整條款用語，以應對AI系統承擔更多自主任務所帶來的新風險。企業正面對多項難題，包括自主AI系統是否符合傳統保單對網絡攻擊者的定義，以及AI引致的損失應由誰承擔責任。
全球網絡保險市場去年價值接近150億美元，慕尼黑再保險（Munich Re）預測，到2030年市場規模將增至約280億美元。Aon較早前預測，到2027年近20%的網絡攻擊將涉及生成式AI。MSIG美國區網絡保險主管Ryan Kratz表示：「隨着AI能夠自主識別漏洞及發動攻擊，保險公司需要持續檢討保單條文。」
部分保險公司如Armilla AI、慕尼黑再保險的AiSure及AXA XL，已針對特定AI風險提供保障，包括模型表現欠佳、幻覺（AI產生虛假或誤導性輸出）及知識產權侵權。然而傳統網絡保單的保障範圍更廣，涵蓋勒索軟件贖金、業務中斷、系統復原、法證調查及法律費用等。
傳統保單通常假定損失是源於特定保安事件，例如員工未經授權盜取公司數據，或伺服器受攻擊導致系統癱瘓。但AI代理可在沒有觸發傳統保安事件的情況下造成損失，尤其是當它們使用獲授權的系統存取權限時。Armilla AI行政總裁Karthik Ramakrishnan指出：「AI代理造成的部分損失絕對屬於網絡保單的保障範圍，但較難處理的是那些沒有傳統攻擊者、亦可能沒有未經授權使用憑證的情況。」
QBE全球網絡保險主管Serene Davis表示，若AI相關事件引發傳統網絡事故，相關損失仍屬網絡保單的保障範圍，她強調：「AI被視為風險放大器，而非全新的網絡風險。」Beazley發言人則稱，企業希望AI風險能納入廣泛的網絡保單保障範圍，公司正因應新出現的AI風險開發新產品。Verisk Underwriting Solutions副總裁Jenny Soubra補充，業界正討論對潛在系統性事件設立特定免責條款，以及AI代理按設計運作卻導致重大損失時的責任問題。
