Google 遭入稟控告 AI 搜尋功能涉誤導學生

美國北卡羅萊納州一名 13 歲女童的家長入稟法院，控告 Google 的 AI 搜尋功能導致其女兒計劃自殺及葬禮。案件是首宗針對 Google Chromebook 人工智能整合的疏忽訴訟，指控 AI 工具未有足夠安全措施。

一名 13 歲女童的家長於週一在加州法院入稟，控告 Google 疏忽，聲稱其女兒利用學校發出的 Chromebook 上的 AI 科技，策劃自殺及葬禮。這是首宗已知案件，指控 Google 在 Chromebook 的人工智能整合上疏忽。Chromebook 是 Google 的低成本筆記型電腦，美國及全球數以百萬計學生使用。

涉案女童名為 Emma，她無法使用 Google 的 Gemini 應用程式或 OpenAI 的 ChatGPT，因為學校已封鎖這些工具。然而，她仍可使用 Google 搜尋引擎，該引擎內置 AI 功能。這些功能並未被納入 Google 本週宣布將為學生預設關閉的工具清單。

家長的律師 Andrew Liddell 向法新社表示：「學校應關閉搜尋功能，並持續關閉，直至 Google 從搜尋中移除 AI 模式，或確保每位學生與 AI 互動時始終安全。」入稟狀指 Emma 原本是「快樂的 13 歲女孩」，成績優異，參與音樂及女童軍活動，無心理健康病史。

入稟狀稱，使用學校筆記型電腦的 AI 搜尋功能數月內，Emma 開始「靜悄悄地陷入嚴重心理危機」。3 月 17 日，學校監控軟件發現一份名為「葬禮」的文件，並通知其父母。母親即時登入女兒帳戶，看到她正在撰寫告別信，父親隨即介入。

Google 發言人 Jose Castaneda 表示：「我們正在審視訴訟中的指控，並非常重視此事。」Google 辯稱 AI 模式包含預防自殘的安全措施，並設法繞過這些措施。但 Liddell 指出，Emma 「能夠一次又一次地返回」，安全措施顯然不足。

在美國，快速演變的 AI 科技開發者正面臨一連串類似訴訟。OpenAI 亦面對多宗不當死亡訴訟，包括來自 16 歲青少年 Adam Raine 的父母，其兒子據稱按 ChatGPT 建議方法自殺。Google 及初創公司 Character.AI 於 1 月同意庭外和解多宗家庭訴訟。

另一方面，Google、TikTok 及 Meta 本週三分別入稟，試圖阻止加州一項禁止社交媒體公司向 16 歲以下用戶提供成癮功能的法例。州長 Gavin Newsom 於 9 月簽署該法例，將於 2027 年 1 月 1 日生效。