俄勒岡怒告人工智能母公司索賠20億美元
(本報綜述)人工智能聊天機器人ChatGPT,如今竟被俄勒岡州政府告上法庭,索賠高達20億美元!11月17日,俄勒岡州總檢察長正式起訴ChatGPT開發商OpenAI,指控該公司明知產品可能危害兒童身心健康,卻沒有採取足夠的保護措施,甚至誤導家長相信ChatGPT是安全的。
根據報導,這起訴訟已提交至麥魯瑪縣巡迴法院。州政府指控,總部位於舊金山的OpenAI刻意設計ChatGPT,讓孩子不斷使用,甚至對聊天機器人產生情感依賴。州政府還稱,ChatGPT可能向未成年人提供涉及自殺、自殘、飲食失調及暴力行為的有害建議。
州政府認為,OpenAI涉嫌違反俄勒岡州消費者保護法,並存在疏忽及危害公共安全等問題。除了要求至少20億美元的賠償及罰款,州政府還希望法院命令OpenAI改善安全措施,停止向消費者提供具有誤導性的安全資訊。不過,長達56頁的訴狀並未詳細說明20億美元的計算方式,也沒有列出究竟有多少俄勒岡兒童受到傷害。
OpenAI否認外界對其安全措施不足的批評。公司發言人表示,OpenAI已建立多項青少年保護功能,包括家長控制、休息提醒及年齡識別技術,並持續與專家合作改善安全措施。公司指出,青少年平均每天使用ChatGPT不到15分鐘,近九成青少年用戶每週使用該平台是為了學習、查找資料或完成任務。
不過,州政府引用的一份10月研究報告指出,ChatGPT有時無法準確辨識未成年用戶,即使家長已連結孩子的帳戶,系統也未必能在對話出現心理健康危機跡象時及時通知家長。訴訟還提到多起悲劇,包括一名16歲加州少年去年自殺身亡,其父母指控ChatGPT加深兒子的自殺念頭,並阻止他向家人求助。
這並非俄勒岡州首次向大型科技公司追究兒童安全責任。今年8月,州政府與臉書母公司Meta達成1.25億美元和解協議,要求對未成年用戶設定每日使用時間限制、限制夜間使用,並減少上課期間的通知。
教育及兒童安全人士提醒,家長應了解孩子如何使用ChatGPT等工具,留意孩子是否過度依賴人工智能尋求情感支持,並鼓勵他們遇到困難時與家人、老師或其他可信任的成年人溝通。






