俄勒岡律師用AI「編造案例」被重罰1萬美元

(本報綜述)俄勒岡州一名律師因在法律文件中引用由人工智慧「編造」的案例與引文,遭上訴法院重罰1萬美元,創下當地相關案件最高罰款紀錄,也再次引發對AI使用風險的關注。

涉事律師為塞勒姆(Salem)的民事律師比爾·吉奧索。法院指出,他提交的一份法律文件中,包含15個不存在的案例引用,以及9段「憑空捏造」的引文。

吉奧索辯稱,相關內容是由助理研究時整理,他本人並不知情。但法院並不接受這一說法,強調律師有責任核實所有提交內容,不能將錯誤歸咎於他人或工具。

法官在裁決中指出,即使是使用AI或網路搜尋,律師也應該意識到未經核實的資料可能違反專業與誠信義務。

事實上,俄勒岡法院早在去年底已開始針對AI錯誤制定罰款標準,每一個錯誤可罰500至1000美元。按照這一標準,該案原本最高可能罰到1萬6500美元,但法院考慮到當事人健康狀況,最終裁定罰款1萬美元。

案件源於一宗大麻生產執照被撤銷的上訴案。律師在準備法律文件時,透過網路搜尋取得資料,而搜尋結果中包含AI生成內容,導致錯誤被直接引用進正式文件。值得注意的是,對方律師早在數月前就已指出文件中的錯誤,但涉事律師並未及時更正。

近年來,生成式人工智慧被越來越多專業人士使用,但也頻繁出現「看似合理、實則錯誤」的內容。法院此次重罰,被視為對法律界發出明確訊號:即使使用AI,最終責任仍在使用者本人。