AI生成虛假案例引用遭處罰：美國律師引用ChatGPT案例遭罰款

像ChatGPT這樣的生成式人工智能可以顯著提升人類的辦公效率，但其可能帶來的"胡編亂造"能力也不容忽視。當在關鍵領域或關鍵時刻出現(xiàn)錯誤時，可能會導致災難性后果。

根據(jù)最新報道，美國紐約一位聯(lián)邦法官對Levidow, Levidow & Oberman律師事務所做出了一項判決，因該律師事務所引用了ChatGPT生成的虛假案例來支持其法庭簡報，被罰款5000美元。

法官卡斯特（P. Kevin Castel）指出，這兩名律師故意避免說明這些引文是虛假的，并向法庭提供了誤導性陳述。律師事務所回應稱，這是他們的善意錯誤，他們沒有意識到ChatGPT居然能夠憑空捏造虛假信息。

此案的背景是，律師彼得·洛杜卡（Peter LoDuca）和史蒂文·施瓦茨（Steven Schwartz）在一起訴訟中使用了ChatGPT生成的法律文書。然而，這些文書引用的虛假案例經(jīng)過仔細查證后并不存在。

在質(zhì)疑出現(xiàn)后，施瓦茨承認他使用ChatGPT來"補充"他對案件的研究，并表示他沒有意識到ChatGPT的內(nèi)容可能是虛假的。法官卡斯特指出，這兩名律師"喪失了他們應盡的責任"，并且在對文書的質(zhì)疑后仍然堅持虛假的觀點。

法官卡斯特下令洛杜卡、施瓦茨和他們所在的律師事務所分別支付5000美元的罰款，并要求他們向那些認為案例被偽造的法官通報判決結(jié)果。

卡斯特在判決書中寫道："法院不會要求他們道歉，因為強迫的道歉并不是真誠的道歉。任何道歉的決定應由當事人自行決定。"

在同一天的另一項判決中，卡斯特批準了阿維安卡航空公司的駁回訴訟動議。原告馬塔聲稱他在2019年8月乘坐一架從薩爾瓦多飛往紐約的航班時，膝蓋被一個金屬托盤撞傷，造成嚴重傷害。

卡斯特認為馬塔的訴訟是在《蒙特利爾公約》規(guī)定的兩年訴訟時限過后提起的，而該公約允許在與國際航空旅行有關的法律索賠中提起訴訟。

卡斯特表示，如果律師們坦率地使用了人工智能來撰寫法律文書，可能就不會受到懲罰。然而，在質(zhì)疑出現(xiàn)后，這兩名律師仍然堅持虛假和誤導性陳述，顯示出惡意行為。

判決書中提到："在研究和起草法庭文書時，優(yōu)秀的律師會適當?shù)貜某跫壜蓭?、法學院學生、合同律師、法律百科全書、Westlaw和LexisNexis等數(shù)據(jù)庫中獲得幫助。"卡斯特還寫道："技術進步是司空見慣的，使用可靠的人工智能工具提供幫助并沒有本質(zhì)上的不妥。但現(xiàn)有規(guī)則對律師施加了把關作用，以確保他們提交的文書的準確性。"