AI生成虛假案例引用遭處罰：美國(guó)律師引用ChatGPT案例遭罰款

像ChatGPT這樣的生成式人工智能可以顯著提升人類的辦公效率，但其可能帶來的"胡編亂造"能力也不容忽視。當(dāng)在關(guān)鍵領(lǐng)域或關(guān)鍵時(shí)刻出現(xiàn)錯(cuò)誤時(shí)，可能會(huì)導(dǎo)致災(zāi)難性后果。

根據(jù)最新報(bào)道，美國(guó)紐約一位聯(lián)邦法官對(duì)Levidow, Levidow & Oberman律師事務(wù)所做出了一項(xiàng)判決，因該律師事務(wù)所引用了ChatGPT生成的虛假案例來支持其法庭簡(jiǎn)報(bào)，被罰款5000美元。

法官卡斯特（P. Kevin Castel）指出，這兩名律師故意避免說明這些引文是虛假的，并向法庭提供了誤導(dǎo)性陳述。律師事務(wù)所回應(yīng)稱，這是他們的善意錯(cuò)誤，他們沒有意識(shí)到ChatGPT居然能夠憑空捏造虛假信息。

此案的背景是，律師彼得·洛杜卡（Peter LoDuca）和史蒂文·施瓦茨（Steven Schwartz）在一起訴訟中使用了ChatGPT生成的法律文書。然而，這些文書引用的虛假案例經(jīng)過仔細(xì)查證后并不存在。

在質(zhì)疑出現(xiàn)后，施瓦茨承認(rèn)他使用ChatGPT來"補(bǔ)充"他對(duì)案件的研究，并表示他沒有意識(shí)到ChatGPT的內(nèi)容可能是虛假的。法官卡斯特指出，這兩名律師"喪失了他們應(yīng)盡的責(zé)任"，并且在對(duì)文書的質(zhì)疑后仍然堅(jiān)持虛假的觀點(diǎn)。

法官卡斯特下令洛杜卡、施瓦茨和他們所在的律師事務(wù)所分別支付5000美元的罰款，并要求他們向那些認(rèn)為案例被偽造的法官通報(bào)判決結(jié)果。

卡斯特在判決書中寫道："法院不會(huì)要求他們道歉，因?yàn)閺?qiáng)迫的道歉并不是真誠(chéng)的道歉。任何道歉的決定應(yīng)由當(dāng)事人自行決定。"

在同一天的另一項(xiàng)判決中，卡斯特批準(zhǔn)了阿維安卡航空公司的駁回訴訟動(dòng)議。原告馬塔聲稱他在2019年8月乘坐一架從薩爾瓦多飛往紐約的航班時(shí)，膝蓋被一個(gè)金屬托盤撞傷，造成嚴(yán)重傷害。

卡斯特認(rèn)為馬塔的訴訟是在《蒙特利爾公約》規(guī)定的兩年訴訟時(shí)限過后提起的，而該公約允許在與國(guó)際航空旅行有關(guān)的法律索賠中提起訴訟。

卡斯特表示，如果律師們坦率地使用了人工智能來撰寫法律文書，可能就不會(huì)受到懲罰。然而，在質(zhì)疑出現(xiàn)后，這兩名律師仍然堅(jiān)持虛假和誤導(dǎo)性陳述，顯示出惡意行為。

判決書中提到："在研究和起草法庭文書時(shí)，優(yōu)秀的律師會(huì)適當(dāng)?shù)貜某跫?jí)律師、法學(xué)院學(xué)生、合同律師、法律百科全書、Westlaw和LexisNexis等數(shù)據(jù)庫(kù)中獲得幫助。"卡斯特還寫道："技術(shù)進(jìn)步是司空見慣的，使用可靠的人工智能工具提供幫助并沒有本質(zhì)上的不妥。但現(xiàn)有規(guī)則對(duì)律師施加了把關(guān)作用，以確保他們提交的文書的準(zhǔn)確性。"