美国犹他州(Utah)一名律师贝德纳(Richard Bednar)因在一份中期上诉请愿书中,援引了名为“罗耶尔 诉 内尔森”(Royer v Nelson)的判例,结果被发现这个判例并不存在,调查后发现,该判例是由ChatGPT所虚构出来的。最终,贝德纳为此对外致歉,犹他州上诉法院也判处贝德纳制裁1000美元。
综合外媒报导指出,整起事件源于贝德纳与其同事杜尔巴诺(Douglas Durbano)共同提出的请愿书。杜尔巴诺为申请人代表律师,但根据法院资料,他并未参与该文件的起草。请愿书的草拟由一名未具执照的法律助理负责,此人为一名已离职的法学院毕业生,该员使用ChatGPT进行法律研究,但后续并未详细确认后,就将研究结果提交法院。
在审阅过程中,对方律师发现其中多处引用内容有误,包含援引不存在的案件与无关主题的错误案例。更有甚者,该案唯一可查证的来源竟然只出现在ChatGPT生成内容中,甚至在进一步询问AI该案真伪时,系统本身也承认为错误并道歉。
在4月的听证会中,贝德纳与律师巴内克(Matthew Barneck)公开承认错误,表示并未在送出文件前亲自审查,愿意承担全责,并表示将补偿所有由此引发的法律费用。
根据法院命令,贝德纳除需支付对方律师费外,还必须退还客户因编写与处理该请愿书所支付的费用,并捐出1,000美元予犹他州非营利法律机构“正义为所有人”(And Justice for All)。
犹他州上诉法院在判决中强调,尽管科技进步使得人工智慧日益成为法律研究的辅助工具,但律师作为法律实务专业人士,对提交法庭的文件内容仍负有不可推卸的审查责任。

法院同时表示,贝德纳并无意图欺骗法庭,因此不构成蓄意恶意行为。但州律师公会的专业行为办公室将对此事进行后续处理,并已开始与法律实务与伦理专家合作,制定有关AI伦理使用的相关指导方针。
报导中提到,这也并非是美国法律界首次出现类似争议。早在2023年,纽约律师施瓦茨(Steven Schwartz)、罗杜卡(Peter LoDuca)及其所属事务所Levidow, Levidow & Oberman就曾因提交引用虚构案件的文件,被法院裁定罚款5,000美元。当时的法官认为该事务所律师对法庭做出“蓄意规避事实及虚假和误导性陈述”,事后施瓦茨亦坦承使用ChatGPT协助撰写文件。