ChatGPT伪造法庭案例！执业30年律师错信AI假料、恐面临停牌惩罚

ChatGPT 伪造案例资料｜自 ChatGPT 在数月前忽然走红，人工智能就常常予人“无所不能”的感觉，不少人在日常工作中都会利用他来节省写作时间，但却忽略了 ChatGPT 资料库不全的风险 － 为了言之成理地回答用户的问题，ChatGPT 往往会捏造资讯以符合使用者的要求，而近日一位律师就因此而“中伏”。

律师用 ChatGPT 做资料搜集、不料案例全虚构

Steven Schwartz 为一名执业长达 30 年的律师，日前代表当事人 Roberto Mata 入禀法庭向 Avianca 航空公司索偿。据悉 Roberto Mata 在 2019 年于搭乘该公司的航班时，被过道的餐车撞伤。

Avianca 的代表律师在法庭上申请驳回诉讼，这在索赔官司中司空见惯，而为了证明原诉人的诉讼合理性，在一般的民事索偿案中，律师都会引用过往曾经成功索偿的类似案例；然而 Steven Schwartz 明显太相信新晋科技 － 他并没有自行在资料中查找相似案件，而是转而向 ChatGPT 输入要求，然后就“搬字过纸”、将 ChatGPT 提供的案例照搬到法庭文件中呈上。

而被告 Avianca 的代表律师团以及纽约法庭之庭审法官在短时间内就发现 Steven Schwartz 提供的案例并不真实，不单影响到其当事人的诉讼案本身，Steven Schwartz 亦需要在下个月进行听证会，以探讨其因为提呈虚假案例而将会受到的制裁。

ChatGPT 再三确认：案例是真的

在稍早前提交到法庭的一份宣誓书中，Steven Schwartz 就他承担了 ChatGPT 引述错误内容的责任并郑重道歉，Steven 在文中表示在此案件之前，他从未将 ChatGPT 作为法律研究来源使用，因此“不知道其内容可能是虚假的”，而且“非常后悔使用生成式人工智慧来补充此处进行的法律研究，未来将不会在没有绝对验证其真实性的情况下这样做。”

Steven Schwartz 在宣誓书中提到他并非存心欺瞒法庭，以及其真诚地认为以 ChatGPT 进行法律研究为可行，故在宣誓书中亦加入了数张截图👇👇👇

从截图中所见， Steven Schwartz 在收到 ChatGPT 的回答内容时明确询问其中一个案例“是否真确”，而 ChatGPT 的回答亦十分强而有力，再三确定该案例以及其他它提出的案例为真实、而且在“可信的法律数据库”中查找得到。

Steven Schwartz 目前面临的惩罚尚未明确，但最严重可能是被停牌处分，其故事对于想用人工智能代替自己工作的人们带来一个明显警号：没错 ChatGPT 是可以很快地根据用户指引提供答复，但当牵涉到资料的准确性，ChatGPT 明显难以依赖，作为用户在取用这些资料时还是要格外留神。