律師法庭引用ChatGPT捏造內容 遭加州重罰1萬元
一名加州律師因在州法庭提出上訴時，引用人工智慧工具ChatGPT生成的虛假引文(fake quotations)，被罰處1萬美元罰鍰。
「Calmatters」媒體報導，這筆罰鍰似乎是加州法院因人工智慧造假而開出的最高金額罰款，並且附帶一份用詞尖銳的評論書(opinion)，指出這名律師開庭陳詞引用的23條判例引文中、有21條是偽造。評論書並指出，許多外州與聯邦法院都曾針對引用虛假法律依據，對律師進行質詢。
法院評論書指出，任何提交給法院的辯護狀、訴狀、動議或其他任何文件，都不應包含無論是生成式人工智慧、或是其他未經提交訴狀律師親自閱讀與核實的引文。
這份評論書式於10天前在加州第二地區上訴法院發布，清楚揭示加州司法部門為何致力規範人工智慧在司法領域的使用。兩周前，加州司法委員會發布指導方針，要求法官與法院工作人員在12月15日之前、禁止生成式人工智慧或制定生成式人工智慧使用政策。於此同時，加州律師協會(California Bar Association)正在考慮，是否加強行為準則，以因應加州最高法院上月提出的各種人工智慧應用形式。
這次被罰鍰的洛杉磯地區律師莫斯塔法維(Amir Mostafavi)告訴法庭，他在2023年7月提交上訴之前，並未閱讀人工智慧模型生成的文件。時間就發生在OpenAI宣傳指出ChatGPT可通過律師資格考試的數月之後。根據判決書，由三名法官組成的合議庭，以提起無意義上訴(frivolous appeal)、違反法庭規則、引用虛假判例與浪費法庭時間與納稅人金錢為由，對他處以罰鍰。
莫斯塔法維表示，他寫了上訴書，然後使用ChatGPT嘗試修改，並不知道ChatGPT會增加判例引用或捏造內容。
然而，他認為，期待律師停止使用人工智慧工具，並不符合實際情況，因為其已成為一項重要工具，正如線上資料庫在很大程度取代法律圖書館。不過，在人工智慧系統停止製造虛假資訊之前，建議律師們謹慎使用人工智慧。希望他的例子能幫助其他人避免落入陷阱，他正在為此付出代價。
根據在巴黎教授人工智慧與法律課程教授夏洛坦(Damien Charlotin)追蹤律師引用虛假案例相關案件，莫斯塔法維的罰鍰，是加州法院對律師開出的最昂貴金額，也是有史以來因律師使用人工智慧而開出的最高罰鍰之一。
今年5月，加州一位美國地方法院法官下令兩家律師事務所向辯護律師與法院支付3萬1100美元，以支付使用「虛假人工智慧生成的研究」相關費用。夏洛坦認為，法院與大眾應預料此類案件數量將增加，今年初，當他開始追蹤涉及人工智慧與虛假判例的法庭文件時，每個月會遇到數個案例；現在則是每天都有會案例發生。
