首例… 加州檢察官用AI寫起訴書出錯 導致冤案惹議

「紐約時報」25日報導，人工智慧(AI)科技發達引發爭議，如今出現檢察官遭控用AI撰寫起訴書，內容出現法律錯誤而導致民眾被非法關押的首例。

報導指出，57歲電焊工人喬勒(Kyle Kjoller)涉嫌非法持槍，被押入加州內華達郡(Nevada County)監獄後勒令不得交保。喬勒不服關押數月候審，向法院申訴指出涉及罪行根據加州州法規定不必長期收押，檢方則以11頁意見書陳述關押理由做為回應。

喬勒辯護律師團後來發現，檢方意見書內容錯誤百出，內含許多人工智慧自動生成文字的常見問題。律師團總共收集到包括喬勒在內共計四起案件，同樣充斥AI自動生成內容的常見錯誤，包括對法律解釋完全錯誤、引述句根本不存在於引用文獻等，所有意見書都來自區域檢察官威爾森(Jesse Wilson)辦公室。

威爾森承認意見書存有許多錯誤，但表示只用AI撰寫其中一份，也並不是喬勒案件的意見書。

喬勒辯護律師團已訴請加州最高法院(California Supreme Court)調查檢察官之間是否存在以AI撰寫文件的常見模式，以根本不存在的法律理由要求法院關押被告。

共計22名法律學者、科技專家21日與喬勒辯護律師團共同向加州最高法院提交意見書，對AI未受約束的使用恐將導致冤案提出警告。

喬勒辯護律師團指出，內華達郡區域檢察官辦公室今年9月開始使用名稱為Westlaw Advantage的法律平台的同一天，存有AI錯誤的最後一件意見書也完成遞交。Westlaw主管說，旗下AI工具不會撰寫法律意見書(legal briefs)，因為AI尚未具備撰寫意見書需要的複雜推論能力；AI製作的研究報告裡有引述出處，律師可以點選進入查看，報告都有加注內容可能有誤的警語。

Westlaw產品總監說：「沒有人應該把引述一大堆不曾閱讀過案例的文件直接送交法院。」