撰文／梁雯晶 圖片來源／Shutterstock
科技發展日新月異，隨著生成式人工智慧（generative artificial intelligence，以下簡稱生成式AI）大熱，各界掀起應用狂潮，如今這股浪潮也湧進了司法界。
2023年8月，司法院發布「司法院審慎發展生成式AI應用，以撰寫刑事裁判草稿初試啼聲」新聞稿，宣告已開發完成生成式AI系統，將在年底於部分法院開始試辦，輔助法官就「不能安全駕駛」、「幫助詐欺」兩類案件草擬判決書，期待能藉此減輕法官工作負荷。
新聞一出來，立即引起司法界嘩然，掀起討論聲浪。全國律師聯合會、民間司法改革基金會、台北律師公會等民間等相關司法及人權團體，聯合召開記者會，發表「AI草擬判決的三大疑問與三大風險」聲明，呼籲司法院應先召開公聽會，與司法界相關利害人士取得共識，並建立符合國際標準的AI技術使用規範，確保實施風險及配套措施後，再推行較適宜。
司法生成式AI系統為高度風險
「全世界雖然都在發展生成式AI技術，但對於AI在司法判決上應用，皆視為『高度風險』之事，需要非常審慎施行。」全國律師聯合會常務理事、民間司法改革基金會數位法小組召集人林俊宏律師在本次採訪中表示，國外雖然已有使用AI技術輔助司法的案例，但皆為有限度、小範圍的應用，例如藉由AI整理證據資料、提供輔助性質的判決參考等，並無以生成式AI技術產生完整判決書的先例。
當時民團並不清楚司法院這套針對不能安全駕駛、幫助詐欺兩罪的生成式AI系統，未來將會如何運作，並對於系統背後的AI訓練方式、訓練資料來源、AI幻覺如何避免等問題，皆有諸多疑慮，擔憂對於人權問題有所侵害，因此希望司法院能先暫緩實施。
「民團不怕司法院這套系統『不厲害』，我們是擔心它打造出『太厲害』的生成式AI系統。」林俊宏律師說。
應先擬定參考指引，再打造生成式AI系統
他表示，民團並非反對司法導入AI技術，也期待越來越進步的數位科技可以提升司法工作的品質。事實上，法務部在2020年推出《科技偵查法》草案，引起社會大眾對於偵查犯罪與人民隱私權界線一事的關注，司改會也察覺數位法治是未來的趨勢，遂於內部成立「數位法小組」，關注數位法治議題，「我們的核心重點，在於數位科技於司法體系的運用，應有完善的規範與措施，避免人民權利受到過度侵害。」
針對民團的擔憂與呼籲，司法院先以2023年9月27日的新聞稿做出回應，並決定於2023年12月召開公聽會，與各界面對面溝通。
司法院說明，該系統正式名稱為「智慧化裁判草稿自動生成系統」，主要使用「自然語言處理（Natural language processing）」及「規則法（Rule-based）」技術，法官可就判決結果勾選條件規則，將起訴書記載的犯罪事實及證據名稱引用進裁判書中，以AI產生初步的文書草稿，節省書寫裁判書時重複引用基本架構文字的時間，並非直接以AI分析卷證資料生成完整判決書。
因預算經費的關係，司法院也表示，短期內並不會建置如同ChatGPT大型語言模型的生成式AI系統與資料庫，「智慧化裁判草稿自動生成系統」僅是協助法官產生判決書例稿的輔助工具，強調最終核心審判權仍是在法官手上。
根據司法院的回應，「智慧化裁判草稿自動生成系統」屬於初階AI應用，與真正的生成式AI技術還有一段距離，釐清了大眾對於「AI法官」取代「人類法官」的疑慮。但AI應用是未來必然的趨勢，藉由此次事件與召開公聽會的契機，也正好開啟社會對於生成式AI技術在司法體系運用的討論。
在召開公聽會之前，司法院先根據「行政院及所屬機關（構）使用生成式AI參考指引」頒布「司法院使用生成式AI參考指引」草案，訂定了大方向原則，例如：AI判決只能輔助審判、使用者擁有自主權，以及系統建置時必須考慮風險管理等。
林俊宏律師表示，這份草案不僅仍有不足之處，且並未細分「建置」與「使用」兩部分不同階段的參考指引。他解釋：「國外將導入生成式AI技術分成兩個階段，第一階段是指引廠商如何『建置』系統資料庫，第二階段才是指引使用者『使用』系統。」建置系統資料庫需要具備資訊實作能力，並非司法人所擅長，政府部門通常外包給專業廠商執行。所以應該先針對外包廠商提出如何餵養資料、去資料識別化等建置系統的指引規範，第二步才是針對司法體系人士制定使用系統的參考指引。
「但司法院沒有將兩階段的參考指引分開制定，外包廠商要如何建置系統、訓練機制、資料來源等規範，從目前公布的草案裡是看不出來的。」林俊宏律師坦言。
資料庫模型應公開透明，避免AI偏差
對於系統建置的準則，司法院並未詳細說明其中的機制，僅針對民團擔心訓練不足的部分以新聞稿回覆：「本系統的訓練資料均已去識別化，不含當事人個資，並在訓練之後要求廠商銷毀；訓練資料包含起訴書及裁判書等資料逾10萬筆，應不至於有訓練資料不足的問題。」
但法律與社會脈動緊密連結，隨著時代演變，社會規範、法律判決也會轉換，「如果訓練資料使用的是早期判決，生成的結論一定會與當代法律觀念有所落差，造成系統模型偏誤。」林俊宏律師指出其中癥結點。
此外，法律觀念與時俱進，未來系統資料要如何更新？訓練資料關係到判決觀點，生成的判決是否會以主流族群──漢人、異性戀、男性為主要核心視角，忽略少數及弱勢族群的權益？以上這些問題都是需要謹慎考量，並訂定明確規範的關鍵，才能降低AI偏差的風險。
歐盟在今（2024）年初通過全球第一份針對AI系統進行規範與監管的《人工智能法案》，禁止存在偏見、侵犯人民隱私權的AI技術，涉及司法及人權領域的生成式AI技術，更被列為「高風險」等級，法案要求建置的系統模型需具有透明度，包括風險評估、監督準則等。
林俊宏律師認為，相比歐盟《人工智能法案》的嚴謹規範，目前司法院頒布的參考指引缺乏明確標準、公開性與透明度，不宜貿然試行AI系統。
經過公聽會的交流討論後，司法院也接收到民團的看法及意見，決定暫緩該系統的試行，表示將會再研議及詳細規劃，並參考各界意見，讓指引更加完善周延。
任何的AI使用者都要審慎和謙遜
美國最高法院首席大法官羅伯茲（John Roberts）在今年初公布的年終報告中提到，AI介入司法領域有優點也有缺點，優點在於可提高窮人在司法訴訟中的機會、協助法官更快速便利的解決案件；但也要小心缺點，例如「AI幻覺」的可能性、對於人民隱私的侵害，以及當前AI技術無法複製人類裁量權等問題，他表示：「任何的AI使用者都要審慎和謙遜。」
「AI是一個可以幫助人類的工具，但是目前的AI技術，仍存在著很高的風險及缺陷，運用在司法上必須更加審慎以對。」林俊宏說道。
導入AI技術進行輔助式判決，是未來不可避免的浪潮，不僅能減輕司法人力負荷，也能提升司法品質，例如藉由AI檢核判決書是否有錯誤、遺漏的面向，打造更健全的司法體系。但林俊宏律師也提醒，「AI整理出來的資料，很有可能會在無形間引導法官判決，因此在資料庫系統模型的設計上，需要非常謹慎規劃。」
他建議，司法院可先參考其他國家的案例，訂定明確的參考指引、AI技術使用規範，「大家才能坐下來就草案條例討論是否需要調整，進而依參考指引建置系統，而不是先做好系統再討論參考指引要如何訂定。」
因應發展飛快的數位科技，司改會目前正在積極推動《數位基本法》草案的討論。林俊宏律師表示，「這是一個需要法律、科技等各領域專家一同加入研擬的龐大議題。司改會將秉持著核心概念──人民的基本權利不會因為科技受到太大的侵害，以及最終審判權必須在人類法官身上，持續推進《數位基本法》的討論，迎接數位科技時代的來臨。」
@61期執行編輯：方瑋晨律師、張詩芸律師、楚曉雯律師