人工智能可作輔助工具 不可操縱法槌

“只不過上網搜索幾個關鍵詞，就會接到一連串的推銷電話。當你好不容易掛斷電話，講得口干舌燥，想要點杯奶茶時，又彈出這樣的信息：親，開通會員立享外賣滿減大紅包哦！看到這條消息的你一頓操作猛如虎，開心省下三塊五。但是十分鐘后你發現隔壁小王同款奶茶沒有開通會員反而便宜三毛。”北京互聯網法院綜合審判二庭法官封瑜在北京互聯網法院舉辦的春藤·法官講壇上介紹，“上述場景體現了AI法律地位、個人信息泄露、算法歧視和算法濫用等議題，背后隱藏著大數據時代的AI倫理問題。”

封瑜指出，目前，司法界對AI的態度是“擁抱科技，謹慎懷疑”。以AI領域先行者美國舉例，在美國，AI技術與司法審判的融合由來已久，是最早將數據庫、司法評判系統等工具引入司法領域的，雖然一直將AI定位于協助者，但在2013年美國威斯康星州訴盧米斯一案中，法官以COMPAS系統評估報告為依據指導定罪量刑，被告盧米斯盜竊一部二手普通家用汽車就被這個軟件判定8.5年刑期，且從未有機會被事先告知并檢查它的AI算法，由此，盧米斯提起了上訴，但他的上訴被駁回。據悉，案件中，幫助法官做出判斷的AI項目內容是通過向被測試人詢問137個問題后，經過設定的一套復雜算法，最后得出被測試人的“危險指數”，即未來再次犯罪的可能性。但是隨后引發的一系列爭議話題，使得COMPAS軟件廣受質疑。

這也引發一個問題：AI與司法審判融合的度在哪里？AI是否可以取代法官行使審判權？

“事實上，不管在發展AI技術的同時加強對倫理規則的制定，還是針對已經被世人警覺的各種糾紛和科技巨頭間在算法數據和應用領域的不正當競爭，各國司法領域都給出了各自的回應。”封瑜強調，一是基于算法黑箱、算法歧視這些無可避免的問題，司法審判權不可放手交付AI，以避免裁判結果受操控，導致出現無可察覺、無可糾正的惡果。二是互聯網司法被稱為面向未來的司法，新技術帶來的許多前沿性挑戰，無先例可循。法官只能在現有法律框架內，結合新的社會情況解釋法律并作出司法裁判，積極回應社會發展提出的新問題。三是司法實踐需要先還原事實，再適用法律，而適用的法律又會反過來決定哪些事實是需要被還原的。案件只是表象，價值判斷和人性取舍是蘊含在其中發揮作用的底層能量，司法領域凝結了人類最錯綜復雜的利益沖突，絕不是僅僅用棋譜即可培養出AI的圍棋領域可以比較的。無從理解人類情感，難以解釋現實場景，又無法擁有司法意識的AI，在司法界只能作為輔助工具而不可操縱法槌本身。此外，我們必須警惕技術對人類的反向馴化作用。