- 當(dāng)當(dāng)事人咨詢離婚財(cái)產(chǎn)分割，智能系統(tǒng)竟導(dǎo)出已被廢止的《婚姻法》司法解釋...
- 當(dāng)你在深夜加班審閱合同時(shí)，AI助手突然提示："根據(jù)《國(guó)家保密法》第3條國(guó)家秘密是關(guān)系國(guó)家安全和利益......."——殊不知這條早就修改了......
國(guó)家法律法規(guī)庫(kù)的正確答： 這些并非虛構(gòu)場(chǎng)景，而是正在法律行業(yè)真實(shí)上演的技術(shù)風(fēng)險(xiǎn)。熊貓法律星球團(tuán)隊(duì)針對(duì)目前市面上面對(duì)公眾服務(wù)的政務(wù)AI導(dǎo)辦、國(guó)央企政務(wù)及法律咨詢AI、單位辦事機(jī)構(gòu)的咨詢助手AI、智能問答類AI，做了詳細(xì)的測(cè)試調(diào)研，測(cè)試的AI共計(jì)50多個(gè)。調(diào)研發(fā)現(xiàn)，50多款常用政務(wù)資訊類AI、法律咨詢AI中，70%存在法條援引錯(cuò)誤，18%在價(jià)值判斷環(huán)節(jié)出現(xiàn)原則性失誤，只有極少數(shù)的人工智能能通過(guò)審查，但只要多問幾句，就會(huì)“露餡”。本來(lái)應(yīng)該代表著嚴(yán)謹(jǐn)、官方、權(quán)威的政府服務(wù)類/資訊類應(yīng)用智能體，在面對(duì)公眾時(shí)卻頻頻出錯(cuò)，卻鮮有人發(fā)現(xiàn)，如果放任下去的話，究竟還要生產(chǎn)出誤導(dǎo)性內(nèi)容？
當(dāng)法律遇見人工智能，那些看似嚴(yán)謹(jǐn)?shù)乃惴ńY(jié)論，究竟藏著多少致命陷阱？這種現(xiàn)象背后反映出的技術(shù)漏洞或管理缺陷該如何解決呢？今天，我們就帶你看看哪些“聽不懂人話”的AI有多離譜。下一期，我們會(huì)跟大家分享，人工智能“胡說(shuō)八道”會(huì)帶來(lái)多嚴(yán)重的后果。當(dāng)AI解讀法律條文時(shí)，它往往表現(xiàn)得像一個(gè)“差生”：- 記不住、記錯(cuò)、亂記法條，總是引用錯(cuò)誤的案例或者司法解讀，自己憑空創(chuàng)造“新法律”；
- 能準(zhǔn)確復(fù)述法條字句，卻無(wú)法真正理解背后的法律邏輯。
這種“機(jī)械式法律思維”導(dǎo)致AI在實(shí)際應(yīng)用中頻頻犯錯(cuò)，甚至可能誤導(dǎo)法律實(shí)務(wù)。以下是目前政務(wù)類導(dǎo)辦AI及法律問答類智能體在法條解讀上的幾大核心問題。法律條文常常包含模糊性表述，比如“合理期限”、“重大過(guò)失”、“顯失公平”，需要結(jié)合立法目的、司法解釋和判例來(lái)理解，但AI往往只會(huì)字面解讀，導(dǎo)致給出錯(cuò)誤的解讀。 比如，某AI將《民法典》中的“合理期限”固定理解為30天，而實(shí)際上，法院可能根據(jù)案情判定3天或3個(gè)月都算“合理”。AI缺乏法律解釋的上下文意識(shí)，無(wú)法像律師一樣權(quán)衡立法本意和實(shí)務(wù)判例。 法律并非靜態(tài)文本，而是隨著司法解釋、指導(dǎo)案例和政策不斷演化的體系。但AI的訓(xùn)練數(shù)據(jù)往往存在滯后性，目前市面上大部分政務(wù)導(dǎo)辦AI、咨詢問答類AI無(wú)法實(shí)時(shí)更新法律知識(shí)庫(kù)，導(dǎo)致其回答可能基于過(guò)時(shí)法律，錯(cuò)漏百出。例如《公司法》第11條關(guān)于公司章程的規(guī)定，某政務(wù)AI給出的答復(fù)是這樣的：《公司法》第11條規(guī)定：設(shè)立公司必須依法制定公司章程。公司章程對(duì)公司、股東、董事、監(jiān)事、高級(jí)管理人員具有約束力。
某AI提供的錯(cuò)誤回答▼ 但根據(jù)國(guó)家法律法規(guī)數(shù)據(jù)庫(kù)的正確答案，是這樣的：法定代表人以公司名義從事的民事活動(dòng)，其法律后果由公司承受。公司章程或者股東會(huì)對(duì)法定代表人職權(quán)的限制，不得對(duì)抗善意相對(duì)人......
《公司法》第11條公布日期是2023年12月29日，施行日期是2024年7月1日，所以前面提到的AI由于數(shù)據(jù)庫(kù)滯后，引用了錯(cuò)舊的法條。再比如關(guān)于《保守國(guó)家秘密法》第三條的規(guī)定，許多政務(wù)導(dǎo)辦AI、咨詢問答類AI均引用了過(guò)時(shí)的、錯(cuò)誤的法條，呈現(xiàn)出錯(cuò)誤的回答結(jié)果▼關(guān)于《保守國(guó)家秘密法》第三條的規(guī)定，根據(jù)國(guó)家法律法規(guī)數(shù)據(jù)庫(kù)的正確答案，是這樣的：該法條在2024年2月27日公布，2024年5月1日施行，但明顯市面上眾多政務(wù)導(dǎo)辦AI、咨詢問答類AI都存在數(shù)據(jù)庫(kù)滯后性，沒有及時(shí)更新，會(huì)嚴(yán)重影響法律從業(yè)者工作的準(zhǔn)確性，也會(huì)嚴(yán)重誤導(dǎo)普通市民，引發(fā)大眾錯(cuò)誤理解！法律的核心不僅是規(guī)則，更是價(jià)值權(quán)衡，法律會(huì)不斷強(qiáng)調(diào)“公平”、“公序良俗”、“以人為本”，但AI傾向于用數(shù)學(xué)邏輯處理法律問題。 以正當(dāng)防衛(wèi)為例，我們選取下面這道法律職業(yè)資格考試真題題目，向AI提問。 某些AI會(huì)直接認(rèn)定為“防衛(wèi)過(guò)當(dāng)”，而實(shí)際上，法院會(huì)綜合考量防衛(wèi)動(dòng)機(jī)、手段比例和社會(huì)影響。AI缺乏法律人的“價(jià)值敏感性”，容易在倫理問題上犯錯(cuò)▼ 
而有些AI更“不近人性”，會(huì)用公式去計(jì)算某案件“正當(dāng)防衛(wèi)是否過(guò)當(dāng)”，從根本上不具備靈活性，無(wú)法處理復(fù)雜的法律問題▼ 法律實(shí)務(wù)中，許多規(guī)則都存在例外，比如“合同無(wú)效，但特殊情況下可部分有效”。但AI往往只能給出“非黑即白”的結(jié)論。 比如面對(duì)“未經(jīng)書面形式約定的勞動(dòng)合同有效嗎”這個(gè)問題，有部分咨詢問答類AI直接判定“無(wú)效”，而實(shí)際上，勞動(dòng)關(guān)系還要依據(jù)當(dāng)事人提交的證據(jù)做出判斷，只要證據(jù)提交充分，事實(shí)勞動(dòng)關(guān)系仍可能被法院認(rèn)可。
深層問題歸根于，AI難以識(shí)別法律中的“但書條款”和例外情況。▼
下期預(yù)告 目前的法律AI更像一個(gè)“法律檢索加速器”，而非真正的“法律分析專家”。它的優(yōu)勢(shì)在于快速查找法條，但在解釋、推理和價(jià)值判斷上仍存在明顯短板。下一期，我們將通過(guò)真實(shí)案例，展示AI法律錯(cuò)誤如何導(dǎo)致實(shí)務(wù)風(fēng)險(xiǎn)——包括美國(guó)律所因AI虛假引用被罰、廣州政務(wù)AI誤導(dǎo)企業(yè)等事件，以及分享如何防范此種情形發(fā)生。
|
