AI 预测案件结果会产生哪些公平风险

AI 预测案件结果会产生哪些公平风险

问 AI“这案子会赢吗”，得到一个精确百分比，容易让人误以为未来已被算定。预测模型通常从历史判决中学习，却看不到未起诉、已和解或因无力承担费用而放弃的人。历史中的资源差距和偏见也可能被包装成“胜诉概率”，影响当事人是否敢主张权利。

预测系统还有“自我实现”的风险。若平台告诉律师某类案件胜算极低，律师可能不接，缺少代理的当事人结果又更差，下一版模型便更加确信低概率。司法机构应观察建议如何改变人的行为，不能只验证过去样本上的预测精度。

若司法服务提供此类分析，应明确它是情景参考，列出使用的数据范围、关键假设和不适用情况。不能把预测结果交给法官当作裁判依据，也不能让法律援助机构仅凭低概率拒绝服务。对当事人，说明不同证据补充和程序选择可能怎样改变分析，而不是给一个不可质疑的数字。

界面可以把百分比改成影响因素与未知项，例如“现有材料尚不能确认送达”或“类似案件在不同事实下结果差异很大”。当事人有权补充事实、要求人工解释。法律援助机构应禁止把预测分数作为单独拒绝条件，并抽查低分案件后来是否因补证而发生变化。

预测报告中可以加入“哪些新证据会改变判断”，而不是把分数钉死。用户补充事实后系统重新分析，显示变化原因；若只是历史同类案件太少，就直说无法可靠估计。法律专业人员应帮助当事人理解选择与风险，不能把模型概率当作节省咨询时间的借口。对弱势群体，保障可获得帮助比提高预测表面精度更要紧。

服务提供者还应防止用户把概率截图发给对方当作谈判筹码。界面应明确分析只依据有限资料、非司法意见，并尽量展示条件与不确定性，而不是醒目地放一个整数百分比。若预测后来被证明偏差大，机构要复盘被劝退或误导的人。公平风险来自预测怎样改变人的选择。

机构应测试不同收入、地区、语言和代理情况的误差，尤其看模型是否把“请不起律师”当成案件本身缺乏道理。界面保留人工咨询，允许用户要求解释或纠正错误资料。若模型长期预测某类群体更难获得救济，值得调查的可能是制度缺口。

若公众把预测当作法院倾向，程序公平会受到损害。服务提供者必须讲清它不是裁判结果，也不是对个人价值的评价。适度承认不确定，比一个看似精确的数更能帮助决策。

司法不是体育竞猜。数字可以帮助看清不确定性，却不应替任何人决定一项权利值不值得争取。