自动化决策拒绝——守法预期与法律风险的边界在哪?

上周接了个咨询,姑娘开了个小淘宝店,卖手工饰品,突然被平台扣了2000块保证金,理由是“异常交易”。她找客服,客服翻来覆去就一句话:“系统自动判定的,我们也没办法。”

我问她,有没有人工申诉的入口?

她说找了,根本没有,所有申诉按钮点进去都是跳回系统判定的结果页。

这事儿说穿了,就是踩了“自动化决策拒绝”的红线。

你被算法判过“死刑”吗?

别觉得这是个离你很远的法律概念。你刷外卖被算法降了派单权重,你申请信用卡被系统秒拒,你租房子被算法打了低分直接筛掉,甚至你在公司打卡,算法算你“摸鱼时长过长”要扣工资——这些全是自动化决策的场景。

最烦的是什么?你连反驳的机会都没有。算法说你违规,你就是违规,没人告诉你哪条订单触发了规则,没人给你看后台的判定逻辑,更没人站出来为这个结果负责。

电商平台算法自动判定违规后台截图
电商平台算法自动判定违规后台截图

说真的,我见过太多人碰到这种事,要么自认倒霉,要么在评论区骂两句,根本不知道自己有拒绝的权利。

法条里的“拒绝权”到底管什么?

先把法条摆出来,《个人信息保护法》第24条第3款明确写了:个人有权要求个人信息处理者对自动化决策结果予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。

这法条保护啥?不是反对用算法提高效率,是反对那种“没人担责的算法暴政”。你想啊,企业握着全量的用户数据,藏着黑箱一样的算法逻辑,个人连自己为啥被判定违规都不知道,这权利义务从一开始就是歪的。

个人信息保护法第24条法条原文截图
个人信息保护法第24条法条原文截图

我去年办的两个案子,刚好能凑成两组对比。

头一组是合法操作和违法操作的区别:某股份制银行给用户批信用卡额度,算法先做初筛,要是用户对额度不满意或者被拒了,随时可以转人工,人工调阅用户的完整流水之后可以直接调整额度,这是合法的。另一个是某共享充电宝品牌,算法检测到用户“逾期归还超过72小时”,直接从用户的免密支付里扣了199块买断费,连个提醒都没有,更别说人工复核了——这就是典型的违法,因为它是“仅通过自动化决策”作出了对用户财产权益有重大影响的决定。

这里的核心区分变量:有没有为个人提供“脱离纯算法的实质人工干预渠道”。对,不是说你不能用算法初筛,是不能说算法说啥就是啥,连个能改结果的人都找不到。

另一组是两个都不违法,但责任天差地别的操作:某招聘网站,算法先筛简历,筛完之后HR会再完整看一遍所有通过初筛的简历,就算被拒了,也会给求职者发个模板通知,这时候就算求职者说要行使自动化决策拒绝权,平台基本没啥责任。另一个是某长租公寓,算法先给租客打信用分,低于60分的就算HR觉得这个租客作息规律、收入稳定,也必须按算法结果拒租,HR连修改分数的权限都没有——这时候虽然表面上有个人工环节,但实际上人工只是个走形式的傀儡,要是租客真的起诉,平台大概率要承担赔偿责任,因为所谓的人工干预根本没有实质作用。

中国政法大学数据法治研究院2024年发布的《个人信息保护法实施三周年司法观察报告》里提过,2021-2024年全国法院受理的涉自动化决策拒绝权纠纷共127件,其中89%的原告是普通消费者、劳动者,胜诉率只有32%。为啥这么低?大部分原告都拿不到平台的算法运行证据,连平台到底有没有走人工复核都证明不了。2023年我碰到的一个外卖骑手的案子,就是因为平台拿不出任何人工复核的记录,最后法院支持了骑手的诉求,判平台恢复他的账号权重,赔偿他的误工损失。

真碰到算法卡你,该怎么留证据?

真碰到算法卡你,该怎么留证据?
真碰到算法卡你,该怎么留证据?

别等被坑了才想起找法条,真要碰到算法给你下判定,按这三步来就行。

注册任何平台账号的当天,把用户协议里涉及“自动化决策”“算法判定”的条款单独截个图,存到自己的私人云盘里,别存在手机本地,免得哪天换手机就没了。

要是哪天突然收到平台的违规判定、封号通知、降权提醒,第一时间别删APP,把整个判定页面连带着手机顶部的时间状态栏一起录屏,录的时候要把你自己的账号ID也露出来,别只拍个结果页。

收到判定结果之后的72小时内,通过平台的官方在线客服通道(别打电话,电话留不下记录)发书面的通知,明确说你要求人工复核,并且行使自动化决策拒绝权,发完之后把整个聊天记录截图存好。

别觉得算法是中立的。写代码的人要是偷偷给你降权,你连说理的地方都没有,留好证据才是真的。

说到底,自动化决策拒绝权从来不是要把算法赶出去,而是要给所有冷冰冰的代码,找一个能担责的活人。

本内容仅供法律信息参考,不构成委托关系,不构成对裁判结果的任何形式承诺。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:自动化决策拒绝——守法预期与法律风险的边界在哪?
文章链接:https://www.wuhanlihunlvshi.com/huxg/3592.html