上周三在鼓楼区老小区的单元门廊下，我碰到张姐蹲在台阶上掉眼泪。手机屏幕亮着，是饿了么众包的注册页面，一行灰字僵在最下面：“您的账号因历史履约数据异常，暂无法通过审核”。
张姐今年38岁，之前在超市做理货员，去年老公下楼踩空摔了腿，娃刚上三年级，之前跑了半年外卖专送，因为要每天下午四点半准时到学校接两次烧到39度的娃，凑不齐平台要求的早七晚九固定排班，才想着转众包，好歹时间能自由点。结果注册直接被打回来。她之前跑专送的时候有三次超时，全是接娃那天班主任突然打紧急电话催她去医院的路上超的时，系统把这三次记录全算成“履约风险点”，直接给她归到了“高风险骑手”池里。
连申诉入口都找不到的“算法黑名单”
她找过之前的站点站长，站长摊手说我改不了后台的分数，这是总部模型算的，我连你被归到哪个池子里都看不到。打了三次平台客服，翻来覆去就是那套车轱辘话：“我们的审核标准基于大数据模型，不存在任何身份歧视，请您谅解。”
谅解什么呢？我看着她手腕上去年冬天跑单摔的疤，手指上因为握车把磨出来的硬茧，突然觉得之前翻到的那些算法歧视治理的政策文件，全飘在半空中。文件里写的都是“大数据杀熟”“个性化推荐侵权”，可没人提这种——你连面都没跟平台的人见，系统就悄无声息把你所有能靠体力换钱的门全焊死的情况，到底算哪门子的问题。
现在的治理，还在盯着“明面上的差价”
这两年谈算法歧视治理，大家的注意力全在那些好抓的场景里：同个酒店老用户订房比新用户贵二十块，同个打车软件苹果手机用户的预估价比安卓高三块，同个外卖店会员的配送费比普通用户贵五毛。这些事好取证，截两张图，对比下订单信息，就能投诉，监管部门也好上门查，证据链清清楚楚。可张姐碰到的这种呢？你连算法到底拿哪条数据当“拒录依据”都摸不着。
上周我陪她去建邺区参加一个互联网法治沙龙，有个平台的算法工程师在台上讲，说我们的模型绝对公平，因为我们根本不采集性别、年龄、婚育状况这些敏感字段，从根源上就不会有歧视。我当时举手上台问，那你们采集的“固定时段在线率”“突发离岗次数”“3公里平均配送时长”，把这些数据串起来训练模型，是不是直接就把要接娃的单亲妈妈、要回家给老人做饭的子女、腿有旧伤跑不快的骑手全筛出去了？那工程师愣了两秒，说，这是为了平台整体配送效率最优的选择，不属于法律意义上的歧视。
我当时坐在台下，后脊梁发凉。什么叫效率最优？就是把所有可能拖慢平台赚钱速度的人，悄无声息踢出去，连个说理的地方都不给你。你说你是单亲妈妈要接娃？算法不管，它只算你离岗三次，效率比平均水平低12%，属于高风险用户。你说你腿上有旧伤跑不快？算法不管，它只算你平均配送时长比别人慢两分钟，不值得给你派单。
别等普通人被挤到墙根了才想起补规则
之前我在一个网约车司机的维权群里碰到个师傅，去年冬天因为拉了个乘客，对方在车里抽了半根烟，给了个差评说“司机身上有烟味”，系统直接把他的派单优先级降到了最低，连续一个月每天在线十二个小时，都接不到三单。他折腾了三个月，最后听群里的老司机说，把账号注销，换个家人的手机号重新注册，瞬间就回到了高优先级派单池。
你看，这就是现在很多人面对的算法歧视：你想破局，根本没有正经的申诉通道，只能靠“换个身份当新人”。
算法歧视治理最该先落地的，从来不是罚多少金额，是给普通人留一扇能摸得到门把手的申诉通道。
之前有学者说，要给所有商用算法做“可解释性”改造，就是平台不能把规则藏在黑箱里，得告诉用户，到底是哪条数据、哪条规则把你筛出去了。我觉得这话对，但还不够。就算平台把规则明明白白写出来，张姐的三次超时还是存在，系统还是会把她归到高风险池里。那怎么办？得给规则留弹性啊——你不能拿冷冰冰的分数把人一棒子打死，你得给人留个申诉的口子，让大家能说清楚自己的特殊情况，而不是所有的判断都交给没有共情能力的模型。
上周张姐给我发微信，说她找了小区门口的便民菜店，帮老板给周边的住户送预定的菜，一趟三块钱，虽然赚的比跑单少点，但是不用凑排班，也不用怕系统突然给她打低分。
挺好。
至少不用蹲在单元门门口哭了。
我们现在谈算法歧视治理，总喜欢拿国外的法条当标杆，说什么欧盟的数字服务法要求算法透明，什么美国的法案要求算法做歧视影响评估。可没人低头看看脚边——那些每天在城市街巷里钻来钻去，把热饭、把菜、把快递送到你家门口的普通人，他们根本等不到完美的法条一步步落地。他们现在就被算法挡在谋生的门外了。
别等了。
现在的规则，该往这些人脚边落了。
