算法歧视治理:藏在外卖派单里看不见的不公平

前阵子在骑手驿站歇脚,碰到个蹲在台阶上抽烟的小伙子,叫杨明,99年的,去年才来杭州跑众包。他掏出手机给我看派单记录——同一片商圈,同时在线,他好友列表里的老骑手,一上午接了三单超过二十块的跨区单,他四小时只接到五单八块到十块的小区单,最远不超过两公里。

派单屏里看不见的等级

没人把这个规则写在骑手协议里。平台客服只会说派单是随机的,全看系统匹配。小杨说他试过,把自己的准时率从96%刷到99%,甚至比好多老骑手都高,情况还是没变化。直到后来他混进了老骑手的私群才知道,算法早就给人分好了档:入职满一年、月出勤26天以上的老骑手,系统自带优先派单权重,好单先紧着这群人选,剩下的才轮到新人、兼职骑手。 说白了就是,你帮平台把单量做起来了,平台就给你好处,新来的?一边蹲着去。
外卖平台骑手手机派单界面对比截图
外卖平台骑手手机派单界面对比截图
这不是算法歧视是什么?小杨憋了一口气,找了当地的劳动监察,又找了法律援助,说要讨个说法。我当时帮他整理材料的时候,就发现了问题——你说算法歧视,你拿得出证据吗?

告算法,卡在哪?

平台说算法是商业秘密,不可能给你公开核心参数。小杨自己只能拿到自己的派单记录,拿不到同商圈所有骑手的权重数据,更拿不到平台的核心算法逻辑。说白了,就是举证不能——你明知道对方偏架,你就是拿不到对方出老千的证据。 之前也有类似的事儿,招聘算法歧视已婚未孕女性,信贷算法歧视低收入户籍地的用户,大多都卡在这一步。原告说我被歧视了,被告说我算法没问题,你拿出证据来啊,一句话就把人噎得说不出话。
骑手维权劳动仲裁庭审现场照片
骑手维权劳动仲裁庭审现场照片
说实话,我之前也觉得算法这东西太玄,算法歧视治理都是写在政策文件里的漂亮话,落不到普通人头上。不过话说回来,这次小杨的案子,反而让我看出点不一样的东西。杭州这边的网安部门联合市场监管,居然真的介入调阅了平台的算法参数,一查,还真有这么回事——专门给高留存老骑手加了30%的派单优先级,新人入职不满六个月,权重自动砍半。 这事放到三年前,想都不敢想对吧?

算法歧视治理,要落到具体的诉求上

算法歧视治理,要落到具体的诉求上
算法歧视治理,要落到具体的诉求上
很多人聊算法治理,开口就是伦理,闭口就是宏观合规,说出来的话比算法代码还难懂。其实根本不用那么复杂。算法歧视治理,从来不是要把算法废掉,也不是要平台把所有代码全扔到网上——那也不现实,毕竟真涉及商业秘密的部分,确实要保护。 核心就是一条:当普通人说我遭遇了算法不公平的时候,得有地方说理,能拿到能说话的证据。现在不少地方推的算法天窗制度,我觉得就挺好——不用全公开,针对具体的投诉,监管部门、司法机关可以调阅核心争议点的参数,平台不能拿“商业秘密”当万能挡箭牌。对吧?你说你没有歧视,那打开给法官看看啊,藏着掖着算怎么回事? 我前两周刷到一个新闻,说上海有个女求职者,因为招聘算法自动过滤已婚未孕女性,告了平台,最后拿到了赔偿。这不就是算法歧视治理活的例子吗?法律不是坐在办公室里写规则,是跟着一个个具体的人、一个个具体的案子,一点点把算法的边界摸出来的。就像小杨这个事,哪怕最后只是把那个不合理的权重砍了,只是让新人能分到几个好单,那也是算法歧视治理往前实实在在迈了一步。 上周小杨给我发微信,说这两天派单确实好了点,一天能多赚百八十块。他说,原来真的有人管算法啊。我看着他发的语音,挺感慨的。我们总说算法是未来,是新技术,可新技术不能踩着普通人的利益往前走啊。治理算法歧视,说白了就是给算法定规矩,规矩怎么来?就是从这一个又一个小杨的诉求里来的。路还长,慢慢走。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:算法歧视治理:藏在外卖派单里看不见的不公平
文章链接:https://www.wuhanlihunlvshi.com/cases/2652.html