算法歧视治理:别让代码里的隐形偏见,挡了普通人的求职路

上周六在新街口一家冰美式卖38的咖啡馆,坐我对面的姑娘把第三张简历打印件揉成了团。

她叫小秦,28岁,之前在杭州做了4年服饰电商运营,去年妈妈做心脏支架手术,回南京全职照顾了10个月,今年开春想重新找工作。算下来这俩月她投了27份南京本地的同岗简历,全是石沉大海,连个拒信都没收到。

直到上周托前同事找内推,人家把公司招聘系统的后台截图发过来,她才知道自己连HR的收件箱都没进——系统因为她“累计10个月职业空窗”“居住地距公司超8公里”“近一年无相关项目经历”三个标签,直接打了32分,远低于60分的初筛线。

我当时攥着手里的杯子,冰碴子硌得牙酸。

这哪是筛简历。

这是拿代码给人贴生死符啊。

简历石沉大海的真凶,根本不是你不够优秀

小秦盯着那三个标签看了半天,问我:“我空窗是因为照顾重病的妈妈,这也叫‘稳定性差’?我家离公司8公里,地铁40分钟就到,这也叫‘通勤成本高’?我空窗期帮小区团长做了仨月的线上订单统计和社群运营,这也叫‘没有项目经历’?”

真的。

我蹲了这两年的一线纠纷,见过太多这样的事。那些被企业藏在服务器里、打着“提升效率”旗号的算法系统,本质上就是把过去HR办公室里关起门来讨论的、带着性别、年龄、人生选择偏见的招人标准,换成了一行行没有温度的代码,连当面撒谎的功夫都省了。

你要是碰到HR问你“结婚了没”“打算什么时候生娃”,还能拍桌子跟人辩两句,可面对算法的初筛结果,你连个吵架的对象都找不到。

企业招聘算法初筛后台分数标签界面
企业招聘算法初筛后台分数标签界面

被算法歧视的人,连申诉的门都找不到

前阵子接了个代驾老王的咨询,47岁,驾龄20年,去年冬天因为腰椎间盘突出请了两次病假,平台直接把他的派单优先级降到了最后。

他说那阵子跑了快半个月,每天熬到后半夜,一晚上最多接3单,赚的钱连电动车充电费和买盒饭的钱都不够。找平台客服问原因,对方翻来覆去就是那句“系统根据综合数据自动派单,人工无法干预”。

说实话,我之前也觉得算法歧视是新闻里的宏大议题,直到见了老王蹲在小区门口啃冷包子的样子,才知道那些写在代码里的偏见,砸在普通人身上就是一座山。

更荒唐的是,我上次碰到一个企业的HR跟我吐槽,说现在用的招聘算法是外包公司做的,他们自己都搞不懂系统会给候选人打什么分,但为了“提升招聘效率”,还是得照着系统的分数筛人。

连用的人都不知道规则是啥,就敢拿它决定别人能不能拿到一份工作。

之前总有人说“算法是中立的”,可训练算法的时候喂进去的全是“空窗期久的人稳定性差”“年龄大的人反应慢”“请过病假的人安全风险高”的老黄历,最后跑出来的结果能不带着偏见吗?企业不能以“算法自主决策”为借口回避歧视责任,这话喊了快两年,真到落地的时候,普通人连自己被歧视的证据都拿不到——总不能让企业把核心算法代码拿给你看吧?

这就像你考试被老师打了零分,老师把试卷锁进保险柜,说“我就是觉得你考得不好”,你连申诉的地方都没有。

代驾司机在小区门口等单刷手机的夜景
代驾司机在小区门口等单刷手机的夜景

算法歧视治理,从来不是写在文件里的空话

不过话说回来,事情也不是完全没有转圜的余地。

前阵子看到浙江出了个新的指导意见,要求企业用算法做招聘初筛的时候,必须给被筛掉的求职者一个明确的、可解释的理由,不能啥都不说就把人pass。深圳互联网法院去年还接了两起算法歧视的案子,其中一起就是个被招聘系统筛掉的姑娘,要求企业公开她的评分依据,最后企业不得不把系统里的三个负面标签列出来,还主动给她发了面试邀请。

你别觉得这是小事。

之前大家找工作,最多是碰到HR当面问你那些带着偏见的问题,现在这些话都被算法藏起来了,你连个讨说法的由头都找不到。现在这些细碎的、一点点往前挪的规则,其实就是在给代码里的偏见画红线——算法歧视治理的核心,从来不是把算法赶跑,而是让那些藏在代码里的偏见,能被普通人看见、能被申诉、能被纠正。

小秦上周给我发消息,说她按照新的指导意见,给之前投简历的那家公司发了邮件,要求告知她初筛不通过的具体原因。对方过了三天真的回了,说系统判定她空窗期太长,稳定性不足。她直接回了邮件,附了妈妈的病历单,还有她空窗期帮社区做线上团购运营的证明,对方居然真的约了她下周面试。

你看,哪有什么天生的算法偏见。

大多是偷懒的人把自己的刻板印象喂给了机器,现在我们要做的,就是把这些藏在代码里的懒骨头揪出来,别让它们随便给人判死刑。

以前我们说找工作要拼实力,现在还得跟藏在代码里的刻板印象打架——但没关系,规则本来就是跟着人走的,我们多往前挪一步,那些躲在代码里的偏见,就少一分害人的力气。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:算法歧视治理:别让代码里的隐形偏见,挡了普通人的求职路
文章链接:https://www.wuhanlihunlvshi.com/cases/3253.html