如何抵制隐藏在算法背后的歧视？ （主题）

阅读技巧

近年来，利用算法进行AI招聘已成为职场新热点。 如何避免人工智能算法可能带来的歧视，成为保障就业公平的新课题。 近日，在上海市政协召开的重点提案监管专题调研推进会上，监管部门、行业专家和业内人士表示，防止人工智能就业歧视，要加强对算法滥用的监管、强化技术手段，多方面共同努力。 努力消除隐藏在算法背后的歧视，更好维护劳动者权益。

随着ChatGpt的火爆，国内多家AIGC平台也迅速跟进。 再加上我国互联网招聘平台正处于快速发展时期的背景下，利用人工智能技术进行简历筛选和人力资源开发已成为当前招聘领域的最新趋势。 最热门的发展趋势。

一些在人工智能招聘领域迈出实质性步伐的企业和机构表示，人工智能招聘可以避免主观因素的干扰，更好地将应聘者的能力与岗位要求相匹配。 然而，偏见和歧视也可能通过算法更巧妙地嵌入到决策系统中，悄然侵蚀就业公平。

如何防止AI算法背后隐藏的就业歧视？ 日前，在上海市政协重点提案督导专题研究管理推进会上，各方积极建言，为人工智能在就业领域的应用建立公平公正的防护罩。

AI算法会造成就业歧视吗？

目前，我国互联网招聘平台发展迅速。 数据显示，一些领先平台已服务求职者超1亿人次，有效简历超过1.5亿份，认证企业近千万家。 平台上聚集了大量的招聘需求和求职需求，从而积累了海量数据。 目前，不少招聘平台已经开始探索通过AI算法赋能数据。

“根据招聘平台的数据，结合当前社会人工智能、大数据技术的发展，无论是用人单位还是中介部门，在就业决策中对算法技术的依赖程度不断增强。 ” 上海市网信办总经理、工程师杨海​​军说。

人工智能算法为人力资源开发带来效率提升的同时，一些隐藏的风险也引起了社会各界的关注。

翁文蕾长期在上海市妇联工作。 她密切关注女性就业情况，注意到如今的劳动者求职时面临的情况与过去有很大不同。 “互联网招聘平台的简历筛选过程基于人工智能算法，可以根据已知数据准确预测求职者的婚姻和生育状况。 同时，其自主学习能力也会放大社会上一些固有的性别偏见。”

“虽然目前还没有发现典型病例，但我们一定要未雨绸缪。” 翁文雷表示，互联网招聘平台带来的性别就业歧视更加隐蔽，只能通过长期招聘结果来推断。 “同时，劳动法规制性别歧视的主要主体是用人单位，即使网络招聘平台能够承担责任，但履行责任仍存在很大困难。” 对于潜在的歧视风险，她认为是否存在歧视要看数据。 还要加强典型案例数据分析，及时预警。

多管齐下联合监管

就业是人民最大的民生。 就业歧视涉及工作场所的每一位工人。 如何未雨绸缪，将问题防在萌芽状态？ 各方都采取行动，确保就业领域的公平正义。

针对算法出现的新问题，杨海军介绍，国家先后发布了《互联网信息服务算法推荐管理规定》和《关于加强互联网信息服务算法综合管理的指导意见》，并继续开展专项行动，严厉查处各类企业滥用算法行为。 现象。 “主要是对企业算法的机制、机制、管理制度、应用场景、标签体系、用户权益保护等方面进行深入检查。基本上所有头部招聘企业都被纳入检查名单。” 杨海军说道。

监管在加强的同时，技术手段也在加强。 上海市科委总工程师赵健介绍，在2021年人工智能科技支撑专项评审中，上海专门部署了人工智能社会实验体系建设专题，强调要科学评估发挥人工智能的综合社会影响，有效推动人工智能应用标准建设，辅助支撑人工智能应用的公共治理决策。

为了防止人工智能可能存在的偏见和歧视，一些机构已经在这方面进行了积极的探索。 “比如上海浦江实验室就搭建了蒲公英人工智能治理开放平台——OpenEGlab，软硬件结合，目标是打造系统化、实用化的人工智能伦理治理基础设施。” 赵健表示，该平台包括规则、风险展示、评价框架等五个部分。 其中，公平正义维度涵盖基于性别、地域、年龄、职业健康等方面的歧视。 同时，建立了基于评价框架中敏感问题的评价语料库。 数据量达到百万级，公平公正部分的数据量将达到十万级。 目前，已经对国内外部分大型车型的安全性进行了初步评估。

让工人参与算法治理

“赖伊芬目前有7800名正式员工，其中95%是女性，40岁至50岁的员工占50%。” 面对职场就业歧视，上海来伊芬有限公司董事长于瑞芬经常用自己的经历来解释回应偏见：“我1999年创业，雇佣了大量下岗工人.他们是可爱的人并且工作努力。”

于瑞芬认为，年龄、性别等不应该成为职场的门槛。 “我们店里的员工大部分是上海本地的阿姨，公司对她们进行了电脑技能培训和提高，目前每年给她们发放的工资约为8.5亿元。”

“女性占就业和劳动力市场的一半，但晋升上限、同工不同酬等就业歧视在一些企业仍然存在。” 翁文蕾认为，经济转型，特别是新技术对就业的替代效应，女性是有优势的。 “现在就业需要的不仅仅是肌肉，更重要的是协调性。”

上海财经大学法学院教授吴文芳在进行人工智能算法治理和数字时代劳动者权益保护研究时曾撰文。 他指出，算法可能导致歧视和算法权力滥用的问题需要通过算法治理工具来规范。

吴文芳表示，要关注工人参与算法治理的具体路径的构建，以及赋予工人新权利的途径。 同时，应加强工会的专业赋能以及与第三方专业组织的制度化协作，加强对算法设计、算法披露等监管程序的积极参与。

工人日报-中国产业网记者 裴龙翔

搜虎网转载此文目的在于传递更多信息，不代表本网的观点和立场。文章内容仅供参考，不构成投资建议。投资者据此操作，风险自担。