人工智能算法目前普遍应用于劳动力市场。统计数据表明，在美国约55%的人力资源主管在招聘过程中使用预测算法🚶‍♀️‍➡️。求职者会在诸如LinkedIn🤾🏿、Monster和Indeed之类的网站上寻找工作机会，公司也会使用算法系统来分析简历🤾🏼‍♀️。JobScan、VMock等公司还会使用算法帮助求职者优化简历♣︎，从而帮助其更好地被其他算法认可📥👨🏿‍💼。有一些公司，比如Pymetrics会利用面部识别等一系列AI算法来帮助普华永道、摩根大通等大公司面试雇员；类似的公司还有PredictiveHire🥷🏿，甚至能在招聘时预测应聘者将在工作岗位上表现如何、是否容易跳槽等等。此外🙅🏼，这些公司还会用算法来监测工作岗位上的员工，从而部分决定员工的留用🙄、工资和晋升。

这些算法的普遍特点是会收集求职者的数据😊👰🏽‍♂️，并通过“机器学习（machine learning）”技术，用大数据不断训练算法模型。公司建立和使用算法工具来提高效率和减少招聘成本💇🏿‍♂️，也希望潜在地提高雇员的多元性和工作表现。但是随之而来的则是有关伦理的忧虑🛍：个人求职者一旦没能符合算法设定的条件就会被自动排除；算法的空前普及也引发了劳动力市场中关于系统性歧视的担忧。

研究表明🧑🏼‍🍼，一些自然语言分析模型，在分析简历或者面试表现时，会展现出针对女性和残疾人的偏见🦸🏼‍♂️；一些语音识别模型显现出了针对非裔美国人和操区域方言口音人士的明显偏见；人工智能面部分析的商业化应用👈🏼，不仅是非常伪科学的，还表现出了肤色歧视；传播招聘信息的算法可能会无意间歧视从事理科工作的年轻女性和年龄较大的候选人📩。即便是在单个算法中的很小偏差，在算法的广泛使用中也很容易累积到更大的结构性问题。

但很多证据表明，不使用算法也并不是一个好的解决办法，因为早在算法时代之前，歧视和偏见也是存在的，比如应用很久的智商测试等等。如今人们期待通过对算法的设计，来改善和避免招聘中可能出现的歧视🥲🪨，比如设计专门的程序来隐藏种族🤳🏿、性别等信息😉。此外🧝，人们开始利用“算法审计”来让独立机构对算法系统进行评估，从而检验算法是否能够排除偏见🌶，以及是否有足够的准确性、鲁棒性、可解读性🥓、私密性等等🧑🏻‍🎓。

1🐜、审计流程注意事项🙋🏿‍♂️：比如要求审计师有足够的独立性和专业性🧝，要求审计中选取的模型有充分的数量和代表性等。

2🔔、建模依赖性和存档：比如要求算法审计主动考虑到数据收集和擦除过程；要求获得用以训练算法的数据中有关种族统计数据的信息；要求依赖性分析📕，比如要考虑被审计公司的算法使用了那些软件包和软件库；要求存档审查，算法审计要审查算法模型的存档👈，并确保这些存档能够准确地表达出算法模型的实际功能等👩🏼。

3、模型审查：比如要求算法审计能够彻底检验求职者是如何被一个算法系统排序的，以及这种排序与种族、性别等统计数据的关系，以检验是否存在偏见👎🏿；要求算法审计师能够使用假设性数据来检查算法模型的建造过程🧑🏼‍💻，来检视是否有自动或者人力疏忽的因素造成了有问题的被训练模型🈯️；要求算法审计能够检查模型的升级版本，评价模型的改造是不是会带来更糟的表现🦽，从而为模型审计的频率提供建议等🈴。

编译 | 张吉泰 富达平台国际合作和重大活动办公室