界面新闻记者 | 查沁君
界面新闻编辑 |
美国首起AI招聘歧视案，最终以中国公司赔偿36.5万美元（约264万元）结束。
美东时间8月9日，美国平等就业机会委员会 (EEOC) 与中国教培公司麦奇教育科技（iTutorGroup）达成和解，后者因应聘者年龄大拒绝了200多名申请者，被判赔36.5万美元，用于补偿被拒的应聘者。
2022年5月，EEOC起诉iTutorGroup旗下三家公司——iTutorGroup, Inc.、上海平安智慧教育科技有限公司、Tutor Group Limited。
据EEOC指控，iTutorGroup于2020年对其在线招聘软件进行编程，该算法会自动拒绝年龄较大的应聘者，55岁以上的女性和60岁以上的男性将被取消考虑资格。
EEOC认为，这违反了美国《年龄歧视法》（ADEA），该法保护40岁及以上的人免受歧视。iTutorGroup否认其有任何不当行为。在双方无法达成诉前和解时，EEOC在美国纽约东区地方法院提起了法律诉讼。
“年龄歧视是不公正和非法的，即使技术使歧视自动化，雇主仍然负有责任。”EECO主席夏洛特·A·伯罗斯（Charlotte A. Burrows）表示，“这个案例正是EEOC最近发起人工智能和算法公平倡议的一个例子，因雇主使用技术而受到歧视的工人，可以依靠平等就业机会寻求补救措施。”
根据同意令，iTutorGroup不得基于年龄或性别拒绝应聘者，还必须采取反歧视政策并进行反歧视培训。此外，该公司必须邀请所有在2020年3月和4月因年龄原因被拒绝的申请人重新申请。
iTutorGroup被指“报酬低”
iTutorGroup曾是国内风光无两的在线教育独角兽。
其成立于1998年，旗下品牌包括成人在线英语教育品牌TutorABC、青少儿在线教育品牌VipJr、在线汉语教育品牌TutorMing等，提供成人英语、汉语和青少儿英语、数学、语文、编程等真人在线互动课程。高峰时期，曾在全球范围有超三万名外籍顾问。
在2012-2015年间的四轮融资中，iTutorGroup累计融资金额超3亿美元，启明创投、阿里巴巴、淡马锡、高盛、银翎资本等国内外顶尖级机构均在投资之列。
2019年7月，中国平安宣布集团子公司平安海外（控股）有限公司与集团境外联营公司，将以资金和资源注入的形式，战略入股iTutorGroup。本次入股完成后，iTutorGroup将被纳入到平安整体生态圈战略体系中，成为智慧教育板块的核心组成部分。
同年，iTutorGroup CEO杨正大对外宣称，公司已完成Pre-IPO轮融资，上市计划在推进中，预计在2019年下旬或2020上旬完成。“双减”后，该公司对外发声减少，上市计划也不了了之。
界面教育发现，外教数量庞大的iTutorGroup还曾被指“随机解雇教师”、“报酬低”。
2021年1月，在YouTube拥有超1.5万订阅者的英语教师Martin发布一则视频，观看量近万，其自称曾任职于iTutorGroup，并指责该公司“在2020年6月解雇了许多教师，无论其服务年限如何，当时正值世界其他地区疫情最严重的时候。”
Martin还表示，其于2021年1月收到iTutorGroup发来的关于聘用合同更新的电子邮件，“提供的报酬令人愤怒”——以前每节课45分钟的课程收入15英镑，如今缩减至8英镑。25分钟的课程收入由8英镑减少至6英镑。
该视频下方收获了不少支持者的评论。有人自身的经历称：“尽管教师的工资已减半，但学生仍然支付高昂的费用。我刚刚获得 CELTA资格，看不到这个行业的未来。”、“如果他们给我提供新合同，相同的工作量下，我每个月会损失大约400加元。”
AI招聘的监管边界何在？
随着AI技术在各行各业的渗透，其在招聘中扮演的角色也愈发深入。
美国人力资源管理协会（SHRM）在2022年2月的一份报告中指出，受调查的1688家美国公司和组织中，近1/4计划在未来五年内，使用自动化技术或AI来支持招聘工作，包括自动搜索求职者、筛选审阅求职者简历、针对特定群体发布招聘信息、预先选择求职者进行面试、管理自动面试并分析求职者回复等。
64%的HR表示他们的自动化或AI工具能自动过滤不符合条件的应聘者；85%的受访者认为这节省了时间、提高了效率；44%认为这有助于帮他们提升识别拔尖应聘者的能力；还有30%的人认为采用AI能减少招聘决策中的潜在偏见。
今年一月，EEOC就2023-2027年战略执行计划草案征求公众意见，该机构首次考虑了雇主对人工智能和机器学习工具的使用，并为律师提供了行动路线图。EEOC认为，雇主可以使用AI工具来筛选简历中所需的品质和经验，但这可能会导致有意或无意的歧视。
该机构主席夏洛特·A·伯罗斯上周重申，该委员会将人工智能作为“新的民权前沿”，并表示新工具不应“侵蚀基本价值观和原则”。
随着ChatGPT、Stable Diffusion、Midjourney等生成式人工智能产品在国内外爆红。以ChatGPT为代表的大语言模型在理解人类语言、人机交互、各类文本写作、代码编写、逻辑推理等方面展现出了令人惊叹的能力。
但同时，生成式人工智能的应用也带来了侵犯隐私、泄露商业秘密、传播虚假信息、造成信息茧房、可能被滥用于网络犯罪等潜在风险问题，引起了各国监管部门的广泛关注。
2023年4月11日，中国公布了《生成式人工智能服务管理办法（征求意见稿）》要求算法备案；意大利据保护局（Garante）即以涉嫌侵犯隐私为由在本国禁用ChatGPT，并对ChatGPT应用程序涉嫌违反隐私规则展开调查。欧盟的《人工智能法案》则将AI分成三个危险级别，危险越高受到的监管越多。
针对AI在具体领域的运用以及法律的具体实施上，仍有待进一步完善和细化。