AI招聘有偏见? 研究:英式名字男性在面试中得分较低
时间:2024-11-26 16:14 来源:IT商业科技网 作者:chuntao 点击:次
根据最新研究显示,在软件工程的工作模拟面试中,拥有「英式」名字的男性,AI智能招聘给的评价较差。 外媒指出,研究建议向AI招聘机器人隐藏姓名并混淆性别,确保结果普遍和公正。 据报导,AI内容公司Monok营销长德娜黛指出,目前许多新创公司都透过AI人工智慧进行员工招募,他们强调使用AI与人力招募两者并没有偏差,但她质疑这个说法。 据报导,这项研究是由Celeste De Nadai 在瑞典斯德哥尔摩皇家理工学院所进行的毕业论文,目的是调查「当大型语言模型面对性别资料与可进行文化推论的名字时,是否展现偏见」。 该研究是以Google的Gemini-1.5-flash、Mistral AI的Open-Mistral-nemo-2407.以及OpenAI的GPT4o-mini为研究对象。 在温度(影响可预测性与随机性的模型设定)、性别及与文化群体相关的名称变化的情况下,观察AI招聘如何对24个面试者的问题回答进行分类与评分。 该研究将申请人的名字和性别变换200次,以对应200个离散角色,再细分为100名男性和100名女性,并分为4个不同的文化群体,包括西非、东亚、中东、盎格鲁-撒克逊,主要反映在名字和姓氏上。 值得注意的是,为了测试模型,相同答案会使用不同姓名和背景组合。 結果發現具英式(盎格魯. 撒克逊)名字的男性,虽然在软件工程表现更好,但模型会降低其他有利答案的评分。 这项研究指出,进行分类或评估时,建议务必遮蔽姓名和混淆性别,确保结果尽可能概括且无偏见,并在系统指示提示中提供如何分级的标准。 (责任编辑:admin) |