为避免偏见指控 Google 正在改变对肤色的分类方式
原标题:为避免偏见指控 Google 正在改变对肤色的分类方式
据外媒网报道,Google 正在改变它对肤色的分类方式,悄悄地研究一个新系统,该搜索巨头希望在未来的技术中避免令人尴尬的偏见指控。近年来,机器学习和人工智能以及可穿戴设备和其他设备处理不同肤色的方式已经导致了许多问题。
这包括云端照片服务中对黑人的错误分类,健身可穿戴设备和智能手表无法对深色皮肤的用户进行心率和其他测量,以及其他一系列引人注目的错误。虽然科技公司已经努力澄清,指出这些系统无意中 -- 和不可预见的 -- 产生的副作用,但至少在 Google,显然已经开始研究处理用户多样性的新方法。
据称,问题在于目前使用的色标,即 Fitzpatrick 皮肤分型或 FST。它自 20 世纪 70 年代以来一直存在,并将肤色分为六种色调:其中四种是 「白色 」皮肤,其余两种是 「棕色 」和 「黑色 」皮肤。
Google 已经确认它正在研究一种不同的方法,尽管它还没有准备好透露细节。该公司告诉路透社:「我们正在研究其他更具包容性的措施,这些措施在我们的产品开发中可能是有用的,」并将与科学和医学专家以及与有色人种社区合作的团体合作。它拒绝提供任何具体细节。
目前的 FST 量表的设计初衷是根据皮肤类型的易晒伤程度对其进行分类。这些分组随后被用作紫外线辐射治疗的一部分。然而,该量表后来被更广泛地采用,因为公司和组织在寻找一种方法来划分人群。这些分组也不一定要像机器学习和人工智能那样先进。例如,即使是表情符号也在寻找 FST 的肤色选择。
目前还不清楚其他科技公司可能在更有效、更平衡的尺度上做什么工作。Google 没有给出时间表,说明它的替代系统何时可以部署;很可能,即使它被认为处于适合面向公众使用的阶段,其实施也将在后台悄悄进行,以避免任何推出的小问题被发现。苹果和微软向路透社证实,他们知道 FST 的缺点,尽管他们是否在积极开发一个现代的对应程序还不确定。