​脸书将黑人标为为灵长类动物(Facebook致歉推荐功能已禁用)

脸书将黑人标为为灵长类动物(Facebook致歉推荐功能已禁用)

AI系统从来不是完美的，但偏见需极力纠正。

近日，有 Facebook 用户在观看一段以黑人为主角的视频时收到推荐提示：询问他们是否愿意「继续观看有关灵长类动物的视频」。该视频是由《每日邮报》在 2020 年 6 月 27 日发布的，其中包含黑人与白人平民和警察发生争执的片段，并且视频内容与灵长类动物无关。目前，Facebook 已禁用该人工智能推荐功能。

据《纽约时报》报道，Facebook 已在上周五为其「不可接受的错误」道歉，并表示正在调查其推荐功能，防止这种情况再次发生。

针对此事，前 Facebook 内容设计经理 Darci Groves 在推特上发出该推荐提示截图，并表示这令人无法接受。Groves 还将其发布到一个面向 Facebook 现任和前任员工的产品反馈论坛。作为回应，Facebook 视频平台 Facebook Watch 的产品经理称其「不可接受」，并表示该公司正在「调查根本原因」。

图源：https://www.reddit.com/r/MachineLearning/comments/3brpre/with_results_this_good_its_no_wonder_why_google/

被证实「只是删除标签」后谷歌表示：「图像标签技术的发展仍处于早期阶段，不幸的是这项技术离完美还差得很远。」

在 OpenAI 一篇名为《Learning Transferable Visual Models From Natural Language Supervision》的研究论文中 ，研究者发现一些 AI 系统会将 4.9%（置信区间为 4.6%-5.4% ）的图像错误地分类为非人类类别之一，包括「动物」、「黑猩猩」等 . 其中，「黑人」图像的误分类率最高，约为 14%，而所有其他种族的误分类率均低于 8%。

论文地址：https://cdn.openai.com/papers/Learning_Transferable_Visual_Models_From_Natural_Language.pdf

实际上，AI 领域的偏见问题并不是个例。2020 年年底谷歌开除「伦理 AI 团队」技术联合负责人 Timnit Gebru 的事件引发了一场讨论风暴。就在昨日，Darci Groves 还在推特上发声支持 Timnit Gebru 及其研究工作。

偏见事件的陆续发生让人们开始思考问题的根源，越来越多的研究者为了解决 AI 系统的偏见问题做出了努力。例如，MIT 的研究者曾经开发一种可调的算法来减少训练数据中隐藏的潜在偏见，并用该算法来解决面部检测系统中的种族和性别偏见问题。此外，机器学习作为一种数据驱动系统，数据及其标注的质量和公平性可能还有很长的路要走。