微软将放弃”面部识别”备受争议的某些功能

​微软正在逐步禁止公众使用一些人工智能面部分析工具,包括一款声称可以从视频和图片中识别对象情绪的工具。

微软将放弃

这种“情感识别”工具受到了专家的批评。他们说,人们普遍认为面部表情在不同人群中是不同的,而且把外在的情绪表现与内在的情感等同起来是不科学的。因为机器可以察觉到怒容,但这与察觉到愤怒不是一回事。

这一决定是微软人工智能伦理政策大改革的一部分。该公司更新的负责任人工智能标准(于2019年首次提出)强调问责制,以找出谁使用了其服务,并加强对这些工具的应用领域的人力监督。

实际上,这意味着微软将限制对其面部识别服务(被称为Azure Face)的某些功能的访问,并完全删除其他功能。用户必须申请使用Azure Face进行面部识别,例如,告诉微软他们将如何使用以及在哪里部署其系统。一些危害性较小的用例(如图像和视频中自动模糊人脸)将保持开放访问。

除了移除公众对其情感识别工具的访问权限,微软还取消了Azure Face识别“性别、年龄、微笑、面部毛发、头发和妆容等属性”的功能。

微软首席人工智能负责人娜塔莎·克兰普顿(Natasha Crampton)在一篇宣布这一消息的博客文章中写道:“公司内外的专家都强调,对‘情感’的定义缺乏科学共识,如何在用例、地区和人口统计数据之间进行推断存在挑战,以及围绕这类功能的隐私担忧加剧。”

从6月21日起,微软将停止向新用户提供这些功能,而现有用户的访问权限将在2023年6月30日被取消。

微软的某些人工智能应用仍将提供情感识别。

尽管微软不再向公众开放这些功能,但它将至少在自己的一款产品中继续使用这些功能:一款名为Seeing AI的应用程序,它使用机器视觉为视力受损的人提供“看”世界的新能力。

微软Azure AI主要团队的产品经理萨拉·伯德(Sarah Bird)表示,情感识别等工具“在可访问性可控场景中使用时很有价值”。目前还不清楚这些工具是否会在微软的其他产品中使用。

微软也在其自定义神经语音(Custom Neural Voice)功能上引入了类似的限制,该功能允许客户根据真人的录音创建人工智能语音(有时被称为深度伪装音频)。

这个工具“在教育、无障碍和娱乐方面具有令人兴奋的潜力”,但伯德也指出,“它也很容易被用来不恰当地模仿演讲者和欺骗听众”。微软表示,未来将把该功能的访问权限限制在“管理客户和合作伙伴”,并“确保在创建合成语音时原始发言者的积极参与”。

© 版权声明

相关文章