联邦贸易委员会警告正计划打击有偏见的人工智能技术
美国联邦贸易委员会警告各公司不要使用有偏见的人工智能技术，因为它们可能违反消费者保护法。一篇新的博客文章指出，人工智能工具可以反映出 "令人不安的"种族和性别偏见。如果这些工具被应用于住房或就业等领域，虚假宣传为无偏见，或以欺骗性方式收集的数据进行训练，该机构表示它可以进行干预。
联邦贸易委员会律师Elisa Jillson写道："在急于拥抱新技术的时候，要小心不要过度承诺你的算法可以提供什么，"特别是在承诺不反映种族或性别偏见的决定时。"结果可能是欺骗、歧视，当然还会有FTC的执法行动"。
正如议定书指出的那样，联邦贸易委员会主席丽贝卡·斯洛特最近称基于算法的偏见是 "一个经济正义问题"。Slaughter和Jillson都提到，公司可以根据《平等信贷机会法》或《公平信贷报告法》对有偏见和不公平的人工智能驱动的决策进行起诉，不公平和欺骗性的做法也可能属于《联邦贸易委员会法》第5条。
"对你的算法的表现负责是很重要的。我们关于透明度和独立性的建议可以帮助你做到这一点。但请记住，如果你不对自己负责，联邦贸易委员会可能会帮助你负责，"Jillson写道。
人工智能有可能减轻人类在招聘等过程中的偏见，但它也可能重现或夸大这种偏见，特别是如果它被训练成反映这种偏见的数据。例如，面部识别对黑人对象产生的结果不太准确，当警察使用它时，有可能鼓励虚假识别和逮捕。2019年，研究人员发现，一种流行的医疗保健算法使黑人患者不太可能得到重要的医疗护理，反映了系统中预先存在的差异。自动性别识别技术可以使用简单的方法，对变性人或非二元人进行错误分类。而自动程序，通常是专有的和秘密的这可能会产生 "黑箱"，难以理解或质疑错误的结果。
欧盟最近表示，它可能会对一些人工智能应用采取更强硬的立场，可能会禁止将其用于 "不加区分的大规模监视"和社会信用评分。通过这些最新的声明，联邦贸易委员会已经表明，它对打击特定的、有害的用途感兴趣。
当然，FTC此举仍然处于这样做的早期阶段，批评者质疑它是否能对主要的科技公司有意义地执行其规则。在今天的参议院听证会上，联邦贸易委员会委员Rohit Chopra抱怨说，"一次又一次，当大公司公然违反法律时，联邦贸易委员会不愿意采取有意义的问责措施"，敦促国会和其他委员 "翻过联邦贸易委员会被认为无能为力的一页"。在人工智能领域，这可能意味着对Facebook、亚马逊、微软和谷歌等公司进行审查--这些公司都在强大的系统中投入了大量资源。