美国礼援公司终止人工智能面部识别，因担心存在偏见

定居点引发变革

Rite Aid 公司与美国联邦贸易委员会（FTC）达成和解，停止使用人工智能面部识别技术。该技术自 2012 年起用于防止商店行窃，但却因种族貌相而饱受批评。据报道，该技术针对黑人、拉丁裔和亚裔购物者的识别率高于白人。

人工智能中的偏见：零售业种族主义案例研究

针对 Rite Aid'system 的指控包括种族貌相，尤其是针对有色人种顾客。这些顾客更经常被标记为潜在盗窃者，这种做法与更广泛的零售业种族主义问题有关。这种歧视历来表现在各种零售行为中，不公平地针对黑人顾客。

技术的不良记录

人工智能在零售业（如 Rite Aid's）的应用呈现出一种令人不安的趋势：种族偏见长期存在。布鲁金斯学会的拉肖恩-雷（Rashawn Ray）认为，这些偏见反映了社会的刻板印象。在非多元化环境中设计的人工智能会编码并放大这些偏见。

被误导的措施及其影响

Rite Aid'AI 系统不仅助长了种族貌相，还造成了经济影响。被错误锁定的购物者主要来自少数民族群体，他们面临着公开羞辱，这反过来又影响了商店的收入。在某些地区，这些购物者没有其他零售选择，不得不忍受这种歧视性环境。

零售业之外：更广泛的人工智能问题

有偏见的人工智能问题并不局限于零售业。在其他领域，如警务领域，也有人工智能的不准确性导致错误逮捕的事例。皮尤研究中心（Pew Research Center）的数据显示，黑人社区对人工智能严重缺乏信任，尤其是在执法过程中使用人工智能。

要求承担责任并进行测试

针对这些问题，一些美国参议员对在机场使用面部识别技术提出了质疑，理由是这种技术对有色人种的错误率较高。作为与美国联邦贸易委员会和解的一部分，Rite Aid 将在五年内停止人工智能监控。专家建议其他零售商进行全面测试，以识别和纠正人工智能技术中的偏见。

Rite Aid'AI 面部识别技术的停用提出了有关零售业及其他领域使用人工智能的道德问题。虽然这标志着在解决技术中的种族偏见方面迈出了一步，但它也凸显了在确保人工智能系统对所有人都公平公正方面持续存在的挑战。