旧金山将使用AI技术减少在控告嫌疑人时可能出现的偏见

资料图

据悉，该套工具计划在7月1日投入使用。

据旧金山地区检察官办公室介绍称，该工具不仅可以删掉种族描述，还可以删掉眼睛、颜色和头发颜色等描述。那些可能有意或无意地向检察官透露嫌疑人有某种种族背景的人名、地点和社区也会被删掉。

旧金山地区检察官George Gascón在今天的新闻发布会上说道：“看看这个国家被监禁的人，有色人种的男女比例将不成比例。”他指出，当看到像Hernandez这样的名字时，检察官立即就会知道这个人是拉美裔，而这可能会影响结果。

另外，这套工具还会删掉警察的详细信息，这样做则是为了防止检察官认出是自己认识的人，进而可能影响他们的判断。

据了解，这套工具由Alex Chohlas-Wood和来自斯坦福计算政策实验室的团队共同开发，他们此前还曾帮助纽约警察局开发过可以自动搜索案件文件已发现犯罪模式的Patternizr系统。Wood指出，新工具只是一个轻量级的web应用，其使用数种算法自动编辑警察报告，另外还会通过使用计算机视觉功能识别报告中的单词并将其替换为通用版本。

Wood表示，目前这个工具已经进入了最后开发阶段，它将在未来几周开放源代码。据其介绍，工具使用了一种名为命名实体识别(name -entity recognition)的特殊技术。

至于这个新工具是否真的有帮助则还有待观察，毕竟现在AI更出名的好像是引入偏见而不是消除偏见。

本文素材来自互联网