俄克拉荷马城警察局率先试用了一款名为Draft One的人工智能软件,该软件通过分析警察执法记录仪的音频和无线电通讯内容,自动生成警方报告,报告将用于刑事指控并作为法庭证据。
不过,在媒体于8月底报道该软件的应用后,警局表示已暂时搁置了该项目。警局发言人瓦莱丽·利特尔约翰(Valerie Littlejohn)通过电子邮件表示:“由于人工智能报告撰写系统的使用已被暂停,目前我们不会对此发表评论。我们正在与地方检察官办公室一起讨论所有细节。”
据透露,至少有七家警察局正在采用由警察技术公司Axon开发的Draft One软件,该软件与广泛使用的执法记录仪配套。
前纽约警察局探长、现任律师保罗·莫罗(Paul Mauro)表示:“我从没见过喜欢文书工作的警察。每写一份报告至少需要半小时,具体取决于案件的复杂程度。”
他解释道:“有时警察需要填写多份报告,如投诉报告、逮捕报告、财物收据等。还有毒品分析报告、情报报告、青少年案件报告等等。这就是为什么报告撰写如此繁琐的原因,每个细节都需要记录。”
根据警察所在部门的不同,他们每年可能需要撰写几十到上百份报告,莫罗说。
但随着人工智能技术提供模板,警察将能腾出更多时间专注于实际执法工作。然而,警官仍需仔细检查这些由AI生成的报告,避免错误或“AI幻觉”——这一术语指的是人工智能偶尔生成的误导性或错误信息。
莫罗对此表示担忧:“如果警察偷懒,只在报告的确认框上打勾却没有仔细核对内容,那么很可能在法庭上遇到问题,比如报告错误地描述嫌犯为西班牙裔男性,实际逮捕的却是白人男性。” 但莫罗也强调,从整体来看,人类撰写报告时也可能会出错。
他同时指出,每个警局的报告必须由主管审核,这一额外的把关环节不会被取消。
莫罗表示,人工智能撰写的报告可以提升报告的标准化程度,也能用于大规模分析,这些分析任务如果由人力完成可能需要数月。
莫罗称:“警察的报告通常有一定的自由发挥空间,但如果AI能在标准化这一流程时发挥作用,我们还可以利用它的模式识别能力。”
他举例道:“人工智能可以快速找出共性。假设一个人需要分析分散在全美各地的大量数据,可能需要六个月甚至一年时间才能完成。而人工智能可以迅速在NCIC(国家犯罪信息中心)数据库中筛选不同州的报告,精准地识别出案件之间的共通点,节省大量时间,并保证准确性。”
不过,莫罗建议,初期应将该软件应用于较小的财产犯罪和轻罪案件,以便警察部门在实施过程中解决技术问题,并从一开始就让律师介入,确保合法合规。”他强调:“在推进这项技术时,我们既要确保其公平性,也要预见并防范潜在的滥用风险。”
他还将AI技术的引入与Axon随身摄像头的推广进行了类比:“最初纽约市给警察配备执法记录仪时,警察们非常抵触,认为这是反警察团体的要求。然而,摄像头的应用在90%以上的案件中支持了警察的描述,最终得到了工会的支持。”
同样,自动化报告的标准化也将给警察带来便利。
不过,莫罗也提到“CSI效应”这一潜在问题,即随着DNA技术的进步和警察题材影视剧的流行,陪审团对没有DNA证据的案件定罪愈加谨慎,哪怕案件看似“铁证如山”。
“同样的,我也能预见到‘人工智能效应’,”莫罗说,“如果人工智能的分析结果和警察的陈述不完全一致,陪审团可能会更倾向于相信‘不会出错’的AI,尤其是在涉及误报的情况下。”
此外,一项调查显示,一旦报告被输入警察系统,无论是AI生成的还是人类撰写的,几乎无法区分。但Axon公司表示,他们可以访问这些信息,并会根据执法部门的需求提供相关数据。