最近，内华达州将成为第一个使用人工智能技术为失业救济金上诉提供建议的州，这也是生成式人工智能被用于人工智能可能不应该被用于的用途的最新实例。由于这些系统容易出错、出现偏见和幻觉，人们对此举的担忧是可以理解的。事实上，法院可能无法推翻基于人工智能错误做出的裁决，这加剧了人们的担忧。
据Gizmodo 报道，内华达州的Google生成式人工智能系统将在未来几个月内推出。它的功能将是分析失业上诉听证会的记录，并向做出最终裁决的人类提出建议。
内华达州就业、培训和康复部（DETR）向Google支付了 138.3838 万美元的人工智能技术费用，该技术使用的是Google云服务Vertex AI Studio。它将根据失业听证上诉和裁决的记录生成建议，并将这些信息与以前的案例进行比较。
引入该系统是为了加快上诉程序。DETR 的信息技术管理员卡尔-斯坦菲尔德（Carl Stanfield）说，员工撰写一份裁决书平均需要三个小时。在某些情况下，人工智能系统将把时间缩短到五分钟。这对内华达州尤其有帮助，该州因大流行病期间失业申请人数增加而积压了 4 万多份申诉。
当然，这样做的不利之处在于，生成式人工智能仍然会因为胡编乱造而臭名昭著。DETR 表示，人工智能提出的建议将由至少一名人工审核。如果该人同意，决定将被签署。如果他们不同意，文件将被修改，该机构将对发生的事情进行调查。
DETR 主任克里斯托弗-斯韦尔（Christopher Sewell）说："没有人工智能[书面决定]，就不会有人类互动和人类审查。"
Google表示将与内华达州合作，"发现并解决任何潜在的偏见"，并"帮助他们遵守联邦和州的要求"。
人们担心 DETR 的员工会感到被迫匆忙审查 AI 的建议，从而更快地清理积压案件。这一点尤其令人担忧，因为这可能会影响索赔人对案件提出上诉的能力。
内华达法律服务公司的资深律师伊丽莎白-卡莫纳表示："在涉及事实问题的案件中，地方法院不能用自己的判断代替上诉裁判的判断。这意味着法院可能无法根据人工智能的错误推翻人类的决定。而且也很难确定错误的源头。"
尽管有这些合理的顾虑，但如果有更多的州开始使用人工智能来帮助做出重要决策，从而加快流程，请不要感到惊讶。