中国科学家开发出可自行提出指控的AI检察官

中国研究人员称，他们率先在全球开发出一台能够借助人工智能对人提出犯罪指控的机器。

研究人员表示，这款AI检察官根据口头案情描述提出指控的准确率超过97%。该算法由上海浦东新区人民检察院开发并测试，该检察院是全国规模最大、工作量最繁重的区级检察院。

中国科学院大数据与知识管理实验室主任、该项目首席科学家施勇教授表示，这项技术可以减轻检察官的日常工作负担，使他们能够专注于更复杂的任务。

“该系统在一定程度上可以替代检察官参与决策过程”，施勇在内部同行评审期刊《Management Review》发表的一篇文章中说道。人工智能技术在全球执法领域的应用正在不断增长。

一些德国检察官已经使用图像识别和数字取证等人工智能技术，以提高案件处理的速度和准确性。

中国检察机关是最早在2016年开始使用人工智能的机构。目前，许多检察官都在使用一种名为“206系统”的人工智能工具。该工具可以评估证据的强度、逮捕条件，以及嫌疑人对社会的危险程度。

但现有的所有人工智能工具作用都很有限，因为“它们不参与定罪和量刑建议的决策过程”。 

要做出此类决策，机器需要识别并剔除案件材料中与犯罪无关的任何内容，同时不丢失有用信息。算法还需要将复杂且不断变化的人类语言转换为计算机可理解的标准数学或几何格式。

中国互联网公司开发了强大的自然语言处理工具，但这些工具通常需要大型计算机才能运行，而检察机关无法获得此类设备。

施勇团队开发的AI检察官可以在台式电脑上运行。针对每名嫌疑人，它会根据人工撰写的案情描述文本中提取的1000个“特征”提出指控，其中大多数特征过于细微或抽象，人类难以理解其意义。随后，“206系统”会对证据进行评估。

2015年至2020年间，该机器在超过17000起案件上接受了“训练”。目前，它已能够识别并对上海八类最常见的罪行提出指控：

• 信用卡诈骗
• 赌博
  
• 危险驾驶
  
• 故意伤害
  
• 妨害公务
  
• 盗窃
  
• 诈骗
  
• “寻衅滋事”（一项常被用来压制异见的笼统罪名）
  

施勇及其同事表示，通过更新，这款AI检察官很快将变得更具影响力。它将能够识别较少见的罪行，并对同一嫌疑人提出多项指控。广州南部一名检察官表示，他对在提出指控时使用人工智能存在一些担忧。

“从技术角度看，97%的准确率可能很高，但出错的可能性始终存在。出错时由谁负责？是检察官、机器，还是算法开发者？”一名因该问题较为敏感而要求不具名的检察官说道。

人工智能直接参与决策也可能影响检察官的自主权。一名广州检察官表示，大多数检察官不希望计算机科学家“干预”司法决定。

另一个问题是，这款AI检察官只能基于其既往经验提出指控。它无法预测案件在不断变化的社会环境中会引发怎样的公众反应。“人工智能可以帮助发现错误，但在做决定时无法取代人类”，该检察官说道。

与此同时，中国几乎在政府所有领域积极应用人工智能，力图提高效率、减少腐败并加强管控。研究人员表示，一些中国城市已利用机器追踪政府工作人员的社会关系及其活动，以发现腐败行为。

许多中国法院使用人工智能协助法官处理案件并作出裁决，例如决定是否受理上诉。大多数中国监狱也引入了人工智能技术，用于监测在押人员的身体和心理状况，以降低暴力事件的发生率。

此外，中国各地还在全面利用人工智能系统对公民进行监控。例如，2021年11月有消息称，河南省政府建立了一套人脸识别系统，用于追踪“危险”记者和其他“令人担忧的人”。该系统还被用于追踪女性流动人口。该系统与国家移民管理局、公安部以及河南省警察系统进行了整合。