중국 과학자들, 스스로 기소할 수 있는 AI 검사 개발

중국 연구진은 밝혔는데, 자신들이 세계 최초로 인공지능을 이용해 사람들의 범죄 혐의를 제기할 수 있는 기계를 개발했다고 합니다.

연구진에 따르면, AI 검사는 사건에 대한 구두 설명만으로 97% 이상의 정확도로 혐의를 제기할 수 있습니다. 이 알고리즘은 중국에서 가장 크고 업무량이 많은 지역 검찰청인 상하이 푸둥 인민검찰원에서 만들어지고 시험되었습니다.

연구진의 주요 과학자인 쉬 윈 교수는 중국과학원 대데이터·지식 관리 연구소장으로, 이 기술이 검사들이 더 복잡한 업무에 집중할 수 있도록 일상적인 업무 부담을 줄일 수 있다고 말했습니다.

쉬 교수는 내부 동료 심사 학술지 Management Review에 실린 논문에서 “이 시스템은 의사결정 과정에서 어느 정도 검사를 대체할 수 있습니다”라고 말했습니다. 법 집행 기관에서 인공지능 기술의 활용은 전 세계적으로 늘고 있습니다.

일부 독일 검사들은 사건 처리 속도와 정확성을 높이기 위해 이미지 인식이나 디지털 법의학 같은 인공지능 기술을 사용해 왔습니다.

중국 검사들은 2016년에 처음으로 AI를 도입하기 시작했습니다. 현재 많은 검사가 ‘206 시스템’으로 알려진 AI 도구를 사용하고 있습니다. 이 도구는 증거의 강도, 체포 조건, 그리고 피의자가 사회에 얼마나 위험하다고 간주되는지를 평가할 수 있습니다.

하지만 현존하는 모든 AI 도구는 역할이 제한적인데, 그 이유는 “이들은 혐의 제기와 형량 제안에 관한 의사결정 과정에 참여하지 않기 때문”입니다. 

이러한 결정을 내리려면 기계가 유용한 정보를 삭제하지 않고 사건 자료에서 범죄와 무관한 내용을 식별해 제거해야 합니다. 또한 알고리즘은 복잡하고 끊임없이 변하는 인간의 언어를 컴퓨터가 이해할 수 있는 표준화된 수학적 또는 기하학적 형식으로 변환해야 합니다.

중국 인터넷 기업들은 강력한 자연어 처리 도구를 개발했지만, 이들을 가동하려면 대형 컴퓨터가 필요한 경우가 많고, 검찰은 이런 컴퓨터에 접근할 수 없습니다.

쉬 교수의 팀이 개발한 AI 검사는 데스크톱 컴퓨터에서 작동할 수 있습니다. 각 피의자에 대해 사람이 작성한 사건 설명문에서 얻은 1000개의 ‘특징’을 바탕으로 혐의를 제기하는데, 이 특징 대부분은 사람에게 의미가 있기에는 너무 세세하거나 추상적입니다. 이후 ‘206 시스템’이 증거를 평가합니다.

2015년부터 2020년까지 이 기계는 17,000건이 넘는 사건으로 ‘학습’했습니다. 현재 이 기계는 상하이에서 가장 흔한 여덟 가지 범죄에 대해 혐의를 식별하고 제기할 수 있습니다:

• 신용카드 사기
• 도박 운영
  
• 위험 운전
  
• 고의적 상해
  
• 공무집행 방해
  
• 절도
  
• 사기
  
• “싸움을 일으키고 문제를 도발함”(반대 의견을 억누르는 데 자주 사용되는 포괄적 혐의)
  

쉬 교수와 동료들은 업데이트를 통해 AI 검사가 곧 더 큰 영향력을 갖게 될 것이라고 말했습니다. 이 검사는 덜 흔한 범죄를 식별하고 한 명의 피의자에게 여러 혐의를 제기할 수 있게 됩니다. 남부 도시 광저우의 한 검사는 혐의 제기에 AI를 사용하는 것에 일부 우려가 있다고 밝혔습니다.

“97% 정확도는 기술적 관점에서는 높을 수 있지만, 오류의 가능성은 항상 존재합니다. 그런 일이 생기면 누가 책임을 질까요? 검사, 기계, 아니면 알고리즘 개발자일까요?”라고 이 문제의 민감성 때문에 이름을 밝히지 않기를 원한 검사가 말했습니다.

AI가 의사결정 과정에 직접 참여하면 검사의 자율성에도 영향을 미칠 수 있습니다. 광저우의 검사는 대부분의 검사가 컴퓨터 과학자들이 사법 판단에 “간섭”하는 것을 원하지 않는다고 말했습니다.

또 다른 문제는 AI 검사가 자신의 과거 경험에만 근거해서 혐의를 제기할 수 있다는 점입니다. 변화하는 사회 환경에서 사건에 대한 대중의 반응을 예측하지 못합니다. 검사는 “AI는 실수를 발견하는 데 도움이 될 수 있지만, 결정을 내리는 데 사람을 대체할 수는 없습니다”라고 말했습니다.

그럼에도 중국은 효율성을 높이고, 부패를 줄이며, 통제를 강화하기 위해 거의 모든 정부 부문에서 AI를 적극적으로 사용하고 있습니다. 연구진에 따르면, 일부 중국 도시는 부패를 찾아내기 위해 공무원들의 사회적 관계와 활동을 추적하는 데 기계를 사용했습니다.

많은 중국 법원은 항소를 인용하거나 기각하는 등 판사가 사건을 처리하고 결정을 내리는 데 도움을 주기 위해 AI를 사용합니다. 대부분의 중국 교도소도 폭력을 줄이기 위해 수감자의 신체적, 정신적 상태를 추적하는 인공지능 기술을 도입했습니다.

또한 중국 전역에서 인공지능 시스템은 시민에 대한 전면적인 감시에 활용되고 있습니다. 예를 들어 2021년 11월, 중국 허난성 당국이 ‘위험한’ 기자들과 기타 ‘문제가 되는 사람들’을 추적하기 위한 안면 인식 시스템을 만들었다는 사실이 알려졌습니다. 이 시스템은 또한 여성 이주자들을 추적하도록 설계되었습니다. 이 시스템은 국가이민국, 공안부, 그리고 허난성 경찰과 통합되고 있습니다.