Китайские ученые разработали ИИ-прокурора, который может выдвигать собственные обвинения

Исследователи из Китая заявили, что они первыми в мире разработали машину, которая может обвинять людей в преступлениях с помощью искусственного интеллекта.

По словам исследователей, ИИ-прокурор может предъявить обвинение с точностью более 97% на основе устного описания дела. Алгоритм был создан и протестирован Народной прокуратурой Шанхая Пудун — крупнейшей и самой загруженной районной прокуратурой страны.

По словам профессора Ши Юна — директора лаборатории управления большими данными и знаниями Китайской академии наук и ведущего научного сотрудника проекта — эта технология может снизить повседневную нагрузку на прокуроров, позволяя им сосредоточиться на более сложных задачах.

«Система может в определенной степени заменить прокуроров в процессе принятия решений», — рассказал Ши в статье, опубликованной во внутреннем рецензируемом журнале Management Review. Применение технологий искусственного интеллекта в правоохранительных органах растет во всем мире.

Некоторые немецкие прокуроры использовали технологии искусственного интеллекта, такие как распознавание изображений и цифровую судебную экспертизу, для повышения скорости и точности обработки дел.

Китайские прокуроры были первыми, кто начал использовать ИИ в 2016 году. Многие из них сейчас используют инструмент ИИ, известный как «Система 206». Инструмент может оценить силу доказательств, условия ареста и то, насколько подозреваемый считается опасным для общества.

Но все существующие инструменты искусственного интеллекта имеют ограниченную роль, потому что «они не участвуют в процессе принятия решений о предъявлении обвинений и предложении приговоров». 

Принятие таких решений потребовало бы, чтобы машина идентифицировала и удаляла любое содержимое материалов дела, не имеющее отношения к преступлению, без удаления полезной информации. Алгоритму также потребуется преобразовать сложный и постоянно меняющийся человеческий язык в стандартный математический или геометрический формат, понятный компьютеру.

Китайские интернет-компании разработали мощные инструменты для обработки естественного языка, но для их работы часто требуются большие компьютеры, к которым у прокуратуры нет доступа.

ИИ-прокурор, разработанный командой Ши, может работать на настольном компьютере. Для каждого подозреваемого он будет выдвигать обвинение на основе 1000 «характерных черт», полученных из текста описания дела, созданного человеком, большинство из которых слишком мелкие или абстрактные, чтобы иметь смысл для людей. «Система 206» затем оценит доказательства.

В период с 2015 по 2020 годы машина была «обучена» на более чем 17 000 делах. На сегодняшний день она может идентифицировать и выдвигать обвинения по восьми наиболее распространенным преступлениям Шанхая:

• мошенничество с кредитными картами
• проведение азартных игр
  
• опасное вождение
  
• умышленное нанесение травм
  
• воспрепятствование выполнению служебных обязанностей
  
• воровство
  
• мошенничество
  
• «завязывание ссор и провоцирование неприятностей» (общее обвинение, часто используемое для подавления несогласия)
  

Ши и его коллеги заявили, что ИИ-прокурор вскоре станет более влиятельным благодаря обновлениям. Он сможет распознать менее распространенные преступления и предъявить несколько обвинений одному подозреваемому. Прокурор южного города Гуанчжоу заявил, что у него есть некоторые опасения по поводу использования ИИ при предъявлении обвинений.

«Точность 97% может быть высокой с технологической точки зрения, но всегда будет вероятность ошибки. Кто возьмет на себя ответственность, когда это произойдет? Прокурор, машина или разработчик алгоритма?», — заявил прокурор, попросивший не называть его имени из-за деликатности вопроса.

Прямое участие ИИ в процессе принятия решений также может повлиять на автономию обвинителя. Прокурор из Гуанчжоу заявил, что большинство прокуроров не хотят, чтобы компьютерные ученые «вмешивались» в судебное решение.

Другая проблема заключается в том, что ИИ-прокурор может предъявить обвинение только на основании своего предыдущего опыта. Он не способен предвидеть общественную реакцию на дело в меняющейся социальной среде. «ИИ может помочь обнаружить ошибку, но он не может заменить человека при принятии решения», — заявил прокурор.

Тем не менее, Китай активно использует ИИ почти во всех секторах правительства, чтобы попытаться повысить эффективность, снизить коррупцию и усилить контроль. По словам исследователей, некоторые китайские города использовали машины для отслеживания социальных кругов государственных служащих и их деятельности с целью выявления коррупции.

Многие китайские суды используют ИИ, чтобы помочь судьям обрабатывать дела и принимать решения, например принимать или отклонять апелляцию. Большинство китайских тюрем также внедрили технологию искусственного интеллекта для отслеживания физического и психического состояния заключенных с целью снижения уровня насилия.

Кроме того, в масштабах всего Китая системы искусственного интеллекта используются для тотальной слежки за гражданами. К примеру, в ноябре 2021 года стало известно, что власти китайской провинции Хэнань создали систему распознавания лиц для отслеживания «опасных» журналистов и других «вызывающих беспокойство людей». Также система предназначена для отслеживания женщин-мигрантов. Ее интегрируют с Национальным иммиграционным бюро, Министерством общественной безопасности и полицией провинции Хэнань.