Китайські вчені розробили ШІ-прокурора, який може висувати власні обвинувачення

Дослідники з Китаю заявили, що вони першими у світі розробили машину, яка може обвинувачувати людей у злочинах за допомогою штучного інтелекту.

За словами дослідників, ШІ-прокурор може висунути обвинувачення з точністю понад 97% на основі усного опису справи. Алгоритм було створено і протестовано Народною прокуратурою Шанхая Пудун — найбільшою й найзавантаженішою районною прокуратурою країни.

За словами професора Ши Юна — директора лабораторії управління великими даними та знаннями Китайської академії наук і провідного наукового співробітника проєкту — ця технологія може зменшити щоденне навантаження на прокурорів, дозволяючи їм зосередитися на складніших завданнях.

«Система може певною мірою замінити прокурорів у процесі ухвалення рішень», — розповів Ши у статті, опублікованій у внутрішньому рецензованому журналі Management Review. Застосування технологій штучного інтелекту в правоохоронних органах зростає в усьому світі.

Деякі німецькі прокурори використовували технології штучного інтелекту, як-от розпізнавання зображень і цифрову судову експертизу, щоб підвищити швидкість і точність опрацювання справ.

Китайські прокурори першими почали використовувати ШІ у 2016 році. Багато з них зараз користуються інструментом ШІ, відомим як «Система 206». Інструмент може оцінити силу доказів, умови арешту та те, наскільки підозрюваний вважається небезпечним для суспільства.

Але всі існуючі інструменти штучного інтелекту мають обмежену роль, бо «вони не беруть участі в ухваленні рішень щодо висунення обвинувачень і пропозицій вироків». 

Ухвалення таких рішень вимагало б, щоб машина ідентифікувала та видаляла будь-який вміст матеріалів справи, не пов'язаний зі злочином, без видалення корисної інформації. Алгоритму також потрібно буде перетворити складну та постійно змінювану людську мову на стандартний математичний або геометричний формат, зрозумілий комп'ютеру.

Китайські інтернет-компанії розробили потужні інструменти для обробки природної мови, але для їхньої роботи часто потрібні великі комп'ютери, до яких у прокуратури немає доступу.

ШІ-прокурор, розроблений командою Ши, може працювати на настільному комп'ютері. Для кожного підозрюваного він висуватиме обвинувачення на основі 1000 «характерних ознак», отриманих з текстового опису справи, складеного людиною, більшість яких занадто дрібні або абстрактні, щоб мати сенс для людей. «Система 206» потім оцінить докази.

У період з 2015 по 2020 роки машину «навчали» на понад 17 000 справах. Наразі вона може ідентифікувати та висувати обвинувачення за вісьма найпоширенішими злочинами Шанхая:

• шахрайство з кредитними картками
• проведення азартних ігор
  
• небезпечне водіння
  
• умисне заподіяння тілесних ушкоджень
  
• перешкоджання виконанню службових обов'язків
  
• крадіжка
  
• шахрайство
  
• «учинення сварок і провокування неприятностей» (загальне обвинувачення, часто використовуване для придушення незгоди)
  

Ши та його колеги заявили, що ШІ-прокурор незабаром стане впливовішим завдяки оновленням. Він зможе розпізнавати менш поширені злочини і висувати кілька обвинувачень одному підозрюваному. Прокурор південного міста Гуанчжоу заявив, що має деякі побоювання щодо використання ШІ під час висунення обвинувачень.

«Точність 97% може бути високою з технологічної точки зору, але завжди існуватиме ймовірність помилки. Хто понесе відповідальність, коли це станеться? Прокурор, машина чи розробник алгоритму?» — заявив прокурор, який попросив не називати його імені через делікатність питання.

Пряма участь ШІ в процесі ухвалення рішень також може вплинути на автономію обвинувача. Прокурор із Гуанчжоу заявив, що більшість прокурорів не хочуть, аби комп'ютерні вчені «втручалися» в судове рішення.

Інша проблема полягає в тому, що ШІ-прокурор може висунути обвинувачення лише на основі свого попереднього досвіду. Він не здатен передбачити суспільну реакцію на справу в мінливому соціальному середовищі. «ШІ може допомогти виявити помилку, але він не може замінити людину при ухваленні рішення», — заявив прокурор.

Водночас Китай активно використовує ШІ майже в усіх секторах уряду, щоб спробувати підвищити ефективність, знизити корупцію і посилити контроль. За словами дослідників, деякі китайські міста використовували машини для відстеження соціальних кіл державних службовців та їхньої діяльності з метою виявлення корупції.

Багато китайських судів використовують ШІ, щоб допомогти суддям опрацьовувати справи та ухвалювати рішення, наприклад приймати або відхиляти апеляцію. Більшість китайських в'язниць також впровадили технологію штучного інтелекту для відстеження фізичного та психічного стану ув'язнених з метою зниження рівня насильства.

Крім того, у масштабах усього Китаю системи штучного інтелекту використовуються для тотального стеження за громадянами. Наприклад, у листопаді 2021 року стало відомо, що влада китайської провінції Хенань створила систему розпізнавання облич для відстеження «небезпечних» журналістів та інших «людей, що викликають занепокоєння». Також система призначена для відстеження жінок-мігрантів. Її інтегрують з Національним імміграційним бюро, Міністерством громадської безпеки та поліцією провінції Хенань.