中国の科学者、自ら起訴できるAI検察官を開発
中国の研究者たちは、AIを使って人を犯罪で起訴できる機械を世界で初めて開発したと発表しました。
研究者によると、AI検察官は口頭で説明された事件に基づき、97%を超える精度で起訴することができます。このアルゴリズムは、国内最大かつ最も多忙な地区検察庁である上海浦東人民検察院によって開発され、テストされました。
この取り組みのプロジェクト主任科学者であり、中国科学院の大データ・知識管理研究所の所長を務める史勇教授によると、この技術により検察官の日常業務の負担を減らし、より複雑な課題に集中できるようになるとのことです。
「このシステムは、意思決定の過程である程度検察官に取って代わることができる」と、史氏は社内査読付きの学術誌Management Reviewに掲載された論文で述べました。法執行機関におけるAI技術の利用は世界中で拡大しています。
一部のドイツの検察官は、画像認識やデジタル法医学などのAI技術を活用し、案件処理の速度と精度を高めています。
中国の検察官は2016年に初めてAIの利用を始めた国です。現在、多くの検察官が「システム206」と呼ばれるAIツールを使用しています。このツールは、証拠の強さ、逮捕の条件、そして容疑者が社会にとってどの程度危険とみなされるかを評価できます。
しかし、既存のAIツールはすべて役割が限定的です。なぜなら「起訴や量刑の判断にはまったく関わっていない」からです。
このような判断を下すには、機械が有用な情報を削除することなく、犯罪と無関係な事件資料の内容を特定して取り除く必要があります。また、アルゴリズムは、複雑で常に変化する人間の言語を、コンピュータが理解できる標準的な数学的または幾何学的形式に変換する必要もあります。
中国のインターネット企業は強力な自然言語処理ツールを開発していますが、それらの動作には大型コンピュータが必要となることが多く、検察庁はそれにアクセスできません。
史氏のチームが開発したAI検察官は、デスクトップコンピュータ上で動作します。容疑者ごとに、人間が作成した事件説明文のテキストから得られた1000の「特徴」に基づいて起訴を行います。そのほとんどは小さすぎるか抽象的すぎて、人間にとって意味を持ちません。その後、「システム206」が証拠を評価します。
2015年から2020年にかけて、この機械は1万7000件を超える事件で「学習」しました。現在は、上海で最も一般的な8種類の犯罪について特定し、起訴することができます：
- クレジットカード詐欺
- 賭博の開帳
- 危険運転
- 故意による傷害
- 公務執行妨害
- 窃盗
- 詐欺
- 「口論を仕掛けたり、面倒を引き起こしたりすること」（異議を抑圧するためによく使われる包括的な罪状）
史氏と同僚たちは、アップデートによりAI検察官はまもなくさらに影響力を持つようになると述べました。より一般的でない犯罪も認識でき、一人の容疑者に対して複数の罪状を起訴できるようになるとのことです。一方、南部の広州市の検察官は、起訴にAIを使用することについて一部懸念があると述べました。
「97%の精度は技術的な観点からは高いかもしれませんが、誤りが生じる可能性は常にあります。そのときは誰が責任を負うのでしょうか。検察官か、機械か、それともアルゴリズムの開発者か？」と、問題の繊細さを理由に名前を伏せることを求めた検察官は述べました。
AIが意思決定に直接関与することは、検察官の自主性にも影響を与える可能性があります。広州の検察官は、ほとんどの検察官は、コンピュータ科学者が司法判断に「介入する」ことを望んでいないと述べました。
もう一つの問題は、AI検察官が過去の経験のみに基づいて起訴を行える点です。変化する社会環境において、事件に対する世間の反応を予測することはできません。「AIは誤りを見つける手助けにはなりますが、判断の場面で人間に取って代わることはできません」と検察官は述べました。
それでも中国は、効率の向上、汚職の削減、統制の強化を目指して、政府のほぼすべての分野でAIを積極的に活用しています。研究者によると、一部の中国の都市では、汚職を見つけ出す目的で、公務員の人間関係や活動を追跡するために機械を使用しているとのことです。
多くの中国の裁判所は、判事が事件を処理し、上訴を認めるか棄却するかなどの判断を下す際の支援としてAIを使用しています。また、中国のほとんどの刑務所も、暴力の減少を目的として、受刑者の身体的および精神的な状態を監視するためにAI技術を導入しています。
さらに、中国全土でAIシステムは市民の全面的な監視に使われています。例えば2021年11月には、河南省の当局が「危険」なジャーナリストやその他の「懸念を抱かせる人物」を追跡するための顔認識システムを構築したことが明らかになりました。また、このシステムは女性の出稼ぎ労働者を追跡するためにも設計されています。このシステムは、国家移民局、公安省、そして河南省の警察と統合されています。
