AIの不都合な真実：近い将来、人間の知能を超えられない理由

2021年10月1日, 10:00

多くの人々は、今こそ現在のAIの成功を歴史的な視点から見直すべき時だと考えています。マサチューセッツ工科大学のロボット工学教授で、iRobotとRethink Roboticsの共同創業者であるロドニー・ブルックス氏は、IEEE Spectrumに対し、AIの未来についての考えを語りました。ただし、未来について語る前に、AIの歴史を振り返る必要があります。

1960年代、初期のAI研究者たちは、息をのむような調子で、人間レベルの知能を持つ機械まであと10年だと予測することがよくありました。このタイプのAIは、記号を用いた論理的推論に基づいており、今となっては笑ってしまうほど遅いデジタルコンピュータで実装されていました。同じ研究者たちは、ニューラルネットワークを検討したうえで退けていました。

1980年代には、第二のAI時代が二つの技術に基づいていました。ルールに基づく専門家システム（記号に基づく論理的推論をより経験則的にした形式）と、新しい学習アルゴリズムの登場によって起きたニューラルネットワークの復活です。ここでも、人間の知能支配の終わりについての息をのむような予測がありました。

AIの第三の、そして現在の時代は、2000年代初頭に、3SATと呼ばれる問題群を解けるアルゴリズムに基づく新しい記号的思考システムと、同時的自己位置推定と地図作成（SLAM）と呼ばれる別の成果の登場とともに始まりました。SLAMとは、ロボットが世界を移動するにつれて、徐々に地図を作成していく手法です。

2010年代初頭、大量のデータセットで学習するニューラルネットワークの登場により、この波は強い勢いを得ました。やがてそれは、約束、誇大宣伝、そして収益性の高い応用の津波へと変わりました。AIについてどう考えているにせよ、実際にほぼすべての成功した導入には、次の二つのどちらかの仕組みがあるというのが現実です。どこかに人間が「ループの中に」いるか、システムが誤った場合の失敗のコストが非常に小さいかです。

2002年、iRobotは最初の大量生産された自律型掃除ロボット「Roomba」を発売しました。その価格は、搭載できるAIの量を大きく制限するものでした。しかし、限られたAIは問題になりませんでした。最悪の失敗シナリオでも、Roombaは床のほこりを集め損ねたり、ゴミを見逃したりするだけでした。

同じ年、同社はアフガニスタン、その後イラクで、何千台ものロボットのうち最初の一群の配備を開始しました。ロボットは、即席爆発装置の無力化で兵士を支援するために使われました。そこでの失敗は誰かを殺しかねなかったため、ロボット上のAIシステムに制御コマンドを与える人間が常にループの中にいました。

今日では、AIシステムがウェブページでどの広告を私たちに見せるかを自ら決めています。ばかげた広告を選んでしまうことは問題にはなりません。実際、そうした広告はたくさんあります。同様に、AIを活用した検索エンジンは、ひと目見ただけで必要なものを選べるように、候補のリストを表示します。出会い系サイトでは、AIシステムが私たちに見せる相手を選びますが、幸いなことに、それらのサイトが私たちの関与なしに人の結婚を仲介することはありません。

今のところ、マーケティング担当者が何と言おうと、市販車に搭載されている自動運転システムはレベル2のシステムだけです。これらのシステムでは、システムが誤った場合にすぐに運転を引き継げるよう、人間のドライバーがハンドルに手を置き、常に注意を払っている必要があります。ドライバーが注意を怠ったために、すでに死亡事故も起きています。

これは、誰も気づかないところで起きたAIシステムの恐ろしい失敗のすべてではありません。例えば、人種的少数派の人々に対してうまく機能しない顔認識技術に基づいて、人々が誤って逮捕されました。注意深い人間であれば犯さないような誤りです。

失敗の結果が深刻ではない場合でも、私たちは時に罠にはまることがあります。AIシステムは、スマートスピーカーや、車内のエンターテインメントシステムやナビゲーションシステムに、音声と言語の理解を提供しています。私たち消費者は、こうしたAIエージェントが理解できること・できないことを素早く学びながら、まもなく自分の話し方をそれぞれのAIエージェントに合わせるようになるでしょう。それは、子どもや高齢の親に対して行っているのとよく似ています。

AI音声アシスタントは、私たちを疲れさせないように、彼らが必要だと考える量の情報を提供し、修正が必要かもしれない重要なことはすべて知らせるように設計されています。問うべきなのは、AIシステムがあなたのために何をできるかではなく、あなたにそれのために何をさせたかです。

AIは私たちの生活に深く入り込んでいます。数え切れないほどの用途の中で、ニューラルネットワークは仮想アシスタントを動かし、ネットショッピングでおすすめ商品を提案し、写真の中の人物を認識し、不正を見つけるために銀行取引を確認し、音声メッセージを文字に起こし、SNS上の憎悪的なメッセージを振り分けています。

次の段階に進むため、研究者たちはAIとロボット工学を組み合わせ、混沌として予測不能な現実世界の中で、意思決定を行い物理的な身体を制御できる知能を作ろうとしています。これは、地球上で最も影響力のある研究機関の一部の注目を集めている、潜在的に革命的な目標です。