六つの最悪のシナリオ：現実世界におけるAIの発展
人工知能（AI）の最悪のシナリオは、SF大作映画でおなじみです。機械が人間のような知性を獲得し、自我を持ち、やがて人類を滅ぼそうとする冷酷な支配者へと変貌するという筋書きです。この物語は、新しい技術がしばしばもたらす深い変化に対する、私たちの生まれつきの技術への恐怖を映し出しています。
しかし、『クアンタム・プライス』（2019年出版の小説）の著者で機械学習エンジニアのマルコム・マードック氏によれば、AIが私たち全員を滅ぼすために必ずしも知性を持つ必要はありません。知性を持つAIが問題になる前に、私たちを地上から一掃してしまう他のシナリオが数多く存在するのです。
「監視とデータ追跡が強まる中、私たちは危険で未知の領域へと足を踏み入れつつあり、その潜在的な影響をほとんど理解できていません」
AI専門家へのインタビューに基づき、IEEE Spectrumは、現実世界における人工知能の最悪のシナリオを六つ明らかにしました。映画で描かれるものより遥かに日常的ですが、それでも同じくらい反ユートピア的です。
フィクションが現実を左右するとき
もし私たちがフィクションに現実を決めさせてしまえば、不必要な悲劇が起こりかねません。しかし、デジタル世界で本物と偽物を見分けられないとしたら、どんな選択肢があるというのでしょうか。
最も恐ろしいシナリオでは、先進的な機械学習ツールで作られた偽の画像、動画、音声、テキストであるディープフェイクの増加が、いつか国家安全保障に関わる意思決定者を誤った情報に基づいて行動させ、大きな危機、さらに悪い場合には戦争を引き起こしかねません。
ジョージタウン大学セキュリティ・新興技術センター（CSET）の上級研究員アンドリュー・ローン氏は、「AIを活用したシステムは、今や大規模に偽情報を生成できる」と述べています。大量かつ多様な偽のメッセージを作ることで、こうしたシステムはその正体を隠し、成功のために最適化し、時間とともに望ましい影響力を高めていくことができます。
危機の最中にディープフェイクが存在するという認識だけでも、情報の真偽をタイムリーに確認できない場合、指導者の行動をためらわせる可能性があります。
ハンブルクの安全保障政策研究所（ドイツ）の研究員マリナ・ファヴァーロ氏は、「ディープフェイクは初期設定で、私たちの情報の流れに対する信頼を損なっている」と指摘しました。ディープフェイクによって引き起こされる行動も不作為も、世界全体にとって破滅的な結果をもたらしかねません。
危険な底辺への競争
AIと国家安全保障の話になると、スピードは同時に目的であり、課題でもあります。AIシステムがユーザーに速度面で大きな優位性を与えるため、軍事応用を最初に開発した国が戦略的優位を得ることになります。しかし、その過程でどんな原則を犠牲にできるのでしょうか。
CSETの戦略担当ディレクターであるヘレン・トナー氏は、危機は「無害な単一障害点として始まり、それによってすべての通信が遮断され、人々がパニックに陥り、経済活動が停止する可能性がある」と示唆しています。情報の欠如が続き、さらに他の誤算が重なれば、状況は手に負えなくなりかねません。
スウェーデンのストックホルム国際平和研究所（SIPRI）の上級研究員ヴィンセント・ブーラニン氏は、大きな破局は「大国が先んじて優位に立とうと近道をするとき」に起こりうると警告しています。「ある国が安全性、試験、あるいは人間による管理よりもスピードを優先すれば、それは危険な底辺への競争になる」と述べています。
プライバシーと自由意志の終わり
デジタル上の行動のたびに、私たちは新しいデータを生み出しています。電子メール、テキストメッセージ、ダウンロード、購入、投稿、自撮り写真、GPSによる位置情報などです。企業や政府にこのデータへの無制限のアクセスを与えることで、私たちは監視と管理の道具を手渡しているのです。
顔認識、生体認証、ゲノムデータ、AIを活用した予測分析が加わるにつれ、CSETのローン氏は、「データによる監視と追跡が強まる中、私たちは危険で未知の領域へ足を踏み入れており、どのような影響があり得るのかをほとんど理解していない」と懸念しています。
ペンシルベニア大学ペリー・ワールド・ハウスのディレクター、マイケル・C・ホロウィッツ氏は、「AIの論理と、それが国内の弾圧にとって何を意味するか」について警告しています。過去において、独裁者が国民を抑圧する能力は大勢の兵士に依存しており、その中には社会の側に立ってクーデターを起こす者もいました。AIはそうした制約を弱めかねません。
一度収集され分析されたデータの力は、監視や観察の機能をはるかに超え、予測に基づく管理を可能にします。今日では、AIシステムが私たちがどの商品を買い、どの番組を見、どのリンクをクリックするかを予測しています。
人間のスキナー箱
ソーシャルメディアのユーザーは、スマートフォンの画面に張り付き、そこから利益を得るプラットフォームに、より貴重な時間と注意を差し出さざるを得ない、人間のスキナー箱の中で暮らす実験用のネズミのような存在になっています（スキナー箱とは、動物の行動を研究するために用いられる実験装置です）。
CSETのヘレン・トナー氏は、「アルゴリズムは、ユーザーができるだけ長くプラットフォームに留まるように最適化されている」と述べています。マルコム・マードック氏によれば、いいね、コメント、フォローといった報酬を提供することで、「アルゴリズムは私たちの脳の働きを閉じ込め、次の関与を抗いがたいものにしている」のです。
広告収入を最大化するため、企業は私たちの注意を仕事、家族、友人、責任、さらには趣味からそらせています。さらに悪いことに、コンテンツはしばしば私たちを不幸にし、以前より悪い気分にさせます。トナー氏は、「これらのプラットフォームで過ごす時間が長くなるほど、前向きで生産的で充実した人生を追い求める時間が減ってしまう」と警告しています。
AI設計の専制
私たちは毎日、日常生活の大部分をAIを搭載した機械に委ねています。ホロウィッツ氏が指摘するように、「AIにおける偏りの問題を、私たちはまだ完全には理解していない」ため、これは問題をはらんでいます。たとえ最善の意図があったとしても、学習データと数理モデルの両方を含むAIシステムの設計は、それをプログラムする偏った人々の狭い経験や関心を反映してしまいます。そして私たちは皆、偏見を持っているのです。
情報セキュリティ企業KnowBe4で新技術担当の上級副社長を務めるリディア・コストポロス氏は、「多くのAIシステムは、人々の多様な経験や特性を考慮していない」と主張しています。AIは、すべての人の固有のニーズではなく、偏った見方やデータに基づいて課題を解決するため、こうしたシステムは人間社会には存在しない種類の画一性をもたらします。
AIが登場する以前から、日常生活における身近な製品のデザインは、特定のタイプの人々に合わせて作られることが多くありました。例えば、研究によれば、自動車、携帯電話を含む手工具、さらにはオフィスの温度設定までもが、平均的な身長の男性を基準に作られてきたことが示されており、それによって女性を含む様々な身長や体格の人々が不便な、時には危険な状況に置かれています。
AIへの恐怖が人類からその恩恵を奪う
現代のAIはデータセット、高度な統計モデル、予測アルゴリズムを扱うため、機械知能を生み出す過程は最終的に数学に集中します。マードック氏は、「線形代数は、私たちが注意しなければ、途方もなく強力なことをやってのける」と述べています。
しかし、人々がAIを極度に恐れるあまり、政府がAIの多くの恩恵を人類から奪うような形で規制したらどうなるでしょうか。例えば、DeepMindのAlphaFoldプログラムは、アミノ酸がどのようにたたまれてタンパク質になるかの予測において大きなブレークスルーを達成し、科学者がヒトのタンパク質の98.5％の構造を特定することを可能にしました。この画期的な成果は、生命科学の急速な発展にとって実り多い基盤を築くでしょう。
人間のあらゆる言語の組み合わせへのシームレスな翻訳により実現する、コミュニケーションと異文化理解の向上や、病気の新しい治療法を探すためのAIシステムの活用がもたらす利益について考えてみてください。
AIの最悪のシナリオから身を守るための政府による規制措置も、望ましくない結果をもたらし、それ自体が意図しない悪影響を生む可能性があります。その結果、私たちがこの驚くべき技術の力に過度に怯えるあまり、それが世界にもたらしうる善に向けて活用することに抵抗してしまうかもしれません。
