調査：思いやりでロボットへの虐待を止める方法

2021年9月23日, 18:00

人々が公共の場で目にするロボットが増えるにつれ、これらの機械への虐待が一般的になる可能性があります。虐待はさまざまな形を取り得ます。親切さを欠いた振る舞いから残酷な行為まで含まれます。残念ながら、人々はロボットを虐待したり傷つけたりすることをいとわず、ロボット自身が助けを求めても、目撃者はそれを和らげられないことがあります。

ロボットは、安全のために近くにいる人間をあてにできない場合、自分自身と「仲間」に頼るしかありません。イェール大学のInteractive Machines Groupの研究者は、感情を表現できる目撃者ロボットが人間による虐待を防げるかどうかを確かめる実験を行いました。

例を考えてみましょう。小さなロボットのグループと小さな人間のグループがいます。一人の人間がロボットの一体を傷つけ始めたとき、残りのロボットが悲しそうに反応すると、他の人間は何かをするでしょうか。ロボットへの虐待、共感、いじめに関する過去の研究に基づくと、答えは「そうかもしれない」でした。そのため研究者たちは新しい実験を行うことにしました。

実験では、3体のCOZMOロボット、参加者、そして第2の参加者を装う研究者からなるグループを用いました。人間とロボットは木製ブロックを使った組み立て作業を一緒に行います。その間、ロボットの一体は時折ミスをし、研究者は各ミスに対して虐待の兆候を見せて反応します。具体的には、ロボットを馬鹿にしたり、押したり、揺さぶったり、テーブルの向こうへ投げたりします。

侮辱のたびに、そのロボットは悲しげな表情を示し、10秒間電源が切れます。その間、残りの2体のCOZMOは、何もしないか、傷ついたロボットに話しかけて、アニメーションで虐待への悲しみを表現します。研究者たちは、他のロボットが「仲間」への虐待に悲しみで応えると、参加者はより強い共感を覚え、暴力を止めるために介入する可能性も高くなるだろうと仮定しました。

このような介入は「強い」か「弱い」に分類され、言葉によるものか身体によるものかのいずれかです。強い介入には、虐待を身体的に中断することや、社会的圧力を用いて積極的に言葉で制止することが含まれます。弱い介入には、虐待されたロボットに触れて無事かどうかを確かめるなどの行動が含まれます。

参加者は実際に、COZMOが暴力を受けた際に介入しました。また、他のロボットが悲しんでいるときには、より介入しやすいことがわかりました。しかし、悲しむロボットによって共感や知覚が大きく高まることはなく、結果は一貫しないものになりました。研究者たちは、参加者がそのような行動をとった理由として3つの説明を挙げました。

無意識の共感：広い意味での共感とは、ある人が他者の観察された経験に対して示す反応です。人は共感していることに気づかないまま共感することがよくあります。実験の参加者にも同じことが起きた可能性があります。ロボットへの残酷な扱いを見ながら、無意識に共感していたのかもしれません。目撃ロボットの悲しげな反応によって、その効果がより強まった可能性もあります。
集団のダイナミクス：人は一般に、自分を社会集団の観点から捉えます。それは、人が出来事の知識や感情的な意味をどう処理するかに影響します。実験では、特定の課題のために、参加者、研究者、ロボットが同じ集団の一部でした。しかし、一体のロボットを傷つけた研究者は否定的な感情を引き起こしました。他のロボットが悲しみを示したとき、その感情はより顕著になり、否定的な認識をさらに強めました。その結果、参加者は「悪い」研究者を集団の一員とみなさなくなり、介入に踏み切ることができたのです。
無反応への同調：これは集団内の相互作用における一種の社会的影響です。参加者は、ロボットから社会的影響を受けたために、虐待に介入しなかった可能性があります。目撃ロボットが反応を示さないのを見て、それが集団のやり取りの標準になってしまったのです。

実験の参加者は、虐待を止めるために介入しないことにした理由を挙げました。6人は、ロボットには感情がないと考えたため、介入は必要ないと判断しました。5人は、恥ずかしさ、怖さ、居心地の悪さを感じたためでした。2人は、介入が課題に影響するのではないかと心配したためでした。

研究者たちは、ロボットの外見が、人々がロボットへの残酷な扱いをどう受け止めるかを変えうると考えています。この場合、COZMOのデザインが、参加者にとって状況へ介入しやすくする要因になった可能性があります。

「ロボットが公共の場に配備されるとき、ユーザーから乱暴な扱いを受けないと考えるべきではありません。実際、そうした扱いを受ける可能性は非常に高いのです。したがって、人がロボットに対して物理的にも計算的にも行動したときに、ロボットが安全でいられるよう設計することが重要です」
マリネル・バスケスイェール大学Interactive Machines Group責任者

ある実験では、ロボットがチーム全員で取り組んでいたプロジェクトを壊してしまいました。その後、参加者はロボットが乱暴に扱われる様子を見て、自分も（より穏やかにではありますが）ロボットを侮辱しました。これは、人が性能の悪いロボットを守ろうとする、ある一定の境界があることを示しています。

この研究の価値は複数あります。人間とロボットが共に働くときにどう相互作用するかを理解できること、そして、そこから利益を得る方法を知ることができることです。

「私たちの機械への接し方は、私たち自身を映す鏡です。SNSで絶えず目にする残酷な振る舞いを、なぜ人々は許されているように感じるのでしょうか。この研究の目的は、より優れたロボットを作ることだけではありません。私たち自身よりも良い行動を取れるロボットを作ることにもあります」
マヤ・マタリッチコンピュータサイエンスおよびニューロサイエンス教授

ロボットは実際に、自らの社会的文脈を利用して、自分に向けられた残酷な行為の影響を小さくすることができます。たとえば、目撃者に介入や支援を促すことができるでしょう。