Дослідження: як зупинити зловживання роботами за допомогою співчуття
Оскільки люди дедалі частіше зустрічають роботів у громадських місцях, зловживання цими пристроями може стати поширеним явищем. Зловживання може набувати багатьох форм — від недобрих слів до жорстоких вчинків. На жаль, люди готові зловживати або ображати роботів, а свідки не зможуть пом'якшити це, навіть якщо робот сам попросить про допомогу.
Без можливості розраховувати на людей поблизу для порятунку роботам не залишається іншого вибору, окрім як покладатися на себе та своїх «побратимів» у питаннях безпеки. Дослідники з Interactive Machines Group Єльського університету провели експеримент, щоб визначити, чи можуть емоційно виразні роботи-свідки запобігти зловживанню з боку людей.
Розгляньмо приклад: є невелика група роботів і невелика група людей. Якщо один чоловік починає ображати одного робота, чи вчинять щось інші люди, якщо решта роботів сумно відреагують на подію? Спираючись на попередні дослідження зловживання роботами, емпатії та цькування, відповідь була «можливо». Саме тому вчені вирішили провести новий експеримент.
Експеримент передбачав групу з трьох роботів COZMO, учасника та дослідника, який удає другого учасника. Люди і роботи мають разом виконувати будівельні завдання з дерев'яних блоків. Тим часом один із роботів час від часу припускатиметься помилок, а дослідник реагуватиме на кожну неточність ознаками жорстокого поводження: називатиме робота дурним, штовхатиме його, трясти і кидати через стіл.
Після кожної образи бот реагує, демонструючи сумне обличчя і вимикаючись на 10 секунд. Тим часом два інші роботи COZMO або нічого не роблять, або звертаються до скривдженого робота і виражають смуток у відповідь на зловживання через анімацію. Дослідники припустили, що коли інші роботи відповідатимуть на кривду щодо їхнього «друга» смутком, учасник відчуватиме більше емпатії та з більшою ймовірністю втрутиться, щоб зупинити насильство.
Такі втручання були класифіковані як «сильні» або «слабкі», вони могли бути усними або фізичними. Сильні втручання включали фізичне переривання зловживання та активне усне переривання із застосуванням соціального тиску. Слабкі втручання включали такі дії, як дотик до робота після того, як його образили, щоб переконатися, що з ним все гаразд.
Учасники експерименту справді втручалися, коли COZMO зазнавав насильства, і були більш схильні до втручання, коли інші роботи були сумними. Проте сумні роботи не набагато посилили співчуття та сприйняття людей, що зробило результати суперечливими. Дослідники пояснили три причини того, чому учасники робили саме так:
- Підсвідома емпатія: загалом співчуття є реакцією однієї людини на спостережуваний досвід іншої. Часто люди співчувають, не усвідомлюючи цього. Так могло статися і з учасниками експерименту. Вони могли відчувати підсвідоме співчуття під час жорстокого поводження з роботом. Ефект міг бути вираженішим через сумну реакцію роботів-свідків.
- Групова динаміка: люди, як правило, визначають себе через соціальні групи. Це може формувати те, як вони обробляють знання та емоційне значення подій. В експерименті учасник, дослідник і роботи були частиною однієї групи через конкретне завдання. Однак дослідник, який ображав одного робота, викликав негативні емоції. Це було помітніше, коли інші роботи виражали смуток, що лише підкреслювало негативне сприйняття. Як наслідок, учасник перестав вважати «злого» дослідника членом групи і міг втрутитися.
- Відповідність бездіяльності: це тип соціального впливу під час групової взаємодії. Учасники могли не втручатися в процес зловживання через те, що роботи чинили на них соціальний вплив. Вони бачили відсутність реакції у роботів-свідків, і це ставало нормою їхньої групової взаємодії.
Учасники експерименту назвали причини, через які вони вирішили не втручатися, щоб зупинити зловживання: шість осіб не вважали втручання потрібним, оскільки вважали, що у роботів немає почуттів; п'ятеро — тому що відчували себе ніяково, наляканими або некомфортно; двоє — оскільки боялися, що втручання вплине на завдання.
Дослідники вважають, що зовнішній вигляд роботів може змінити те, як люди сприймають жорстоке поводження з ними. У цьому випадку дизайн COZMO міг бути чинником, який полегшив учасникам втручання в ситуацію.
«Коли роботи розгортаються в громадських місцях, ми не повинні припускати, що вони не зазнаватимуть поганого поводження з боку користувачів — дуже ймовірно, що зазнаватимуть. Тому важливо розробляти роботів так, щоб вони були в безпеці, коли люди діють проти них як з фізичної, так і з обчислювальної точки зору»
В одному з експериментів робот знищив проєкт, над яким працювала вся команда. Тоді, побачивши жорстоке поводження з роботом, учасник також образив його, хоч і м'якше. Це показало, що існує певний поріг, коли люди готові захищати робота, що погано працює.
Цінність цього дослідження полягає в кількох речах: воно дозволяє зрозуміти, як люди і роботи взаємодіють, працюючи разом, а також як із цього отримати користь.
«Наше ставлення до машин — це наше дзеркало. Чому люди відчувають, ніби мають карт-бланш на жорстку поведінку, яку ми постійно бачимо в соцмережах? Мета дослідження не в тому, щоб створювати кращих роботів, а в тому, щоб створювати роботів, які зможуть зробити краще нас самих»
Роботи справді можуть використовувати свій соціальний контекст, щоб зменшити вплив жорстоких дій щодо них. Наприклад, вони можуть мотивувати свідків втрутитися або допомогти.
