Исследование: как остановить злоупотребление роботами с помощью сочувствия
Поскольку люди встречают все больше и больше роботов в общественных местах, злоупотребление этими устройствами может стать распространенным явлением. Злоупотребление может принять многие формы — от более доброго поведения до жестоких поступков. К сожалению, люди готовы злоупотреблять или обижать роботов, а свидетели не смогут смягчить это, даже если робот сам попросит о помощи.
Без возможности рассчитывать на ближайших людей для спасения у роботов нет выбора, кроме как полагаться на себя и своих «собратьев» в вопросе безопасности. Исследователи из Interactive Machines Group Йельского университета провели эксперимент, чтобы определить, могут ли эмоционально выразительные роботы-свидетели предотвратить злоупотребление людьми.
Рассмотрим пример: есть небольшая группа роботов и небольшая группа людей. Если один человек начинает обижать одного робота, сделают ли что-то другие люди, если остальные роботы с грустью отреагируют на происходящее? Основываясь на прошлых исследованиях злоупотребления роботов, эмпатии и издевательств, ответ был «может быть». Вот почему ученые решили провести новый эксперимент.
Эксперимент включал в себя группу из трех роботов COZMO, участника и исследователя, притворяющегося вторым участником. Люди и роботы должны работать вместе для выполнения строительных задач, использующих деревянные блоки. В это время один из роботов время от времени будет совершать ошибки, а исследователь будет реагировать на каждую неточность с признаками злоупотребления — называть робота глупым, толкать его, встряхивать и бросать через стол.
После каждого оскорбления бот реагирует, отображая грустное лицо и отключаясь на 10 секунд. В это время два других робота COZMO либо ничего не делают, либо обращаются к обиженному роботу и выражают грусть в ответ на злоупотребление через анимацию. Исследователи предположили, что, когда другие роботы будут отвечать на злоупотребление над их «другом» грустью, участник будет чувствовать больше эмпатии, а также с большей вероятностью вмешается, чтобы остановить насилие.
Подобные вмешательства были классифицированы как «сильные» или «слабые», они могут быть устными или физическими. Сильные вмешательства включали в себя физические прерывания злоупотребления и активное устное прерывание, использующее социальное давление. Слабые вмешательства включали в себя такие вещи, как прикосновения к роботу после того, как его обидели, чтобы убедиться, что он в порядке.
Участники эксперимента действительно вмешивались, когда COZMO подвергался насилию и были более склонны к вмешательству, когда остальные роботы были грустными. Однако грустные роботы не намного увеличили сочувствие и восприятие людей, что сделало результаты противоречивыми. Исследователи объяснили три причины того, почему участники делали то, что делали:
- Подсознательная эмпатия: в широком смысле сочувствие является реакцией одного человека на наблюдаемый опыт другого. Часто люди сочувствуют, не осознавая это. Это могло случиться с участниками эксперимента. Они могли испытывать подсознательное сочувствие при жестоком обращении с роботом. Эффект мог быть более выражен из-за печальной реакции роботов-свидетелей.
- Динамика группы: люди, как правило, определяют себя с точки зрения социальных групп. Это может сформировать то, как они обрабатывают знания и эмоциональное значение событий. В эксперименте участник, исследователь и роботы были частью одной группы из-за конкретной задачи. Однако исследователь, обижавший одного робота, вызывал негативные эмоции. Это было боле заметно, когда другие роботы выражали грусть, что только подчеркивало негативное восприятие. Как следствие, участник переставал считать «злого» исследователя членом группы и мог вмешаться.
- Соответствие упущению: это тип социального влияния при групповых взаимодействиях. Участники могли не вмешиваться в процесс злоупотребления из-за роботов, оказывающих на них социальное влияние. Они видели отсутствие реакции у роботов-свидетелей и это становилось нормой их группового взаимодействия.
Участники эксперимента назвали причины, по которым они решили не вмешиваться, чтобы остановить злоупотребление: шесть человек не сочли вмешательство необходимым, поскольку считали, что у роботов нет чувств, пять — потому что чувствовали себя застенчиво, испуганно или некомфортно, два — поскольку боялись, что вмешательство повлияет на задачу.
Исследователи считают, что внешний вид роботов может изменить то, как люди воспринимают жестокое обращение с ними. В этом случае дизайн COZMO может быть фактором, который облегчил вмешательство в ситуацию для участников.
«Когда роботы развернуты в общественных местах, мы не должны предполагать, что они не получат плохое обращение от пользователей — очень вероятно, что получат. Таким образом, важно разработать роботов, чтобы они были в безопасности, когда люди действуют против них как с физической, так и с вычислительной точки зрения»
В одном из экспериментов робот уничтожил проект, над которым работала вся команда. Тогда, увидев жестокое обращение к роботу, участник также оскорбил его, хоть и мягче. Это показало, что есть определенный порог, когда люди готовы защищать плохо работающего робота.
Ценность этого исследования заключается в нескольких вещах: оно позволяет понять, как взаимодействуют люди и роботы, работая вместе, а также как извлечь из этого пользу.
«Наше отношение к машинам — это наше зеркало. Почему люди чувствуют, будто у них есть карт-бланш на жестокое поведение, которое мы постоянно видим в соцсетях? Цель исследования не в том, чтобы создавать лучших роботов, а в том, чтобы создавать роботов, которые смогут сделать лучше нас самих»
Роботы действительно могут использовать свой социальный контекст, чтобы уменьшить влияние жестоких действий по отношению к ним. Например, они могут мотивировать свидетелей вмешаться или помочь.
