Étude : comment empêcher les mauvais traitements infligés aux robots grâce à l'empathie
Alors que les gens croisent de plus en plus de robots dans les lieux publics, les mauvais traitements infligés à ces appareils risquent de devenir courants. Ils peuvent prendre de nombreuses formes, du comportement un peu brutal jusqu'aux actes violents. Malheureusement, des gens sont prêts à maltraiter ou à blesser des robots, et les témoins ne les arrêtent pas, même lorsque le robot demande lui-même de l'aide.
Sans pouvoir compter sur les humains présents pour les secourir, les robots n'ont d'autre choix que de compter sur eux-mêmes et sur leurs « semblables » pour assurer leur sécurité. Des chercheurs du Interactive Machines Group de l'université de Yale ont mené une expérience pour déterminer si des robots témoins expressifs sur le plan émotionnel peuvent empêcher les humains de maltraiter un robot.
Prenons un exemple : un petit groupe de robots et un petit groupe d'humains. Si une personne commence à malmener un robot, les autres humains réagiront-ils si les autres robots expriment de la tristesse face à la scène ? Sur la base de recherches antérieures sur les mauvais traitements infligés aux robots, sur l'empathie et sur le harcèlement, la réponse était « peut-être ». C'est pourquoi les scientifiques ont décidé de mener une nouvelle expérience.
L'expérience impliquait un groupe de trois robots COZMO, un participant et un chercheur faisant semblant d'être un second participant. Les humains et les robots devaient travailler ensemble pour réaliser des tâches de construction à l'aide de blocs de bois. Pendant ce temps, l'un des robots commettait de temps en temps des erreurs, et le chercheur réagissait à chaque imprécision par des signes de maltraitance : il traitait le robot d'idiot, le poussait, le secouait et le lançait à travers la table.
Après chaque insulte, le robot réagit en affichant un visage triste et en s'éteignant pendant 10 secondes. Pendant ce temps, les deux autres robots COZMO soit ne font rien, soit s'approchent du robot maltraité et expriment leur tristesse face à la maltraitance par une animation. Les chercheurs ont supposé que, lorsque les autres robots réagiraient avec tristesse à la maltraitance de leur « ami », le participant ressentirait davantage d'empathie et serait plus susceptible d'intervenir pour arrêter la violence.
Ces interventions ont été classées en « fortes » ou « faibles », pouvant être verbales ou physiques. Les interventions fortes comprenaient l'interruption physique de la maltraitance et une interruption verbale active reposant sur la pression sociale. Les interventions faibles consistaient notamment à toucher le robot après qu'il a été malmené, pour s'assurer qu'il va bien.
Les participants sont effectivement intervenus lorsque COZMO subissait des violences, et ils étaient plus enclins à intervenir lorsque les autres robots étaient tristes. Cependant, les robots tristes n'ont pas beaucoup accru la compassion et la perception des participants, ce qui rend les résultats contradictoires. Les chercheurs ont expliqué trois raisons pour lesquelles les participants ont agi comme ils l'ont fait :
- Empathie subconsciente : au sens large, l'empathie est la réaction d'une personne face à l'expérience observée d'une autre. Les gens éprouvent souvent de l'empathie sans en avoir conscience. Cela a pu être le cas des participants. Ils ont pu ressentir une empathie subconsciente face à la maltraitance du robot. L'effet a peut-être été renforcé par la réaction triste des robots témoins.
- Dynamique de groupe : les gens tendent à se définir par rapport à des groupes sociaux. Cela peut façonner la manière dont ils traitent les informations et la portée émotionnelle des événements. Dans l'expérience, le participant, le chercheur et les robots faisaient partie d'un même groupe en raison de la tâche commune. Cependant, le chercheur qui maltraitait un robot suscitait des émotions négatives. Cela était plus visible lorsque les autres robots exprimaient de la tristesse, ce qui ne faisait qu'accentuer la perception négative. Par conséquent, le participant cessait de considérer le chercheur « méchant » comme membre du groupe et pouvait alors intervenir.
- Conformité à l'inaction : il s'agit d'un type d'influence sociale dans les interactions de groupe. Les participants ont peut-être évité d'intervenir face à la maltraitance parce que les robots témoins exerçaient sur eux une influence sociale. Ils voyaient l'absence de réaction des robots témoins, et cela devenait la norme de leur interaction de groupe.
Les participants ont donné les raisons pour lesquelles ils ont décidé de ne pas intervenir pour arrêter la maltraitance : six personnes ne jugeaient pas l'intervention nécessaire, car elles pensaient que les robots n'avaient pas de sentiments ; cinq se sentaient timides, effrayées ou mal à l'aise ; deux craignaient que l'intervention ne nuise à la tâche.
Les chercheurs pensent que l'apparence des robots peut modifier la façon dont les gens perçoivent les mauvais traitements qui leur sont infligés. Dans ce cas, la conception de COZMO a peut-être été un facteur qui a facilité l'intervention des participants.
« Lorsque des robots sont déployés dans des lieux publics, nous ne devons pas supposer qu'ils ne subiront pas de mauvais traitements de la part des utilisateurs : c'est très probable. Il est donc important de concevoir des robots capables d'assurer leur sécurité lorsque des personnes agissent contre eux, tant sur le plan physique que sur le plan informatique »
Dans l'une des expériences, un robot a détruit un projet sur lequel toute l'équipe travaillait. Alors, en voyant la maltraitance infligée au robot, le participant l'a lui aussi insulté, bien que plus doucement. Cela a montré qu'il existe un certain seuil au-delà duquel les gens sont prêts à défendre un robot qui fonctionne mal.
La valeur de cette étude tient à plusieurs éléments : elle permet de comprendre comment les humains et les robots interagissent lorsqu'ils travaillent ensemble, ainsi que la manière d'en tirer profit.
« Notre rapport aux machines est un miroir. Pourquoi les gens ont-ils l'impression d'avoir carte blanche pour des comportements cruels, que nous voyons constamment sur les réseaux sociaux ? Le but de la recherche n'est pas de créer de meilleurs robots, mais des robots capables de nous faire progresser nous-mêmes »
Les robots peuvent effectivement utiliser leur contexte social pour réduire l'impact des actes violents dont ils sont victimes. Par exemple, ils peuvent inciter les témoins à intervenir ou à apporter leur aide.
