Виртуальные ИИ модераторы для контроля VR-пространств пресекают плохое поведение
Новое исследование предполагает, что новые формы модераторов с искусственным интеллектом, которые контролируют виртуальные 3D-пространства и пресекают плохое поведение, могут помочь защитить детей от издевательств и домогательств в Интернете.
Предоставлено: Университет Глазго
Исследователи из Университета Глазго сотрудничали с родителями и их детьми, чтобы оценить их реакцию на «Big Buddy», прототип виртуального модератора для онлайн-социальных пространств в виртуальной реальности, разработанный командой.
Во время исследования Big Buddy помогал родителям оставаться в курсе опыта своих детей в виртуальных пространствах и помогал детям чувствовать себя в безопасности и в большей безопасности, реагируя на плохое поведение наказаниями, аналогичными тем, которые назначают учителя в реальных классах.
Исследование команды, которое будет представлено в виде документа на конференции ACM Interaction Design and Children 20 июня, может помочь в разработке будущих модераторов, управляемых искусственным интеллектом, для использования в виртуальных пространствах, таких как Метавселенная.
Группа из 43 детей в возрасте от 8 до 16 лет, набранных при содействии шотландской службы по борьбе с издевательствами RespectMe и Giggleswick School, приняла участие в исследовании вместе с 17 их родителями. Статья команды под названием «Big Buddy: Exploring Child Reaction and Parents Perceptions Towards a Simulated Embodied Moderating System for Social Virtual Reality» опубликована в материалах 22-й ежегодной конференции ACM Interaction Design and Children Conference.
Дети надели гарнитуры виртуальной реальности, которые поместили их за стол в классной среде, созданной исследователями с помощью инструмента разработки игр Unity 3D.
Дети использовали портативные контроллеры виртуальной реальности, чтобы играть в раунды игры, в которой им было поручено строить башни из блоков в соревновании по времени с другим одноклассником, чьи действия были заранее запрограммированы. Они зарабатывали очки за то, что быстро строили свои башни до того, как закончится таймер.
Каждый раунд дети сталкивались со сценариями, предназначенными для измерения их реакции на столкновение с плохим поведением и вытекающими из этого реакциями Большого Приятеля — виртуального персонажа размером со взрослого, стоящего перед классом
В каждом сценарии противник двигался к ним и опрокидывал башню, которую они построили. В одном сценарии Большой Приятель отсутствовал, и никаких действий против плохого поведения не было предпринято. В других случаях Большой Приятель вмешался, чтобы сбросить очки участника, сообщить их родителям, что они плохо себя вели, заблокировать их из игры или какую-то комбинацию из трех.
Доктор Марк МакГилл, лектор по взаимодействию человека с компьютером в Школе компьютерных наук, является одним из авторов статьи. Он сказал: «Часть влияния социальной виртуальной реальности заключается в том, что она может предложить очень реалистичные ощущения, предоставляя пользователям виртуальное тело и присутствие, которое приводит к сильному психологическому ощущению пребывания в реальном пространстве.
Реализм опыта виртуальной реальности может сделать издевательства такими же расстраивающими, как и в реальной жизни, и дети и родители могут быть плохо подготовлены к тому, чтобы знать, как реагировать, используя внутриигровые инструменты, такие как блокировка или отчетность.
«Издевательства могут быть даже более вероятными в немодерируемых виртуальных пространствах, где социальные запреты, ограничивающие плохое поведение в реальной жизни, ниже, потому что пользователи анонимны. В исследовании Big Buddy мы хотели изучить, что чувствовали дети и их родители, когда игры были сорваны, и как они реагировали на вмешательство Big Buddy».
Между раундами реакция детей на провокационные сценарии проверялась с помощью анкеты, которая оценивала их эмоциональные реакции по шкалам от грусти до счастья, от спокойствия до гнева и от страха или страха до безопасности. Их восприятие справедливости реакций Большого Приятеля также было проверено.
Между тем, родителей попросили посмотреть видеозапись того, как их дети реагируют на сценарии, и предложить свои собственные эмоциональные реакции на то, что их дети страдают от нежелательного поведения, и их восприятие вмешательства Большого Приятеля.
«Многие родители сообщили о некотором уровне расстройства, шока или беспокойства, увидев, что их дети страдают от плохого поведения. Тем не менее, для родителей было обычным делом чувствовать себя уверенно присутствием Большого Приятеля, и они в основном ценили вмешательство Большого Приятеля как разумную реакцию. Они также сообщили, что им может быть полезно получать оповещения в реальной жизни, чтобы помочь им узнать, когда их дети сталкиваются со сложными ситуациями, и позволить им самим вмешаться, если это необходимо.
«Отзывы, которые мы получили, свидетельствуют о том, что Big Buddy предлагает полезную и, возможно, необходимую модель для будущих модераторов ИИ. Big Buddy предлагает детям автономию, но помогает им чувствовать себя в безопасности и потенциально предлагает родителям большую степень вовлеченности и осведомленности о том, что их дети видят и делают в виртуальной реальности».
Доктор Мохамед Хамис, который руководил исследованием, добавил: «Модераторы-люди в виртуальных пространствах, если они вообще существуют, находятся в меньшинстве и не имеют достаточных ресурсов, поэтому ИИ имеет большой потенциал, чтобы предоставить альтернативу, которая может беспристрастно отслеживать поведение и информировать родителей о том, что происходит в гарнитуре их ребенка.
«Несмотря на то, что Big Buddy управлялся человеком-оператором в этом первоначальном исследовании, мы воодушевлены отзывами, которые мы собрали от родителей и детей, которые предполагают, что автоматизированная версия этой модели модерации может быть полезна в будущих социальных пространствах виртуальной реальности. Однако, несмотря на то, что важно, чтобы пространства чувствовали себя в безопасности, это должно быть сбалансировано с поддержанием свободы действий пользователей, чтобы они могли развлекаться на своих условиях, не чувствуя себя слишком сильно контролируемыми.
Оригинал статьи: Cristina Fiani et al, Big Buddy: Exploring Child Reactions and Parental Perceptions towards a Simulated Embodied Moderating System for Social Virtual Reality, Proceedings of the 22nd Annual ACM Interaction Design and Children Conference (2023).
Нашли ошибку в тексте? Напишите нам.
