«Цифровая загробная жизнь»: AI чат-боты усопших

Визуализация вымышленной компании под названием Manana, одного из сценариев дизайна, используемых в статье для иллюстрации потенциальных этических проблем в развивающейся цифровой индустрии загробной жизни.Кредит: доктор Томаш Холланек

«Мередные боты» или «Griefbots» - это чат -боты ИИ, которые имитируют языковые шаблоны и личностные черты мертвых, используя цифровые следы, которые они оставляют.Некоторые компании уже предлагают эти услуги, предоставляя совершенно новый тип «посмертного присутствия».

Ай -этики из Кембриджского Центра Леверхулм в будущем разведки наброски трех дизайнер. ”

Исследование, опубликованное в журнале Philosophy and Technology, подчеркивает потенциал для компаний использовать мертвые, чтобы тайно рекламировать продукты для пользователей в манере ушедшего любимого человека, или детей, настаивая на том, что мертвый родитель все еще «с вами».

Когда живые зарегистрируются, чтобы быть практически воссозданными после того, как они умирают, в результате компании могут использоваться чат -боты для спама, выживаемая семья и друзья, с незапрошенными уведомлениями, напоминаниями и обновлениями о услугах, которые они предоставляют - акин, чтобы быть в цифровом виде «преследуемые мертвыми».

Даже те, кто начинает первоначальный комфорт от Deadbot, могут быть истощены ежедневными взаимодействиями, которые становятся «ошеломляющим эмоциональным весом», утверждают исследователей, но также может быть бессильнее, чтобы моделирование ИИ приостановлено, если их теперь пострадавший любимый человек подписал длинный контракт сцифровой сервис загробной жизни.

«Быстрые достижения в области генеративного ИИ означают, что почти любой, у кого есть доступ к Интернету и некоторые базовые ноу-хау, может оживить покойного любимого»,-сказал доктор Катаржина Новацзик-Басиньска, соавтор исследования и исследователь в Кембридже.(LCFI).

“Эта область ИИ является этическим минным полем. Важно расставить приоритеты в достоинстве умершего и гарантировать, что это не вторгается в финансовые мотивы цифровых услуг загробной жизни, например. В то же время человек может оставитьМоделирование ИИ как прощальный подарок для близких, которые не готовы обработать свое горе таким образом.

Платформы, предлагающие воссоздать мертвых с помощью ИИ за небольшую плату, уже существуют, такие как «Проект декабрь», который начал использовать модели GPT до разработки собственных систем, и приложения, включая «дальше».Подобные услуги также начали появляться в Китае.

Одним из потенциальных сценариев в новой статье является «Манана», Служба ИИ Лрнгал, позволяющая людям создавать мертвую бабушку, имитирующую свою умершую бабушку без согласия «донора данных» (мертвый бабушка).

Гипотетический сценарий видит взрослого внука, который первоначально впечатлен и утешен технологией, начинающим получать рекламу после завершения «Премиум -испытаний».Например, чат -бот, предлагающий заказ на услуги доставки продуктов питания в голосе и стиле умершего.

Родственник считает, что они не уважали память о своей бабушке и хотят отключить Deadbot, но значимым образом - то, что поставщики услуг не рассматривали.

«Люди могут развивать сильные эмоциональные связи с такими симуляциями, что сделает их особенно уязвимыми для манипуляции»,-сказал соавтор доктор Томаш Холланек, также из Cambridge’s LCFI.

«Методы и даже ритуалы для ухода на пенсию достойно рассмотрены.способы, например, для рекламы или активного присутствия в социальных сетях ».

В то время как Hollanek и Noweraczyk-Basińska говорят, что дизайнеры служб отдыха должны активно искать согласие доноров данных до их прохождения, они утверждают, что запрет на мертвых, основанные на непрерывных донорах, будет невозможным.

Они предполагают, что процессы дизайна должны включать серию подсказок для тех, кто хочет «воскресить» своих близких, таких как «Вы когда -нибудь говорили с X о том, как они хотели бы запомнить?»Таким образом, достоинство ушедшего в покое на предварительное развитие Deadbot.

Другой сценарий, представленный в газете, воображаемая компания под названием «Paren’t’s», подчеркивает пример смертельно больной женщины, оставляющей мертвого, чтобы помочь своему восьмилетнему сыну в процессе скорби.

В то время как Deadbot изначально помогает в качестве терапевтической помощи, ИИ начинает генерировать запутанные ответы, поскольку он адаптируется к потребностям ребенка, таких как изображение предстоящей личной встречи.

Исследователи рекомендуют возрастные ограничения для мертвых, а также требуют «значимой прозрачности», чтобы убедиться, что пользователи постоянно понимают, что они взаимодействуют с ИИ.Это может быть аналогично текущим предупреждениям о содержании, которые могут вызвать судороги, например.

Последний сценарий, изученный в результате исследования-вымышленная компания под названием «Остаться»-вызывает у пожилого человека, который тайно совершает мертвый сами и платит за двадцатилетнюю подписку, в надежде утешить их взрослых детей и позволит их внукам назнай их.

После смерти наступает служба. Один взрослый ребенок не участвует, и получает множество электронных писем в голосе их мертвого родителя.Другой делает, но в конечном итоге эмоционально истощен и охвачен чувством вины из -за судьбы Deadbot.Тем не менее, приостановка Deadbot нарушит условия контракта, который их родитель подписал с сервисной компанией.

«Очень важно, чтобы цифровые услуги загробной жизни рассматривали права и согласие не только тех, кого они воссоздают, но и теми, кому придется взаимодействовать с симуляциями», - сказал Холланек.«Эти услуги сталкиваются с риском причинения огромного расстройства людям, если они подвергаются нежелательным цифровым призракам от тревожных точных воссозданий искусственного интеллекта тех, кого они потеряли. Потенциальный психологический эффект, особенно в и без того трудное время, может быть разрушительным».

Исследователи призывают команды дизайнеров расставлять приоритеты в протоколах отказа, которые позволяют потенциальным пользователям прекращать свои отношения с мертвыми способами, которые обеспечивают эмоциональное закрытие.

Nowaczyk-Basińska добавила: «Нам нужно начать думать о том, как мы смягчаем социальные и психологические риски цифрового бессмертия, потому что технология уже здесь».

Больше информации: Griefbots, Deadbots, Postmortem Avatars: О ответственных приложениях генеративного ИИ в цифровой загробной индустрии, философии и технологии (2024).Doi: 10.1007/s13347-024-00744-w