Q & A: Что заставляет людей доверять CHATGPT?

Кредит: Unsplash/CC0

Точность генеративных систем ИИ имеет значение, особенно в том, что все больше людей используют ИИ для поиска ответов в Интернете и в качестве поисковых систем включают ИИ в свои системы.

Penn State News поговорили с С. Шьямом Сундаром, профессором СМИ в СМИ в штате Пенсильонлайн -поисковые системы.

Sundar: Анекдотические данные свидетельствуют о том, что люди обращаются к Chatgpt для первого ответа, где ранее они использовали поиск в Google.Например, два нью -йоркских адвоката использовали CHATGPT при составлении краткого изложения по делу, и позже судья обнаружил, что прецеденты, которые цитировал CHATGPT, были поддельными.

Моя лаборатория провела очень маленькое, предварительное исследование, которое не показывало никаких доказательств в поддержку неподтвержденных доказательств.Наши участники имели тенденцию в основном использовать Google в первую очередь, а затем Википедия, но в основном это были люди в высшем образовании, которые были засыпаны информацией в последние пару лет о недостатках генеративного ИИ.Таким образом, это явно не репрезентативная выборка.

Наш интерес к выяснению, какие функции в CHATGPT, Google Search и Wikipedia делают пользователя, склонным доверять платформам.

Юнг: Наши участники исследования указали, что они используют CHATGPT для конкретных вариантов использования, например, для улучшения своего письма или для ссылки на конкретный формат, например, резюме.

Они также используют его для поиска информации, но не доверяют результатам.Предыдущие исследования и новостные статьи предполагают, что пользователи иногда демонстрируют слепое доверие к CHATGPT, но наши интервью в фокус -группе предполагали, что это слепое доверие не всегда так.

Наши участники сказали, что они используют CHATGPT для поиска информации, но они скептически относятся к результатам, потому что они не включают справочную информацию, такую ​​как Википедия и Google Do.

Sundar: Основное различие - это лежаность CHATGPT: тот факт, что это интерфейс чата, который возвращается взад -вперед в ответ на ваш конкретный вопрос.Каждое сообщение, которое он дает вам, зависит от того, что вы вкладываете, и на то, что вы вкладываете до этого.В этом отношении это кажется очень похоже на то, что дворецкий служит вам.

Чем больше он знает вас, он персонализирует информацию для вас, а затем дает вам именно то, что вы хотите, указав конкретно на ваш вопрос, тогда как Google может просто вернуть целую кучу результатов на основе соответствия ключевого слова.

Люди приглашают инженериста, чтобы быть их языковым приятелем или быть их спутником.Это кажется интуитивно понятным и авторитетным, как знает, о чем говорит.Ответы хорошо организованы.Все эти функции могут сделать его более надежным.Но пользователи часто не понимают, что CHATGPT дает общие, обычно применимые ответы.

Юнг: Участники сказали, что они доверяют платформам по разным причинам.Им действительно нравится, что Google дает разнообразные результаты поиска.Им также нравятся такие функции, как рекламируемая реклама, потому что она демонстрирует, что Google пытается быть прозрачным.

Для Википедии участникам понравилась функция редактирования, потому что, если кто -то может редактировать запись, означает, что когда что -то не так, кто -то исправит ее.Вот почему они доверяют информации из Википедии.Что касается CHATGPT, им действительно нравятся интерактивные функции, что они могут иметь человеческий LRNч с CHATGPT, который увеличивает доверие к системе.

SUNDAR: Большинство поисковых систем, информационных поставщиков, чат -ботов, агентов по обслуживанию клиентов, все они приняли технологию больших языковых моделирования для улучшения передачи или передачи информации пользователям.Они улучшили удобство использования, поэтому информация оказывается гораздо более Lrnчal и Chattive, чем традиционный способ предоставления информации.

С точки зрения коммуникации, модели крупных языков (LLMS) революционизировали все эти различные технологии с точки зрения того, чтобы показать им путь к лучшему общению с пользователями и более сфокусированным, лежальным взаимодействием.С этой целью мы подошли намного ближе к идее ИИ как еще одной сущности, которую вы могли бы задавать вопросы, как вы, это человек.

Чтобы пройти выход Google поисковой системы или даже вывод Википедии, вам необходимо иметь определенный уровень навыков, чтобы получить полезное понимание.С этими поисковыми системами, включающими LLMS, это произошло, так это то, что они избегают беспорядка для пользователей, это избегает необходимости выяснения пользователей или иметь этот специальный навык, чтобы сделать дополнительный шаг, чтобы получить интеллект из вывода.

Вместо этого это может в основном сказать мне, что мне нужно знать.Тем не менее, LLM известны галлюцинации.Известно, что они не особенно фактические, потому что они основаны на вероятности возникновения следующего слова или предложения в истории генерируемого человеком текста.Технология поисковых систем, с другой стороны, основана на поиске информации.Это запрашивает базы данных, поиск в Интернете и очистка информации.Вступление в брак с этими двумя имеет обещание преодолеть дефицит каждого.

С одной стороны, LLM преодолевают дефицит традиционных поисковых систем с точки зрения их способности иметь LRNч с пользователями, в то время как, с другой стороны, поисковые системы преодолевают проблему, которую LLMS имеет галлюцинирование, предоставляя проверенную информацию ссылками или ссылками.

Sundar: Пользователи должны быть гораздо более систематическими в том, как они обрабатывают информацию.Они должны оценить информацию для центрального сообщения.Достаточно ли это конкретно для моего вопроса, или это кажется очень общим?Часто, просто потому, что люди задают конкретный вопрос, они думают, что ответ также является конкретным, но на самом деле это очень общий ответ.

Им нужно посмотреть, является ли вывод чем-то супер-специфическим для их ситуации, и если это так, им нужно провести перекрестную проверку с другим поставщиком источника информации.В идеале было бы лучше, если бы они сделали это с помощью технологии без LLM.Например, если я получаю выход из CHATGPT, я могу перейти в классическую поисковую систему Google, чтобы увидеть, получу ли я что -то подобное.

Пользователи также должны думать о подлинности информации.В какой степени информация, основанная на хорошо продуманных данных из достоверных источников информации, а не втягивания слов?

Адвокаты по делу в Нью -Йорке могли бы отправиться в LexisNexis, который является базой данных судебных дел, чтобы увидеть, есть ли конкретный случай с таким именем и узнать больше об этом.Часто люди используют ИИ, как ЧАТГПТ в спешке, и это опасность.Люди спешат получить информацию, которая не может быть полностью проверена пользователями.Ответы также могут иметь испеченные предубеждения, которые мы не можем осознавать.

Юнг: Люди должны лучше понять, как работает генеративный ИИ.Несмотря на то, что модель ИИ может относиться к разнообразному набору данных для ответа на вопросы, в отличие от поисковой системы или Википедии, которые получают информацию, генеративный ИИ создает новую информацию.Эта информация не всегда может быть правдой или актуальной.

Поскольку генеративный ИИ обеспечивает разнообразные взаимодействия, если вы задаете вопросы и все еще не получаете четкого ответа, вы можете уточнить свои подсказки, чтобы получить более конкретные ответы.Просто убедитесь, что вы проверили этот ответ, используя поисковую систему или другую платформу.

More information: Yongnam Jung et al, Do We Trust ChatGPT as much as Google Search and Wikipedia?, Extended Abstracts of the CHI Conference on Human Factors in Computing Systems (2024). DOI: 10.1145/3613905.3650862