Исследователи используют вопросы экологической справедливости, чтобы выявить географические предубеждения в CHATGPT

На карте США показаны округа, где жители могут (синий) или не смогли (розовый) получить информацию о местной специфической информации о вопросах экологической справедливости.Кредит: Junghwan Kim.

Исследователи из Вирджинии Технических исследователей обнаружили ограничения в способности CHATGPT предоставлять конкретную информацию о вопросах экологической справедливости.Их выводы, опубликованные в журнале Telematics and Informatics, предполагают потенциал географических предубеждений, существующих в современных моделях генеративного искусственного интеллекта (AI).

CHATGPT-это модель с крупным языком, разработанная Openai Inc., организацией исследований искусственного интеллекта.CHATGPT предназначен для понимания вопросов и создания текстовых ответов на основе запросов от пользователей.Технология имеет широкий спектр приложений от создания контента и сбора информации до анализа данных и языкового перевода.

«Как географ и ученый из геопространственных данных, Generative AI является инструментом с мощным потенциалом», - сказал доцент профессора Джунхван Ким из Колледжа природных ресурсов и окружающей среды.«В то же время нам необходимо исследовать ограничения технологии, чтобы будущие разработчики осознавали возможности предубеждений. Это была мотивация этого исследования».

Используя список из 3108 округов в смежных Соединенных Штатах, исследовательская группа попросила интерфейс CHATGPT ответить на быстрый вопрос о вопросах экологической справедливости в каждом округе.Исследователи выбрали экологическую справедливость в качестве темы для расширения диапазона вопросов, обычно используемых для проверки производительности генеративных инструментов ИИ.Задавать вопросы округу позволили исследователям измерить ответы CHATGPT против социально -демографических соображений, таких как плотность населения и средний доход домохозяйства.

Обследование округов с популяциями, столь же варьированными, как округ Лос-Анджелес, штат Калифорния, с населением 10,019 635 лет, а также любящий округ, штат Техас, с населением 83, генеративный инструмент ИИ продемонстрировал способность выявлять конкретные проблемы окружающей среды в большом, высоком уровне-Площадь населения.Тем не менее, инструмент был ограничен в его способности идентифицировать и предоставлять контекстуализированную информацию по вопросам местной экологической справедливости.

С генеративным ИИ, появляющимся в качестве нового инструмента шлюза для получения информации, тестирование потенциальных смещений в результатах моделирования является важной частью улучшения программ, таких как CHATGPT.

«Несмотря на то, что необходимо больше исследований, наши выводы показывают, что географические предубеждения в настоящее время существуют в модели CHATGPT», - сказал Ким, преподает в Департаменте географии.«Это является отправной точкой для изучения того, как программисты и разработчики ИИ могут предвидеть и смягчить несоответствие информации между большими и небольшими городами, между городскими и сельскими средами».

Ким ранее опубликовала статью о том, как CHATGPT понимает проблемы и решения транспорта в США и Канаде.Его умные города для хорошей исследовательской группы исследуют использование методов и технологий геопространственных наук и технологий для решения городских социальных и экологических проблем.

Доцент профессор Исмини Лурентц из Колледжа инженерного колледжа, соавтор бумаги, процитировал три области дальнейших исследований для крупных моделей, таких как CHATGPT:

«Существует множество проблем с надежностью и устойчивостью моделей с крупным языком»,-сказал Лурендцу, который преподает в факультете компьютерных наук и является партнером Центра искусственного интеллекта и аналитики данных Сангани.«Я надеюсь, что наше исследование сможет направить дальнейшие исследования по расширению возможностей CHATGPT и других моделей».

Больше информации: Junghwan Kim et al. Изучение ограничений в том, как Chatgpt вводит вопросы экологической справедливости в Соединенных Штатах: тематическое исследование 3108 округов, телематики и информатики (2023).Doi: 10.1016/j.tele.2023.102085