3 мин. чтения
10/4/2023 11:10:59 AM

Исследования показывают, что люди могут наследовать предвзятости ИИ

Article Preview Image Кредит: CC0 Общественный домен

Удивительные результаты, достигнутые системами ИИ, которые могут, например, удерживать LRNч в качестве человека, действительно дали этой технологии изображение высокой надежности.

Все больше и больше профессиональных областей реализуют инструменты на основе искусственного интеллекта для поддержки принятия решений специалистами для минимизации ошибок в своих решениях.Однако эта технология не без рисков из -за предвзятости в результатах ИИ.Мы должны учитывать, что данные, используемые для обучения моделей ИИ, отражают прошлые человеческие решения.Если эти данные скрывают шаблоны систематических ошибок, алгоритм ИИ изучит и воспроизводит эти ошибки.Действительно, обширные доказательства указывают на то, что системы ИИ наследуют и усиливают уклоны человека.

Наиболее актуальным открытием исследований Висенте и Матута является то, что может также возникнуть противоположный эффект: что люди наследуют смещения ИИ.То есть не только ИИ наследует его предубеждения от человеческих данных, но и люди могли бы также унаследовать эти предубеждения от ИИ с риском попасть в опасный цикл.Scientific Reports опубликовал результаты исследований Висенте и Матута.

В серии трех экспериментов, проведенных исследователями, добровольцы выполнили задачу по медицинской диагностике.Группе участников помогли предвзятую систему ИИ (она демонстрировала систематическую ошибку) во время этой задачи, в то время как контрольная группа была без посторонней помощи.ИИ, задача медицинской диагностики и болезнь были фиктивными.Вся настройка была симуляцией, чтобы избежать вмешательства в реальные ситуации.

Участники, помогающие предвзятую систему ИИ, допустили те же ошибки, что и ИИ, в то время как контрольная группа не допустила этих ошибок.Таким образом, рекомендации ИИ повлияли на решения участника.

Тем не менее, наиболее значительным выводом исследования было то, что после взаимодействия с системой ИИ эти добровольцы продолжали имитировать свою систематическую ошибку, когда они переключались на выполнение задачи диагностики без посторонней помощи.Другими словами, участники, которым впервые помог предвзятую ИИ, повторили его предвзятость в контексте без этой поддержки, тем самым показав унаследованное предвзятость.Этот эффект не наблюдался для участников контрольной группы, которые с самого начала выполнили задачу.

Эти результаты показывают, что предвзятая информация по модели искусственного интеллекта может оказать негативное влияние на человеческие решения.Обнаружение последствия эффекта смещения ИИ указывает на необходимость дальнейших психологических и междисциплинарных исследований взаимодействия с искусством ИИ-человеком.

Кроме того, необходимо также регулирование, основанное на фактических данных для гарантирования справедливого и этического ИИ, учитывая не только технические особенности ИИ, но и психологические аспекты сотрудничества ИИ и человека.

Больше информации: Люсия Висенте и др., Люди наследуют предубеждения искусственного интеллекта, научные отчеты (2023).Doi: 10.1038/s41598-023-42384-8

Получи бесплатную еженедельную рассылку со ссылками на репозитории и лонгриды самых интересных историй о стартапах 🚀, AI технологиях 👩‍💻 и программировании 💻!
Присоединяйся к тысячам читателей для получения одного еженедельного письма

Подписывайся на нас:

Нашли ошибку в тексте? Напишите нам.

Добавляй ЛРНЧ в свою ленту Google Новостей.
Читайте далее 📖

Xbox Microsoft планирует больше сокращений после закрытия студии

5/10/2024 · 3 мин. чтения

Xbox Microsoft планирует больше сокращений после закрытия студии

«Цифровая загробная жизнь»: AI чат-боты усопших

5/9/2024 · 3 мин. чтения

«Цифровая загробная жизнь»: AI чат-боты усопших