Этика ИИ игнорирует детей, говорят исследователи

Кредит: CC0 Общественный домен

В перспективном документе, опубликованном в сфере интеллекта Nature Machine, авторы подчеркивают, что, хотя существует растущий консенсус относительно того, как должны выглядеть этические принципы высокого уровня, слишком мало известно о том, как эффективно применять их в принципе для детей.Исследование нанесло на карту глобальный ландшафт существующих руководящих принципов по этике для ИИ и выявил четыре основные проблемы в адаптации таких принципов для пользы детей:

Исследователи также использовали реальные примеры и опыт при выявлении этих проблем.Они обнаружили, что, хотя ИИ используется для обеспечения безопасности детей, обычно путем выявления неподходящего контента в Интернете, не хватает инициативы по включению принципов защиты в инновациях ИИ, включая те, которые поддерживаются моделями крупных языков (LLMS).Такая интеграция имеет решающее значение для предотвращения воздействия детей с предвзятым содержанием на основе таких факторов, как этническая принадлежность или вредное содержание, особенно для уязвимых групп, и оценка таких методов должна выходить за рамки простого количественного показателя, таких как точность или точность.

Благодаря их партнерству с Университетом Бристоля, исследователи также разрабатывают инструменты, чтобы помочь детям с СДВГ, тщательно учитывая их потребности и проектирование интерфейсов для поддержки их обмена данными с помощью алгоритмов, связанных с искусственным интеллектом, способами, которые соответствуют их ежедневным маршрутам,навыки цифровой грамотности и необходимость простых, но эффективных интерфейсов.

В ответ на эти проблемы исследователи порекомендовали:

Доктор Джун Чжао, сотрудник Оксфорда Мартина, старший исследователь из факультета компьютерных наук университета и ведущий автор статьи, сказал: «Включение ИИ в жизнь детей и наше общество неизбежно. В то время как существует увеличение дебатов о том, кто долженУбедитесь, что технологии являются ответственными и этическими, значительная часть такого бремени падает на родителей и детей, чтобы ориентироваться в этом сложном ландшафте.

«В этой перспективной статье изучались существующие глобальные принципы этики ИИ и выявлены важные пробелы и будущие направления развития. Эти понимания имеют решающее значение для руководства нашими отраслями и политиками. Мы надеемсяТехнологии для детей и развитие глобальной политики в этом пространстве ».

Авторы изложили несколько этических принципов ИИ, которые особенно необходимо учитывать для детей.Они включают в себя обеспечение справедливого, равного и инклюзивного цифрового доступа, обеспечения прозрачности и подотчетности при разработке систем искусственного интеллекта, защиты конфиденциальности и предотвращения манипуляций и эксплуатации, гарантируя безопасность детей и создание соответствующих возрастных систем, активно вовлекая детей в их развитие.

Профессор сэр Найджел Шадболт, соавтор, директор программы Ewada, директор колледжа Иисуса Оксфорд и профессор компьютерных наук на факультете компьютерных наук, сказал: «В эпоху алгоритмов, основанных на ИИ, дети заслуживают системы, которые соответствуют их социальным, эмоциональные и когнитивные потребности. Наши системы ИИ должны быть этичными и уважительными на всех этапах развития, но это особенно важно в детстве ».

Больше информации: Проблемы и возможности в переводе этических принципов ИИ на практику для детей здесь, интеллект природы (2024).Doi: 10.1038/s42256-024-00805-x, www.nature.com/articles/s42256-024-00805-x 🔗