Новая модель снижает предвзятость и повышает доверие к принятию решений искусственного интеллекта

Сравнение результатов PDD и других моделей ML.Кредит: NPJ Цифровая медицина (2023).Doi: 10.1038/s41746-023-00816-9

Исследователи Университета Ватерлоо разработали новую модель объяснимого искусственного интеллекта (ИИ), чтобы снизить предвзятость и повысить доверие и точность в организации принятия решений и знаний, образовавшихся машинного обучения.

Традиционные модели машинного обучения часто дают предвзятые результаты, предпочитая группы с большими популяциями или подвергаются влиянию неизвестных факторов, и предпринимают обширные усилия, чтобы определить из экземпляров, содержащих закономерности и погрузки, исходящие из разных классов или первичных источников.

Медицинская область - это одна из областей, где существуют серьезные последствия для предвзятых результатов машинного обучения.Персонал больницы и медицинские работники полагаются на наборы данных, содержащие тысячи медицинских карт и сложные компьютерные алгоритмы, чтобы принимать важные решения о уходе за пациентами.

Машинное обучение используется для сортировки данных, что экономит время.Тем не менее, специфические группы пациентов с редкими симптомами могут оставаться незамеченными, а пациенты с неправильной установкой и аномалии могут повлиять на диагностические результаты.Этот присущий и схему смещения приводит к неправильным диагнозам и несправедливым результатам здравоохранения для конкретных групп пациентов.

Благодаря новым исследованиям, проведенному доктором Эндрю Вонгом, заслуженным профессором проектирования систем в Ватерлоо, инновационная модель направлена на устранение этих барьеров путем распутывания сложных моделей из данных, чтобы связать их с конкретными основными причинами, не влияющими на аномалии и ошибочные случаи.Это может повысить доверие и надежность в объяснимом искусственном интеллекте (Xai.)

Исследование «Теория и обоснование интерпретируемой системы обнаружения и распутывания паттернов в одном, появляются в журнале NPJ цифровой медицины.

«Это исследование представляет собой значительный вклад в область XAI», - сказал Вонг.«При анализе огромного количества данных связывания белка из рентгеновской кристаллографии моя команда выявила статистику физико-химических аминокислотных структур, которые были замаскированы и смешаны на уровне данных из-за запутывания множественных факторов, присутствующих в связывающей среде.Это был первый раз, когда мы показали, что запутанная статистика может быть распутана, чтобы дать правильную картину глубоких знаний, пропущенных на уровне данных с научными данными ».

Это откровение заставило Вонга и его команды разработать новую модель XAI под названием Pattern Discovery and Deplanglement (PDD).

«С помощью PDD мы стремимся преодолеть разрыв между технологией ИИ и человеческим пониманием, чтобы помочь в принятии надежных решений и разблокировать более глубокие знания из сложных источников данных»,-сказал доктор Пейюань Чжоу, ведущий исследователь команды Вонга.

Профессор Энни Ли, соавтор и сотрудник Университета Торонто, специализирующийся на обработке естественного языка, предвидит огромную ценность вклада PDD в принятие клинических решений.

Модель PDD произвела революцию в открытии шаблона.Различные тематические исследования продемонстрировали PDD, демонстрируя способность прогнозировать медицинские результаты пациентов на основе их клинических записей.Система PDD также может обнаружить новые и редкие шаблоны в наборах данных.Это позволяет исследователям и практикующим лицам обнаружить ошибку или аномалии в машинном обучении.

Результат показывает, что специалисты здравоохранения могут поставить более надежные диагнозы, поддерживаемые строгими статистическими данными и объяснимыми закономерностями для лучших рекомендаций по лечению для различных заболеваний на разных этапах.

Больше информации: Эндрю К. С. Вонг и др., Теория и обоснование интерпретируемой системы обнаружения и распаковки и распутывания паттернов, цифровой медицины NPJ (2023).Doi: 10.1038/s41746-023-00816-9