4 мин. чтения
8/15/2023 9:49:22 AM

Использование квантовых вычислений для защиты ИИ от атаки

Article Preview Image Уязвимость нейронных сетей вызывает проблемы безопасности в потенциально опасных для жизни ситуациях, таких как автомобили с самостоятельным вождением.Кредит: Shutterstock

Машинное обучение - это область искусственного интеллекта (ИИ), где компьютерные модели становятся экспертами в различных задачах, потребляя большие объемы данных.Это вместо человека явно программирует этот уровень опыта.

Например, современные шахматные AIS не нужно преподавать в шахматных стратегиях человеческих гроссмейстеров, но могут «изучать» их самостоятельно, играя миллионы игр против собственных копий.

Это бесценно в ситуациях, когда записывать явные инструкции нецелесообразно, если не невозможно - как вы определяете математическую функцию, которая может сказать вам, содержит ли картина кошка или собака?

Человеческие дети никогда не изучают такую функцию, а скорее видят много примеров кошек и собак, а затем в конечном итоге развивают понимание их различий.

Машинное обучение - это воспроизведение этого процесса в компьютерах.

Но, несмотря на их невероятные успехи и все более распространенное развертывание, основанные на машинном обучении рамки по-прежнему очень восприимчивы к состязательным атакам, то есть злонамеренным фальсификацией их данных, заставляя их удивительно терпеть неудачу.

Например, модели классирования изображений (которые анализируют фотографии для выявления и распознавания широкого спектра критериев) часто могут быть обмануты добавлением хорошо продуманных изменений (известных как возмущения) к их входным изображениям, которые настолько малы, что они незаметны кЧеловеческий глаз.И это можно использовать.

Продолжающаяся уязвимость к таким атакам также ставит серьезные вопросы о безопасности развертывания нейронных сетей машинного обучения в потенциально опасных для жизни ситуациях.Это включает в себя приложения, такие как самостоятельные автомобили, где систему можно смутить, чтобы проехать через пересечение с помощью безобидного куска граффити на знаке остановки.

В решающее время, когда развитие и развертывание искусственного интеллекта быстро развивается, наша исследовательская группа рассматривает способы использования квантовых вычислений для защиты ИИ от этих уязвимостей,

Последние достижения в области квантовых вычислений вызвали большое волнение по поводу перспективы улучшения машинного обучения с помощью квантовых компьютеров.Различные алгоритмы «квантового машинного обучения» уже были предложены, включая квантовые обобщения стандартных классических методов.

Обобщение относится к способности модели обучения должным образом адаптироваться к новым, ранее невидимым данным.

Считается, что модели квантового машинного обучения могут изучать определенные типы данных, радикально быстрее, чем любая модель, предназначенная для текущих или «классических» компьютеров.

Обычные компьютеры работают с битами данных, которые могут быть либо «ноль», либо «один»-двухуровневая классическая система.

Квантовые компьютеры работают с «кубитами», состояниями двухуровневых квантовых систем, которые демонстрируют странные дополнительные свойства, которые можно использовать для более эффективного решения определенных проблем, чем их классические аналоги

Однако менее ясно, так это то, насколько широко будет эти ускорения и насколько полезным будет на практике квантовое машинное обучение.

Это связано с тем, что, хотя квантовые компьютеры, как ожидается, будут эффективно изучать более широкий класс моделей, чем их классические аналоги, нет никаких гарантий, что эти новые модели будут полезны для большинства задач машинного обучения, в которых люди фактически заинтересованы.Они могут включать проблемы с медицинской классификацией или генеративные системы ИИ.

Эти проблемы побудили нашу команду рассмотреть вопрос о том, какие другие преимущества квантовые вычисления могут привести к задачам машинного обучения, чем обычные цели повышения эффективности или точности.

В нашей последней работе, опубликованной в области физических обзоров, мы предлагаем, чтобы модели квантового машинного обучения могли быть лучше защищены от состязательных атак, генерируемых классическими компьютерами.

Атаки состязания работают, выявляя и эксплуатируя функции, используемые моделью машинного обучения.

Но функции, используемые общими моделями квантового машинного обучения, недоступны для классических компьютеров и, следовательно, невидимым для противника, вооруженного только классическими вычислительными ресурсами.

Эти идеи также могут быть использованы для обнаружения наличия состязательных атак, одновременно используя классические и квантовые сети.

В нормальных условиях обе сети должны делать одинаковые прогнозы, но в присутствии атаки - их результаты будут расходиться.

Хотя это обнадеживает, квантовое машинное обучение продолжает сталкиваться с значительными проблемами.Главным среди них является огромный разрыв в способности, который разделяет классическое и квантовое оборудование.

Сегодняшние квантовые компьютеры остаются значительно ограниченными своими размерами и высокими показателями ошибок, что не позволяет им выполнять длинные расчеты.

Остаются грозные инженерные проблемы, но если их можно преодолеть, уникальные возможности крупномасштабных квантовых компьютеров, несомненно, принесут удивительные преимущества в широком спектре областей.

Больше информации: Maxwell T. West и др., Бенчмаркинг на состязании надежного квантового машинного обучения в масштабе, исследования физического обзора (2023).Doi: 10.1103/physrevresearch.5.023186

Получи бесплатную еженедельную рассылку со ссылками на репозитории и лонгриды самых интересных историй о стартапах 🚀, AI технологиях 👩‍💻 и программировании 💻!
Присоединяйся к тысячам читателей для получения одного еженедельного письма

Подписывайся на нас:

Нашли ошибку в тексте? Напишите нам.

Добавляй ЛРНЧ в свою ленту Google Новостей.
Читайте далее 📖

Новая модель искусственного интеллекта может изменять видимый возраст изображений лица, сохраняя при этом отличительные черты.

8/29/2023 · 4 мин. чтения

Новая модель искусственного интеллекта может изменять видимый возраст изображений лица, сохраняя при этом отличительные черты.

Hack Hack раскрывает риск безопасности звонков на смартфонах

8/23/2023 · 4 мин. чтения

Hack Hack раскрывает риск безопасности звонков на смартфонах