Подход к реализации отжига Поттса с использованием однофотонных лавинных диодов

Обзор CMOS-совместимых Ising и Potts отжиг с использованием SPADS.Кредит: природа электроника (2023).Doi: 10.1038/s41928-023-01065-0

Массово параллельные процессоры отжига, где вычислительные узлы на одном процессоре могут одновременно выполнять серию скоординированных операций, могут иметь огромный потенциал для решения сложных задач отбора проб и оптимизации.Инженеры по электронике и физики по всему миру пытаются разработать новые подходы, которые позволяют реализовать эти устройства.

Исследователи из Калифорнийского университета, Санта-Барбара, недавно перенесли метод для непрерывного контроля температуры вычислительной техники и реализации так называемой модели Поттса, реализуя отжиг Ising и Potts, используя небольшие устройства с выявлением света, известные как однофотонные диоды лавины (SPAD) (SPAD).ПолемИх предложенный подход, изложенный в документе с электроникой природы, может проинформировать о будущем развитии массовых параллельных процессоров отжига.

“Несколько лет назад я говорил профессор Крема Керема Й. Камсари (соавтор этой статьи), где он говорил о своей элегантной работе по вычислению с вероятностными битами (P-биты), используя Ising (или большеОбычно Машины Больцманн), - сказал Tech Xplore профессор Люк Теогараджан, старший автор газеты.

“Ключевым компонентом P-BIT является нанодевиция, в его работе« Магнитное туннельное соединение »(MTJ), которое обеспечивает источник случайности, необходимый для вероятностных вычислений. Я работал над изображениями, использующими SPAD в то время, и я знал, что этоУстройства могут быть использованы для создания генераторов случайных чисел. Это в конечном итоге вызвало идею для этой работы ».

Примечательно, что в отличие от соединений магнитных туннелей (MTJS) и различных других устройств, SPAD можно легко интегрировать с широко используемыми комплементарными схемами полупроводникового полупроводника (CMOS), а также с существующими процессами для изготовления электроники.Благоприятные свойства этих устройств-это то, что в конечном итоге поощряло Теогаджаран в сотрудничестве с Уильямом Уайтхедом, аспирантом, которого он контролирует, пытаться использовать эти устройства в качестве источника энтропии для так называемых вероятностных вычислительных приложений.

«В отличие от других подходов, которые используют SPAD в качестве источника, занимающегося обычным цифровым псевдолудочным генератором, мой блестящий аспирант Уильям понял, что основная физика, приводящая к экспоненциальным изменениям пульсаРаспределение Больцмана (ключевая функция в P-Bit Computing),-сказал Теогараджан.«Одна из наших целей состояла в том, чтобы доказать, что мы можем достичь почти идеального P-компонента с использованием SPADS. Кроме того, мы изучали некоторые идеи в складывании белка с использованием эволюционных связей, в которых используется модель Potts».

Модель Potts представляет собой статистическую механику, которая по сути является более мощным обобщением двух государственной модели.Профессор Тегараджан, Уайтхед, профессор Камсари и аспирант Захари Нельсон из группы Теограджана разработали подход к легкому реализации модели Поттса в оборудовании, которую никогда раньше не пытались.

«Одним из ключевых преимуществ использования SPAD является способность легко интегрировать их в CMOS Adware, и в настоящее время у нас есть несколько простых профилей, которые мы характеризуем, - объяснил Теогараджан, - также, в отличие от других устройств, пытающихся использовать естественный шумявляется амплифицированным импульсом из -за процесса умножения лавина. Возможно, большее преимущество является результатом использования естественных экспонент, присутствующих в нашем оборудовании на основе SPAD для моделей Ising и Potts ».

Как модель Ising, так и Potts являются частью более широкого класса рамок, известных как энергетические модели.Энергетические модели широко реализованы исследователями по всему миру и помогли решить широкий спектр практических проблем, пересмотрев функцию затрат с точки зрения энергии.

«Наиболее вероятным (или вероятным) решением является оптимальное решение».Теогараджан сказал.«Энергетическое уравнение называется гамильтонианским, и вероятность пребывания в конкретном состоянии пропорциональна (отрицательной) экспоненте энергии, которая является хорошо известным результатом статистической механики, что приводит к распределению Больцмана.Распределение Больцмана является наиболее вероятным состоянием системы в равновесии ».

Получение так называемого распределения Больцмана является вычислительной проблемой.Аппаратные или экспериментальные реализации модели Ising and Potts, с другой стороны, позволяют производству состояний образца из распределения, а не вычислять полное распределение.

«Одним из способов визуализировать это было бы представить прочный ландшафт в энергетическом пространстве с холмами и долинами, каждая долина является стабильным государством», - сказал Теогараджан.«Затем система переходит от одной долины (штат) к другой с некоторой вероятностью в зависимости от разницы в энергии в штатах. Например, цель задач оптимизации состоит в том, чтобы найти самую низкую долину во всем энергетическом ландшафте (штатс самой низкой энергией или глобальным минимумом), когда функция затрат пересказывает как энергетическая функция. Однако часто система может застрять в неоптимальных долинах (также называемых локальными минимумами), если барьер вокруг долины высок ».

Предложенный подход к решению этой проблемы состоит в том, чтобы запустить систему с высокой вычислительной температурой.Это позволяет системе отскочить от локальных минимумов, медленно снижая температуру, чтобы идентифицировать оптимальное решение.Эта стратегия известна как отжиг, поскольку она имитирует процесс отжига, описанный теорией физики.

«Итак, как здесь подходят SPAD? Скорость импульсов SPAD тесно связана со временем прибытия фотона (или статистике фотонов)», - объяснил Теогараджан.«Хорошо известно, что статистика фотонов следуют процессу Пуассона, время прибытия между фотонами экспоненциально распределяется. Если это время между импульсами (или скоростью) преобразуется в напряжение с использованием фильтра и сравнивается с напряжением, представляющим энергию, полученную, полученную скоростьимпульсов из этого сравнения будет следовать экспоненциальной пропорции энергии, именно то, что требуется для реализации распределения Больцмана ».

После завершения этого процесса все, что осталось, - это преобразование кратких импульсов, произведенных SPAD в состояния, необходимые для реализации Ising и Potts.Теогараджан и его коллеги достигли этого, используя простую технику шлепантского набора на установке и механизм защелки, чтобы реализовать одноиратный кодированный вектор модели Поттса.

«Победитель берет все защелкивающее механизм в основном устанавливает текущий вывод на 1, если он получает событие и сбрасывает (или ингибирует) все другие узлы вектора, образуя узел Поттс»,-сказал Теогараджан.”Событие природы выхода SPAD в сочетании с механизмом для реализации экспоненциального уменьшения всех вычислений в одно компактное устройство, которое обычно занимает 1000 транзистора. Что еще более важно, реализация экспоненциальнойк внутренним физическим свойствам устройства ».

Еще одна интересная характеристика SPAD заключается в том, что они могут реализовать отжиг в режиме реального времени, используя интенсивность света и/или напряжение избыточного смещения.Это переменные, которые могут контролировать общую частоту импульса устройств, а также их вычислительную температуру.

«Это сильно отличается от текущих подходов отжига, где веса масштабируются на каждом этапе отжига, чтобы изменить вычислительную температуру», - сказал Теогараджан.«В целом, наше исследование подчеркивает мощность модели Поттса. Используя то же базовое оборудование, мы смогли показать модель Поттса с ее внутренней реализацией одного горячего вектора, достигая решений почти в 10 раз быстрее, чем реализация Ising. Насколько нам известно., это первая прямая реализация Поттса в оборудовании ».

Недавняя работа этой команды исследователей может иметь различные практические последствия.Например, их подход к реализации отжига Potts в аппаратных системах может проинформировать о разработке инструментов, которые могут найти приблизительные решения для нетерминированных задач полиномиального времени.

«Одна практическая область последствий - это распределение каналов MIMO 5G», - сказал Теогараджан.«Другим примером будет планирование пола для дизайна чипов. Ising и Potts Model действительно отбор проб из базового распределения с использованием нескольких примеров обучения также могут быть полезны в приложениях AI/ML».

В своих следующих исследованиях Теогараджан и его коллеги планируют реализовать свою реализацию отжига Поттса на чипе CMOS.Команда уже достигла некоторого прогресса в достижении этой цели, например, проверяя интегрированные отдельные нейроны в CMOS, размеры которых составляет 65 нм.

«Эти схемы невероятно малы и используют приблизительно 50 мкм2, по сравнению с одним генератором случайных чисел псевдо 231-1 (исключая все другие схемы, необходимые для реализации касательного гиперболического), занимает приблизительно 200 мкм2 в одном и том же технологическом узле»,-добавил Теогараджан.«Мы разработаем чип, включающий в себя многие спины/нейроны, а также синапс (умножьте и накапливаюсь) очень скоро. Мы дополнительно оцениваем архитектуры, использующие модель Potts для вычислений».

Больше информации: Уильям Уайтхед и др., CMOS-совместимые Ising и Potts отжиг с использованием однофотонных лавинных диодов, природа электроники (2023).Doi: 10.1038/s41928-023-01065-0