Регуляция синаптических связей мозга во время обучения - основа более надежного ИИ

Кредит: Pixabay

Исследователи из подразделения динамики сети Brain Brain Brain и факультета компьютерных наук Оксфордского университета установили новый принцип, чтобы объяснить, как мозг корректирует связи между нейронами во время обучения.Это новое понимание может направлять дальнейшие исследования в области обучения в мозговых сетях и может вдохновить более быстрые и надежные алгоритмы обучения в искусственном интеллекте.

Суть обучения состоит в том, чтобы определить, какие компоненты в трубопроводе обработки информации несут ответственность за ошибку в выходе.В искусственном интеллекте это достигается путем обратного распространения: настройка параметров модели, чтобы уменьшить ошибку в выходе.Многие исследователи считают, что мозг использует аналогичный принцип обучения.

Тем не менее, биологический мозг превосходит современные системы машинного обучения.Например, мы можем изучить новую информацию, просто увидев ее один раз, в то время как искусственные системы должны быть обучены сотням раз с теми же информационными фрагментами, чтобы изучить их.Кроме того, мы можем изучить новую информацию, сохраняя при этом знания, которые у нас уже есть, в то время как изучение новой информации в искусственных нейронных сетях часто мешает существующим знаниям и быстро ее унижает.

Эти наблюдения побудили исследователей определить фундаментальный принцип, используемый мозгом во время обучения.Они рассмотрели некоторые существующие наборы математических уравнений, описывающих изменения в поведении нейронов и в синаптических связях между ними.Они проанализировали и смоделировали эти модели обработки информации и обнаружили, что они используют принципиально различный принцип обучения из того, что используется искусственными нейронными сетями.

В искусственных нейронных сетях внешний алгоритм пытается изменить синаптические соединения, чтобы уменьшить ошибку, тогда как исследователи предполагают, что человеческий мозг сначала оседает активность нейронов в оптимальную сбалансированную конфигурацию перед настройкой синаптических соединений.Исследователи утверждают, что это на самом деле эффективная особенность того, как человеческий мозг учат.Это связано с тем, что это уменьшает помехи, сохраняя существующие знания, что, в свою очередь, ускоряет обучение.

Написание в Nature Neuroscience, исследователи описывают этот новый принцип обучения, который они назвали «проспективной конфигурацией».Они продемонстрировали в компьютерном симуляциях, которые модели, использующие эту проспективную конфигурацию, могут учиться быстрее и эффективнее, чем искусственные нейронные сети в задачах, которые обычно сталкиваются с животными и людьми в природе.

Авторы используют реальный пример рыбалки для медведя для лосося.Медведь может видеть реку, и он узнал, что если она также может услышать реку и почувствовать запах лосося, он, вероятно, поймает его.Но однажды медведь прибывает в реку с поврежденным ухом, так что он не слышит этого.

В модели обработки информации об искусственной нейронной сети, это отсутствие слуха также приведет к отсутствию запаха (потому что, если обучение нет звука, обратное распространение изменит многочисленные связи, в том числе между нейронами, кодирующими реку и лосось), и медведь будетПришли к выводу, что нет лосося, и голоден.Но в мозге животных отсутствие звука не мешает знаниям, что все еще есть запах лосося, поэтому лосось все еще может быть там для ловли.

Исследователи разработали математическую теорию, показывающую, что разрешение нейронам разрешать проспективную конфигурацию уменьшает интерференцию между информацией во время обучения.Они продемонстрировали, что проспективная конфигурация объясняет нейронную активность и поведение в множественных экспериментах по обучению лучше, чем искусственные нейронные сети.

Ведущий исследователь профессор Рафал Богач из Отдела динамики динамики сети MRC и Оксфордский департамент клинических нейронауков в Оксфорде говорит: «В настоящее время существует большой разрыв между абстрактными моделями, выполняющими проспективную конфигурацию и наши подробные знания анатомии мозговых сетей.Чтобы преодолеть разрыв между абстрактными моделями и реальными мозгами и понять, как алгоритм проспективной конфигурации реализован в анатомически идентифицированных корковых сетях ».

Первый автор исследования доктор Юханг Сонг добавляет: «В случае машинного обучения моделирование проспективной конфигурации на существующих компьютерах медленно, потому что они действуют принципиально отличаются от биологического мозга. Новый тип компьютера или выделенногоНеобходимо разработать оборудование, вдохновленное мозгом, которое сможет быстро реализовать проспективную конфигурацию и с небольшим использованием энергии ».

Больше информации: Yuhang Song et al., Вывод о нейронной активности перед пластичностью в качестве основы для обучения за пределами обратного распространения, Nature Neuroscience (2024).Doi: 10.1038/s41593-023-01514-1