Катастрофическое забывание, врожденная проблема алгоритмов обучения с обратным распространением, является сложной задачей в исследованиях искусственных и импульсных нейронных сетей (ANN и SNN).
Мозг в какой-то степени решил эту проблему, используя многоуровневую пластичность. Под действием глобальной регуляции посредством специфических путей нейромодуляторы распределяются по целевым областям мозга, где как синаптическая, так и нейрональная пластичность модулируются нейромодуляторами локально. В частности, нейромодуляторы изменяют способность и свойства нейрональной и синаптической пластичности. Эта модификация известна как метапластичность.
Исследователи под руководством профессора Сюй Бо из Института автоматизации Китайской академии наук и их коллеги предложили новый метод обучения, вдохновленный мозгом (NACA), основанный на зависимой от нейромодуляции пластичности, который может помочь смягчить катастрофическое забывание в ANN и SNN. Исследование было опубликовано в Science Advances 25 августа.
Этот метод основан на структуре сложного пути нейромодуляции в мозге и опирается на математическую модель пути нейромодуляции в виде ожидаемого матричного кодирования. После получения стимулирующего сигнала, генерируются контролирующие сигналы дофамина различной силы, которые далее влияют на локальную синаптическую и нейронную пластичность.
NACA поддерживает использование методов обучения с прямым распространением для обучения как ANN, так и SNN. Благодаря глобальной поддержке диффузии дофамина он синхронизируется с входным сигналом и даже распространяет информацию впереди входного сигнала. В сочетании с избирательной регулировкой пластичности, зависящей от времени возбуждения синапса, NACA демонстрирует значительные преимущества в быстрой конвергенции и уменьшении катастрофического забывания.
В двух типичных задачах распознавания образов и речи исследовательская группа оценила точность алгоритма NACA и вычислительные затраты. В тестах с использованием стандартных наборов данных классификации изображений (MNIST) и распознавания речи (TIDigits) NACA достиг более высокой точности классификации (примерно на 1,92%) и меньшего энергопотребления на обучение (примерно на 98%).
Кроме того, исследовательская группа сосредоточилась на тестировании способности NACA к непрерывному обучению на непрерывном обучении классам и распространила нейромодуляцию на область нейронной пластичности.
В пяти основных задачах непрерывного обучения из разных категорий (включая непрерывные рукописные цифры MNIST, непрерывные рукописные буквы алфавита, непрерывные рукописные математические символы MathGreek, непрерывные природные изображения Cifar-10 и непрерывные динамические жесты DvsGesture) NACA показал меньшее энергопотребление по сравнению с обратным распространением и алгоритмами эластичной консолидации весов, а также смог значительно смягчить проблемы катастрофического забывания.
«NACA — это биологически правдоподобный алгоритм глобальной оптимизации, который использует макроскопическую пластичность для дальнейшей «модуляции» локальной пластичности, что можно рассматривать как метод «пластичности пластичности» с интуитивной функциональной согласованностью с «обучением обучению» и «метаобучением», — сказал профессор Сюй.