УДК 004.891.3

Дендритное присвоение заслуги в спайковых нейронных сетях как биологически правдоподобный механизм обучения: теоретическое обоснование

Dendritic Credit Assignment in Spiking Neural Networks as a Biologically Plausible Learning Mechanism: Theoretical Justification
Усмонов М.Т. — Обучающийся, Российский Государственный Социальный Университет, Москва
Макаров А.В. — Доцент, к.т.н., Кафедра информационных технологий, искусственного интеллекта и общественно-социальных технологий цифрового общества
Аннотация
Проблема присвоения заслуги остаётся одним из центральных нерешённых вопросов нейроморфных вычислений. В работе предлагается гипотеза о том, что интеграция двухкомпартментных спайковых нейронов с компартмент-специфичными трёхфакторными правилами STDP позволяет каждому нейрону вычислять локальный сигнал ошибки без глобального обратного прохода. Систематический обзор литературы 2022–2025 годов показывает, что каждая из трёх ключевых проблем масштабирования имеет частичные решения, однако предлагаемая комбинация остаётся нереализованной. Работа формулирует экспериментально проверяемую гипотезу и обозначает путь верификации в среде Brian2/Dendrify.
Ключевые слова: спайковые нейронные сети, нейроморфные вычисления, дендритные вычисления, STDP, присвоение заслуги, биологически правдоподобное обучение, AGI, BAC-firing, NMDA-рецепторы.

1. Введение

Современные системы глубокого обучения достигли впечатляющих результатов в распознавании образов и обработке естественного языка. Однако они принципиально отличаются от биологических нейронных систем по энергоэффективности, способности к непрерывному обучению и обобщению из малого числа примеров. Человеческий мозг потребляет около 20 Вт при вычислительной мощности порядка 1 эксафлопс — показатель, недостижимый для современных вычислительных систем.

Алгоритм обратного распространения ошибки требует трёх биологически нереалистичных условий: симметрии весов, нелокальности градиентов и фазового разделения прямого и обратного проходов. Ни одно из этих условий не выполняется в биологических нейронных цепях. Это порождает центральный вопрос нейроморфных вычислений: каким образом мозг решает проблему присвоения заслуги, используя только локальную информацию?

В настоящей работе предлагается теоретическое обоснование механизма, основанного на дендритной архитектуре пирамидальных нейронов. Гипотеза синтезирует три хорошо изученных, но до сих пор не объединённых явления: многокомпартментную нейронную биофизику, трёхфакторные правила STDP и нисходящие предсказательные сигналы.

2. Предпосылки и обзор литературы

Пирамидальные нейроны коры составляют около 80% всех корковых нейронов. Базальные дендриты получают входы от нейронов того же и соседних корковых слоёв, реализуя восходящую feedforward обработку. Апикальные дендриты получают входы из отдалённых областей, реализуя нисходящую top-down модуляцию. Апикальная зона богата NMDA-рецепторами и способна генерировать кальциевые потенциалы действия независимо от соматического спайка.

Beniaguev et al. (2021) показали, что входо-выходное отображение одного кортикального пирамидального нейрона требует 5–8-слойной искусственной нейронной сети. Gidon et al. (2020) экспериментально продемонстрировали, что апикальные дендриты нейронов человеческой коры вычисляют операцию XOR — невозможную для одиночного перцептрона.

Спайковые нейронные сети (СНС) — третье поколение искусственных нейронных сетей — биологически правдоподобнее и потенциально энергоэффективнее стандартных ANN. Современные подходы к обучению СНС включают surrogate gradient, ANN-to-SNN конверсию, e-prop и прямой STDP. Ни один из них не реализует полностью локальное биологически правдоподобное обучение с учителем в глубоких спайковых сетях.

Frémaux и Gerstner (2016) формализовали трёхфакторные правила обучения: Δw(i,j) = η · e(i,j)(t) · M(t), где e(i,j)(t) — след eligibility, M(t) — нейромодуляторный сигнал. Sacramento et al. (2018) показали, что дендритная архитектура реализует предсказательное кодирование в rate-сетях. Перенос на спайковые сети требует решения трёх нетривиальных задач.

3. Формулировка гипотезы

Основная гипотеза H1: глубокая спайковая нейронная сеть, построенная из двухкомпартментных нейронов (базальный — feedforward вход, апикальный — top-down предсказание), обучаемая посредством компартмент-специфичных трёхфакторных правил STDP, где третьим фактором служит рассогласование между апикальной и базальной активацией, способна решать задачи классификации с точностью, сопоставимой с surrogate gradient методами, используя исключительно локальную синаптическую информацию.

Для нейрона i в слое l два компартмента интегрируют входы независимо:

VB(i)(t) = Σj wB,ij · Sj(l-1)(t) ∗ κ(t)
VA(i)(t) = Σk wA,ik · Sk(l+1)(t) ∗ κ(t)
τm · dVs/dt = −Vs + VB + α · VA + Ibias
εi(t) = VA(i)(t) − VB(i)(t)

ΔwB,ij = ηB · eB,ij(t) · sign(εi(t))
ΔwA,ik = ηA · eA,ik(t) · |εi(t)|

Инициализация: w ~ N(0,1) с масштабированием σU = 1 по Rossbroich-Zenke.

4. Частичные решения из литературы 2022–2025

Систематический обзор выявил конкретные решения для каждой из трёх проблем масштабирования.

Проблема глубины: DiffPC (2025) реализует разностное предсказательное кодирование для СНС, достигая 99,3% на MNIST; PCL (Nature Communications, 2025) подавляет наиболее предсказуемые спайки через ингибиторный STDP. Оба подхода демонстрируют достаточность локальных сигналов ошибки.

Проблема синхронизации: механизм BAC-firing требует временного совпадения апикального и соматического сигналов в окне 13,5 ± 1 мс. Кальциевый спайк с burst-переключением длится ~25 мс. NMDA-плато потенциалы расширяют окно совпадения до 100+ мс. Capone et al. (PNAS 2023) реализовали трёхкомпартментный спайковый нейрон с переменной окна активности.

Проблема инициализации: Rossbroich и Zenke (2022) разработали fluctuation-driven инициализацию (σU = 1), предотвращающую затухание и взрыв сигналов. Weight mirrors через Hebbian корреляцию обеспечивают функциональное обучение без явной передачи весов.

Нереализованная комбинация: ни одна из ближайших работ не объединяет спайковые нейроны, многокомпартментную архитектуру и чисто локальный STDP одновременно.

5. Предсказания и экспериментальная верификация

Гипотеза генерирует следующие проверяемые предсказания:

  1. точность >85% на MNIST и >60% на CIFAR-10 при rate-coded входах;
  2. корреляция εi(t) с глобальной ошибкой без передачи глобального градиента;
  3. удержание задачи A после обучения на задаче B выше, чем у surrogate gradient baseline;
  4. в нейронах правильного класса εi > 0 чаще, чем εi < 0.

Методология верификации: инструменты — Brian2 + Dendrify + Brian2CUDA; архитектура — 3–5 слоёв, 500–2000 двухкомпартментных нейронов на слой, модель AdEx; датасеты — MNIST, SHD, Sequential MNIST; baseline — LIF + surrogate gradient (snnTorch), e-prop, двухкомпартментный нейрон + backprop.

6. Ограничения

Достаточность информации в εi(t) для глубоких сетей теоретически не доказана, однако DiffPC и PCL демонстрируют практическую состоятельность локальных иерархических ошибок. Одновременная доступность VA(t) и VB(t) нетривиальна в асинхронных сетях, но измеренные параметры BAC-firing и NMDA-плато обеспечивают достаточное окно синхронизации. Случайная инициализация апикальных весов смягчается стратегиями Rossbroich-Zenke и показанной эффективностью фиксированных случайных весов.

7. Связь с задачей AGI

Непрерывное обучение: локальные сигналы ошибки менее разрушительны для существующих весов, чем глобальный backprop.

Энергоэффективность: событийно-управляемые обновления принципиально важны для масштабирования к биологическому уровню (86 млрд нейронов при 20 Вт).

Масштабируемость: линейное масштабирование локальных правил критично для распределённых нейроморфных систем (Intel Loihi 2, BrainScaleS-2).

Обучение с подражанием: апикальный компартмент естественно принимает сигналы эксперта, реализуя онлайн imitation learning без офлайн обучения на записанных траекториях.

8. Заключение

Предложена теоретически обоснованная гипотеза о механизме биологически правдоподобного обучения в глубоких спайковых нейронных сетях. Рассогласование между апикальным и базальным компартментами пирамидального нейрона служит локальным сигналом ошибки — третьим фактором в правиле STDP. Систематический обзор литературы 2022–2025 показал, что каждая из трёх ключевых проблем масштабирования имеет частичные решения, однако предлагаемая комбинация остаётся нереализованной. Конкретные биофизические параметры (BAC-firing 13,5 мс, burst 25 мс, NMDA-плато 100+ мс) и валидированные стратегии инициализации обеспечивают практический путь к верификации в Brian2/Dendrify.

Список источников

  1. LeCun Y., Bengio Y., Hinton G. Deep learning // Nature. 2015. Vol. 521. P. 436–444.
  2. Kudithipudi D. et al. Neuromorphic computing at scale // Nature. 2025.
  3. Rumelhart D.E., Hinton G.E., Williams R.J. Learning representations by back-propagating errors // Nature. 1986. Vol. 323. P. 533–536.
  4. Lillicrap T.P. et al. Backpropagation and the brain // Nature Reviews Neuroscience. 2020. Vol. 21. P. 335–346.
  5. DeFelipe J., Fariñas I. The pyramidal neuron of the cerebral cortex // Progress in Neurobiology. 1992. Vol. 39(6). P. 563–607.
  6. Spruston N. Pyramidal neurons: dendritic structure and synaptic integration // Nature Reviews Neuroscience. 2008. Vol. 9. P. 206–221.
  7. Larkum M.E. A cellular mechanism for cortical associations // Trends in Neurosciences. 2013. Vol. 36(3). P. 141–151.
  8. Larkum M.E., Zhu J.J., Sakmann B. A new cellular mechanism for coupling inputs arriving at different cortical layers // Nature. 1999. Vol. 398. P. 338–341.
  9. Beniaguev D., Segev I., London M. Single cortical neurons as deep artificial neural networks // Neuron. 2021. Vol. 109(17). P. 2727–2739.
  10. Gidon A. et al. Dendritic action potentials and computation in human layer 2/3 cortical neurons // Science. 2020. Vol. 367(6473). P. 83–87.
  11. Maass W. Networks of spiking neurons: the third generation of neural network models // Neural Networks. 1997. Vol. 10(9). P. 1659–1671.
  12. Neftci E.O., Mostafa H., Zenke F. Surrogate Gradient Learning in Spiking Neural Networks // IEEE Signal Processing Magazine. 2019. Vol. 36(6). P. 61–63.
  13. Bellec G. et al. A solution to the learning dilemma for recurrent networks of spiking neurons // Nature Communications. 2020. Vol. 11. P. 3625.
  14. Frémaux N., Gerstner W. Neuromodulated STDP and Theory of Three-Factor Learning Rules // Frontiers in Neural Circuits. 2016. Vol. 9. P. 85.
  15. Sacramento J. et al. Dendritic cortical microcircuits approximate the backpropagation algorithm // NeurIPS. 2018.
  16. Stimberg M., Brette R., Goodman D.F. Brian 2 // eLife. 2019. Vol. 8. e47314.
  17. Pagkalos M. et al. Introducing the Dendrify framework // Nature Communications. 2023. Vol. 14. P. 131.
  18. Difference Predictive Coding for Training Spiking Neural Networks // OpenReview. 2025.
  19. N'dri et al. Predictive Coding Light // Nature Communications. 2025.
  20. Capone C., Paolucci P.S. Burst-dependent plasticity and dendritic amplification // PNAS. 2023.
  21. Rossbroich J., Gygax J., Zenke F. Fluctuation-driven initialization for SNN training // Neuromorphic Computing and Engineering. 2022.
  22. Akrout M. et al. Using Weight Mirrors to Improve Feedback Alignment. 2019.