Когда ИИ обучается лучше

Архитектура нейросетей

В зависимости от возраста человеку требуется от 7 до 13 часов сна в сутки. За это время многое происходит: пульс, дыхание и метаболизм приливают и отливают; уровень гормонов регулируется; тело расслабляется. А вот в мозгу не так много.

"Мозг очень занят, когда мы спим, повторяя то, что мы узнали в течение дня", - говорит Максим Баженов, доктор философии, профессор медицины и исследователь сна в Медицинской школе Калифорнийского университета в Сан-Диего. "Сон помогает реорганизовать воспоминания и представить их в наиболее эффективном виде".

В предыдущих опубликованных работах Баженов и его коллеги сообщили о том, как сон укрепляет рациональную память, способность запоминать произвольные или косвенные ассоциации между объектами, людьми или событиями, и защищает от забывания старых воспоминаний.

Искусственные нейронные сети используют архитектуру человеческого мозга для совершенствования многочисленных технологий и систем, от фундаментальной науки и медицины до финансов и социальных сетей. В некоторых отношениях они достигли сверхчеловеческой производительности, например, скорости вычислений, но в одном ключевом аспекте они терпят неудачу: Когда искусственные нейронные сети обучаются последовательно, новая информация перезаписывает предыдущую - это явление называется катастрофическим забыванием.

"В отличие от этого, человеческий мозг учится непрерывно и включает новые данные в существующие знания, - говорит Баженов, - и он обычно учится лучше всего, когда новое обучение чередуется с периодами сна для консолидации памяти".

В выпуске журнала PLOS Computational Biology от 18 ноября 2022 года старший автор Баженов и его коллеги обсуждают, как биологические модели могут помочь снизить угрозу катастрофической забывчивости в искусственных нейронных сетях, повышая их полезность в различных областях научных интересов.

Ученые использовали шипованные нейронные сети, которые искусственно имитируют естественные нейронные системы: Вместо того чтобы информация передавалась непрерывно, она передается в виде дискретных событий (шипов) в определенные моменты времени.

Они обнаружили, что когда спикерные сети обучались новой задаче, но с периодическими периодами отключения от сети, которые имитировали сон, катастрофическое забывание смягчалось. Как и человеческий мозг, говорят авторы исследования, "сон" для сетей позволял им воспроизводить старые воспоминания без явного использования старых данных для обучения.

В человеческом мозге воспоминания представлены синаптическим весом - силой или амплитудой связи между двумя нейронами.

"Когда мы усваиваем новую информацию, - говорит Баженов, - нейроны выстреливают в определенном порядке, и это увеличивает количество синапсов между ними. Во время сна происходит спонтанное повторение пиков, выученных во время бодрствования. Это называется реактивацией или воспроизведением.

"Синаптическая пластичность, способность изменяться или формироваться, сохраняется во время сна, и она может еще больше усилить синаптические весовые паттерны, которые представляют память, помогая предотвратить забывание или обеспечить перенос знаний от старых задач к новым".

Когда Баженов и его коллеги применили этот подход к искусственным нейронным сетям, они обнаружили, что он помогает сетям избежать катастрофического забывания.

Это означало, что эти сети могут учиться непрерывно, как люди или животные". Понимание того, как человеческий мозг обрабатывает информацию во время сна, может помочь улучшить память у людей. Улучшение ритмов сна может привести к улучшению памяти.

"В других проектах мы используем компьютерные модели для разработки оптимальных стратегий применения стимуляции во время сна, например, слуховых тонов, которые усиливают ритмы сна и улучшают обучение. Это может быть особенно важно, когда память неоптимальна, например, при снижении памяти в процессе старения или при некоторых заболеваниях, таких как болезнь Альцгеймера".

Сон предотвращает катастрофическое забывание в спикерных нейронных сетях путем формирования совместного представления синаптических весов

При последовательном обучении искусственные нейронные сети перезаписывают ранее выученные задачи - явление, известное как катастрофическое забывание. В отличие от этого, мозг учится непрерывно и, как правило, лучше всего обучается, когда новое обучение чередуется с периодами сна для консолидации памяти.

Здесь мы использовали спикерную сеть для изучения механизмов катастрофического забывания и роли сна в его предотвращении.

Сеть можно было обучить сложной задаче кормления, но при последовательном обучении разным задачам она демонстрировала катастрофическое забывание. В пространстве синаптических весов обучение новой задаче сдвигало конфигурацию синаптических весов в сторону от многообразия, представляющего старую задачу, что приводило к забыванию.

Чередование обучения новым задачам с периодами автономной реактивации, имитирующими биологический сон, смягчало катастрофическое забывание, ограничивая состояние синаптических весов сети ранее выученным многообразием, позволяя конфигурации весов сходиться к пересечению многообразий, представляющих старые и новые задачи.

Исследование показывает возможную стратегию динамики синаптических весов, которую мозг применяет во время сна для предотвращения забывания и оптимизации обучения.