Вадим
Вадим Подписчиков: 15

Сон помогает моделям ИИ учиться новому, не забывая старое.

2 дочитывания
0 комментариев
Эта публикация уже заработала 0,10 рублей за дочитывания
Зарабатывать

Это открытие также может пролить свет на то, почему люди и животные спят.

Сон помогает моделям ИИ учиться новому, не забывая старое.

Вашему телу нужен сон, чтобы отдохнуть. Но ваш мозг не отдыхает, когда вы спите. Пока вы спите, он выполняет множество дел, включая сортировку недавнего опыта. Это повышает вашу способность к обучению и запоминанию. Теперь выяснилось, что эта же стратегия может помочь мозгу компьютера.

Павел Санда - компьютерный ученый из Чешской академии наук в Праге. Он был членом исследовательской группы, которая использовала компьютерную модель для изучения того, как сон помогает мозгу учиться. "Что-то очень важное происходит во время сна", - говорит он. Команда работала с компьютерной системой, которая моделирует мозг, также известной как искусственный интеллект, или ИИ.

Модели ИИ встречаются повсюду. Они рекомендуют вам видео в социальных сетях. Они могут распознать ваше лицо на фотографии. Они даже могут управлять автомобилями. Подавляющее большинство этих моделей работает с использованием так называемых искусственных нейронных сетей, или ИНС. Это популярная форма машинного обучения.

Изначально ИНС были вдохновлены сетями нейронов в живом мозге. Но на практике наиболее распространенные ИНС совсем не похожи на мозг. "Под капотом" они, по сути, представляют собой линейную алгебру и математические методы", - говорит Эрик Делануа. Он является аспирантом по информатике в Калифорнийском университете Сан-Диего. Он работал вместе с Сандой над новым исследованием.

Большинство ИНС могут прекрасно научиться выполнять одну задачу. Но когда дело доходит до обучения новой задаче, у них возникает проблема, которой нет у мозга. Они либо не могут выучить новую задачу, либо учатся новому, но стирают большую часть того, что знали о своей первоначальной задаче. Разработчики ИИ называют это "катастрофическим забыванием", - объясняет Санда.

Но эта проблема, как правило, не затрагивает человеческий мозг. Санда задался вопросом: "Как наши новые воспоминания попадают в пул старых воспоминаний, не стирая их?".

Он знал, что во время сна наш мозг сортирует новый опыт, многократно воспроизводя эти события. Он решил имитировать этот аспект человеческого сна в модели ИИ. И это помогло ИИ научиться новому, не забывая старое. Этот "сон" помог избежать катастрофического забывания. Группа Санды поделилась своим открытием 18 ноября 2022 года в журнале PLOS Computational Biology.

Модель, которую использовала команда Санды, не была типичной ANN. Они использовали тип, известный как "шипованная нейронная сеть". Она более близко моделирует человеческий мозг, но требует больше времени и усилий для обучения.

Сначала они обучили эту сеть на простой задаче. Она управляла синей точкой, блуждающей по сетке. Сетка была засеяна тремя типами парных зеленых блоков. Некоторые пары располагались рядом друг с другом. Другие располагались одна над другой. Третий тип пар располагался по диагонали друг от друга.

Для выполнения первого задания сеть научилась искать пары, расположенные рядом. В то же время они должны были избегать диагональных пар, расположенных под наклоном вниз. Это как если бы животное узнало, что "некоторые ягоды ядовиты, а некоторые полезны для вас", - объясняет Санда.

Как обучалась сеть? Она состояла из трех слоев. Входной слой действовал как органы чувств. Он взаимодействовал с миром сетки. Средний слой был похож на сетку цифровых нейронов. Каждый из них учился распознавать определенные паттерны, с которыми сталкивались органы чувств. Выходной слой принимал решения на основе этих моделей и действовал. Когда он двигался к вкусным ягодам или прочь от плохих ягод, он получал вознаграждение. Таким образом, он узнавал, какие модели следует искать, а каких избегать.

Затем команда попробовала научить сеть чему-то новому.

Теперь сложенные блоки были вкусными, а наклоненные вверх диагонали - неприятными. Обычно сеть должна была забыть свой первый урок, чтобы выучить новый. Однако команда не стала сразу учить ее новым правилам. Вместо этого они позволили системе искусственного интеллекта исследовать сетку в течение короткого времени, а затем сделали перерыв, похожий на сон.

Во время перерыва не было ни сетки, ни фигур, с которыми можно было бы столкнуться. Поэтому нечего было видеть и не нужно было предпринимать никаких действий. Тем не менее, сеть работала нормально. Она случайным образом воспроизводила то, как средний слой реагировал на окружающий мир. Благодаря этим перерывам, похожим на сон, сеть смогла хорошо выучить обе задачи.

Важность сна.

Имитация сна может быть не лучшим способом для всех моделей ИИ научиться выполнять многочисленные задачи. У компьютера нет тела. И многое из того, что происходит во время сна, связано с поддержанием здоровья мозга (например, вымывание отходов).

Однако это исследование интересно для неврологов, говорит Канака Раджан. Она является неврологом в Школе медицины Икан при Маунт Синай в Нью-Йорке. Раджан не принимала участия в исследовании, но она использует компьютерные модели для изучения того, как учатся люди и другие животные. Большинство подобных исследований сосредоточено на том, что происходит, когда мозг бодрствует.

ИИ-модели мозга редко включают в себя фазу, похожую на сон, говорит она. А теперь, добавляет она, возможно, им стоит это сделать. Новое исследование - "это очень важный первый шаг к пониманию важности сна", - говорит она. Однако, отмечает она, исследователям нужно будет еще многое добавить к своей модели, чтобы она лучше представляла настоящий мозг.

Группа Санды надеется выяснить, как сон улучшает обучение и память. Если это удастся, то врачи смогут найти способы стимулировать мозг во время сна, чтобы помочь в лечении расстройств памяти.

Большое спасибо за прочтение, ставьте лайк если понравилось)

Понравилась публикация?
5 / 0
нет
0 / 0
Подписаться
Донаты ₽

Афоризмы и анекдоты про деньги - 11

"Кляуза на Винни-Пуха", иллюстрация создана сетью Шедеврум Пятачок пишет кляузу на Винни-Пуха в налоговую инспекцию: «Хорошо живет на свете Винни-Пух...» Приходит чудак в магазин стройматериалов. Продавец ему:

Как сын зарезал свою мать.

Часто бывает, что родители не осознают, что говорят своим детям. В Британии произошел такой жестокий случай. Мать во время ссоры сказал своему 39 летнему сыну, чтобы он больше не возвращался домой.

🔥🔥🔥Коллективные иски к Долиной у порога? Она с позором въехала в схему собственного имени? Граждане уходят с концертов с ее выступлениями рядами?

Народная артистка стала изгоем в концертах? Именно ее выступления покидают зрители. Каждый день мы видим публикации в СМИ, где тот или иной пенсионер...алкоголик..., применив пресловутую "схему Долиной",...

Случай в кафе, упал и разбился бокал. Официант требует слишком завышенную оплату.

Случай в кафе: женщина, накинула на свои плечи шарфик и им смахнула на пол бокал с соком, бокал разбит, официант требует оплатить за битый бокал по прейскуранту кафе приличную стоимость, слишком завышенную.
00:44
Поделитесь этим видео
Главная
Коллективные
иски
Добавить Видео Опросы