Новая ИИ-архитектура, созданная в МФТИ, решает важную проблему машинного обучения — катастрофическое забывание, и позволяет сохранять информацию в сотни тысяч раз дольше. Это поможет создать автономные ИИ-системы, способные постоянно учиться и адаптироваться к изменяющимся условиям: промышленные роботы, беспилотники и дроны. Результаты исследования опубликованы в The European Physical Journal Special Topics.
«Возможно, мы нашли ответ на одну из главных загадок мозга: как он умудряется учиться новому, не стирая при этом старые “файлы”. Всё дело в постоянной перестройке нейронных связей — ревайринге. Именно он превращает хрупкую кратковременную память в прочные долговременные воспоминания», — рассказал Сергей Лобов, ведущий научный сотрудник лаборатории нейробиоморфных технологий МФТИ.
Нейронная сеть чем-то похожа на карту. Когда она учится, в ней возникают следы памяти, подобные дорожкам, протоптанным в лесу. Однако, если прохожие начнут спонтанно ходить вокруг тропы, она быстро размоется и станет незаметной. То же происходит и внутри нейронных сетей: поглощая информацию, они постоянно переписывают свои параметры и забывают старые. Происходит «катастрофическое забывание» — память становится нестабильной, ведь в реальном мире условия меняются постоянно.
Решение проблемы пришло из нейробиологии. Ученые МФТИ предложили модель памяти на основе спайковой нейронной сети — нового типа ИИ, который работает по принципам реального мозга. В нее добавили механизм перестройки связей — ревайринг. Он работает в тандеме с основным механизмом обучения мозга — временной пластичностью, зависящей от спайков (STDP). STDP усиливает или ослабляет связь между двумя нейронами в зависимости от того, кто сработал раньше.
Как это работает? Сначала сеть учится под внешним воздействием, связь между нейронами усиливается и формируется кратковременная память.
«А дальше начинается самое интересное. После обучения внешний сигнал выключается, и сеть остается наедине со своей спонтанной активностью. В этот момент включается ревайринг. Система самостоятельно перестраивает свою анатомическую структуру, буквально «впечатывая» этот паттерн в карту связей. Этот процесс мы назали самоорганизованной консолидацией памяти. Благодаря нему кратковременная память превращается в долговременную — устойчивое структурное изменение в архитектуре сети», — поделился Сергей Лобов.
Пример перестройки. Слабые связи, которые долгое время были ниже порогового значения (как связи от нейронов 8 и 7 к нейрону 4), удаляются. Вместо них создаются новые связи. Новые принимающие нейроны (1 и 2) выбираются случайно, а отправляющие — по принципу близости. Сила новых соединений устанавливается на начальном уровне. Важно, что перестраиваются только связи, исходящие от возбуждающих нейронов, но они могут соединяться как с другими возбуждающими, так и с тормозящими нейронами. Источник: The European Physical Journal Special Topics
Эксперименты показали: надежность памяти увеличилась в сотни тысяч раз.
Чтобы оценить качество модельной памяти, ученые моделировали обучение и анализировали, сколько всплесков активности переживет сеть, прежде чем забыть информацию. Если обычная сеть забывала информацию после 1000 всплесков, сеть с перестройкой связей выдерживала до 170 миллионов.
Ученые обнаружили, в процессе обучения под действием стимулов в сети возникают «хабовые» нейроны. Одиночный импульс такого нейрона способен запускать синхронные всплески активности сотен других нейронов по всей сети. Эксперименты показали, что в стандартных сетях после обучения количество таких хабов быстро сокращается, в то время как в сетях с перестройкой связей — остается высоким и даже растет. Вероятно, именно они являются энграммными клетками, создающими стабильный «каркас» для долговременного хранения информации в нейронной сети.
Сейчас новая ИИ-архитектура существует в виде компьютерной модели. Следующий шаг — физические нейроморфные процессоры, реализующие этот принцип. Они позволят создать автономные ИИ-системы, которые смогут постоянно учиться и адаптироваться в изменяющемся мире: роботы-исследователи, беспилотные автомобили и др.
______________________________________
Кроме ученых из МФТИ, в работе принимали участие их коллеги из Университета Лобачевского и Института прикладной физики РАН (Нижний Новгород).
