Ученые установили, что биологические нейросети работают по математическому принципу свободной энергии
Принцип свободной энергии — это достаточно простая схема оптимизации, которая устраняет неопределенность в системе. Примерно так работает ИИ, но то, что так работают живые нейроны — большая неожиданность.
Международная команда исследователей Центра изучения мозга (RIKEN Center for Brain Science, CBS) в Японии, Токийского университета и Университетского колледжа Лондона продемонстрировала, что самоорганизация биологических нейронов в процессе обучения подчиняется математической теории - принципу свободной энергии.
Этот принцип точно предсказал, как биологические нейронные сети спонтанно реорганизуются для различения поступающей информации, и как изменение возбудимости нейронов может нарушить этот процесс.
Как работают нейроны
Описание рисунка. Нейроны выращивались на электродах. С помощью электрической стимуляции нейроны обучались различать два скрытых источника сигнала. Волны в правом нижнем углу представляют собой спайковые ответы на сенсорный стимул (красная линия). RIKEN
Когда мы учимся различать голоса, лица или запахи, сети нейронов в нашем мозге автоматически перестраиваются, чтобы различать источники информации. Этот процесс включает в себя изменение силы связей между нейронами и является основой обучения.
Такуя Исомура из RIKEN и его коллеги недавно предсказали, что этот тип самоорганизации сети подчиняется математическому правилу - принципу свободной энергии. В новом исследовании они проверили эту гипотезу на нейронах, взятых из мозга крысиных эмбрионов и выращенных на культуре поверх сетки электродов (см. рисунок выше).
Как только мозг начинает различать два сигнала, например, голоса, некоторые нейроны реагируют только на один из голосов, а другие — только на другой. Эта реорганизация нейронной сети и называется обучением. В своем эксперименте на культуре исследователи имитировали этот процесс, используя сетку электродов под нейронной сетью для стимуляции нейронов по определенной схеме, которая задавала два отдельных источника («голоса»).
После 100 тренировок нейроны автоматически приобрели избирательность: одни сильно реагировали на источник № 1 и очень слабо на источник № 2, а другие — наоборот. Препараты, повышающие или понижающие возбудимость нейронов, при предварительном добавлении в культуру нарушали процесс обучения. Это свидетельствует о том, что нейроны на культуре выполняют именно те функции, которые, как считается, выполняют нейроны в работающем мозге.
Принцип свободной энергии
Описание рисунка. 1 рисунок слева - схема архитектуры системы, включающей генеративный процесс и нейронную сеть in vitro (на культуре), смоделированную как каноническая нейронная сеть in silico (цифровая модель). Два нейронных ансамбля получают 32 входа, сгенерированных из двух источников. 2 рисунок слева. Траектория эмпирически оцененной синаптической связности (W), изображенная на ландшафте вариационной свободной энергии (F). Красная и синяя линии показывают траектории красной и синей связности в (а). Наклон указывает на теоретически предсказанный ландшафт свободной энергии. Более темный зеленый цвет означает более низкую свободную энергию. В то время как синаптические силы (т.е. эффективная синаптическая связность или эффективность) рассчитываются по эмпирическим данным в сессиях 1-100. 3 рисунок слева. Предсказания синаптической пластичности в процессе обучения. Начальные условия (т.е. параметры генеративной модели) определялись по ответам нейронов из первых 10 сессий. Более ярким цветом выделена предсказанная синаптическая траектория в отсутствие эмпирических данных об ответах.
Принцип свободной энергии утверждает, что подобная самоорганизация будет происходить по схеме, которая всегда минимизирует свободную энергию системы. Свободная энергия системы определяется уровнем непредсказуемости.
На психологическом уровне этот феномен выражается, например, в чувстве тревоги — чем больше неопределенность, тем выше уровень нашей тревожности. Представьте, что вы ждете возвращения ребенка вечером домой. Он не приходит, а его мобильник молчит. Это состояние высокой определенности. Мозг старается избегать таких ситуаций. Когда окружающая действительность не соответствует нашим прогнозам, появляется психическое состояние, задачей которого является обновление входящих сенсорные данных либо за счет активных действий по изменению мира, либо за счет изменения прогноза (то есть модели). То есть, вы либо отправляетесь искать ребенка (действия по изменению мира), либо ложитесь спать (изменение модели).
Чтобы определить, является ли этот принцип движущей силой обучения нейронных сетей, команда использовала реальные нейронные данные для создания на их основе прогностической модели. Затем они загрузили в модель данные первых 10 сеансов обучения на электродах и использовали их для прогнозирования следующих 90 сеансов.
На каждом этапе модель точно предсказывала ответы нейронов и силу связи между ними. Это означает, что достаточно знать начальное состояние нейронов, чтобы определить, как будет меняться сеть с течением времени по мере обучения.
«Наши результаты позволяют предположить, что принцип свободной энергии является принципом самоорганизации биологических нейронных сетей», — говорит Исомура. — «Принцип предсказал, как происходит обучение при получении определенных сенсорных входов и как оно нарушается при изменении возбудимости сети под действием лекарств».
«Хотя это займет некоторое время, в конечном итоге наша методика позволит моделировать механизмы психических расстройств и действие таких препаратов, как психоделики», — говорит Исомура. — «Общие механизмы получения прогностических моделей могут быть также использованы для создания искусственных интеллектов нового поколения, обучающихся так же, как биологические нейронные сети».