д.б.н. Лавров В.В., д.т.н. Рудинский А.В.

НЕЙРОСЕТЕВАЯ МОДЕЛЬ ТРАНСФОРМАЦИИ ПАМЯТИ ПРИ ИЗМЕНЕНИИ ВЕСА ИНФОРМАЦИИ

Институт физиологии им. И.П. Павлова РАН, Центр системного обучения и консультирования "Synergia", г. Санкт Петербург, Россия

Вопрос о механизмах, управляющих переходом информации, хранящейся в памяти, из одной категории (буферной, эпизодической, кратковременной, долговременной и рабочей памяти) в другую, составляет основополагающую проблему психофизиологии. Важность вопроса обусловлена не только тем, что он касается прочности памяти и степени ее доступности для считывания, но и тем, что затрагивается проблема формирование ассоциаций и целостных образов из информационных фрагментов, записанных в разных структурах нейронной сети. Необходимо найти объяснение с помощью универсальной модели, построенной с учетом модульной организации гетерогенных нейронных сетей, состоящих из нейронов со специфическими и неспецифическими функциями. Центральным элементом модуля выступает интегрирующий нейрон, обеспечивающий выход информации из модуля и включение модуля в ту или иную функциональную систему [1]. Источником передаваемой информация служит память специфических нейронов модуля. Актуальность памяти меняется по мере участия в разных поведенческих актах, и понятно, что необходима целесообразная селекция, поскольку фрагменты информации, важные в одном случае, могут иметь нулевой вес в другом случае, когда выполняется другой акт. Необходимость регуляции веса информационных фрагментов становится очевидной еще и потому, что «пересортировка» памяти сопряжена с постоянным поступлением информации, неизбежно переполняющей ресурсы памяти. То есть, по всей видимости, помимо регистратора, необходимо иметь регулятор стирания памяти и восстановления следов памяти в соответствии с поведенческой ситуацией. Исследования [4-6] подтверждают предположение о совмещении специфических и неспецифических элементов в едином функциональном модуле, обеспечивающем запись фрагментов информации в соответствии с их весом, который определяется значением информации для принятия поведенческого решения. Цель данной работы заключалась в моделировании процесса управления памятью в гетерогенной нейронной сети с учетом изменения весовых параметров зарегистрированных фрагментов информации.

Формируя модель, обратили внимание не гетерогенность нейронных популяций, исходя из представлений [2-6], что функциональной единицей мозга является нейронный модуль, состоящий из популяции неоднородных (дифференцированных по своей функциональной роли) нервных клеток. Примером такого модуля может служить большой пирамидный нейрон (БПН) с группой сервисных клеток. БПН обладает следующими свойствами, указывающими на ведущее положение в модуле: имеет наибольшую разветвленность дендритов, апикальный дендрит БПН проходит через весь поперечник коры, что позволяет собирать информацию от нейронов всех слоев; БПН имеет максимальный набор функциональных блоков, в том числе – аксошипиковый аппарат и запрещающие синапсы на аксонном холмике. Затем сконцентрировали внимание на принципе целесообразной фрагментации сенсорной информации. Имеется в виду, что нейронная сеть не просто воспринимает потоки информации от рецепторов, а вначале создает запрос, после чего фильтрует входные потоки информации, отбирая и фрагментируя в соответствии с запросом [5, 7-9].

Переходя к алгоритмическому выражению модели памяти, учитывали динамичность памяти в процессе принятия решения. Представим принятие решения как процесс объединения наличного количества фрагментов.

,                                                               (1)

где пределы у символа объединения относятся к индексу фрагмента (inf) – n. Примем в качестве одного из условий свойство постоянства фрагмента во времени и рассмотрим величину Azn как абсолютно правильное решение. Тогда текущий уровень обработки данных можно представить как:

,                  (2)

где  - вес фрагмента с номером n на данный момент времени.

Отметим, что , причем значение  свидетельствует о том, что в момент времени t нет данных о значимости фрагмента . Как только будут получены данные для этого  , его вес станет .

Формула (2) отражает тот факт, что весовые коэффициенты обусловлены оценкой, производимой с учетом значимости для принятия решения. Очевидно, что в процессе принятия решения доступная информация не просто фильтруется – производится целенаправленный отбор и «взвешивание». Чем больше значимость, тем более она детализируется, тем больше ее вес.

Итак, оценка весов фрагментов информации и установление корреляционных отношений с предыдущими оценками, которые зафиксированы в памяти, служит базисным моментом в процессе принятия решения и одновременно создает субстрат ассоциаций. Принятие решения можно представить в виде дискретного процесса весовой оценки фрагментов (с номером – i), характеризующих состояние объекта (c номером – j) в виде следующей записи:

                      (3)

Формула (3) отражает тот факт, что в ходе принятия решения взвешенно отбираются фрагменты, которые свидетельствуют о ситуации. Понятно, что при обновлении ситуации не экономно сохранять в памяти прежние весовые значения и выделять большой объем памяти для поддержания на высоком уровне информации, потерявшей актуальность. Исследователи не дают ответа на вопрос, как обеспечивается трансформация памяти из разряда актуальной в неактуальную и обратно в соответствии с требованиями ситуации. Предполагается, что память просто стирается под влиянием времени, в то время как следует предусмотреть целесообразное управление памятью и дифференцированный сдвиг весовых параметров вследствие изменения ситуации. При выполнении решения в момент времени  запускается процесс обновления памяти. Процесс забывания (уменьшения веса и размеров фрагментов, хранящихся в памяти) может протекать пассивно вследствие изменения структур памяти под влиянием времени, или активно под контролем регулятора.

В соответствии с первым правилом Иоста (цитировано по [3]) и формулой (3) определим процесс забывания информации как:

           (4)

где:  - время забывания;  - постоянная дисконтирования.

Из формулы (4) следует, что информация, находясь в памяти, может изменяться, но не исчезает, поскольку экспоненциальная функция не достигает нулевого значения. Соответственно, процесс забывания, сопровождающийся постепенным уменьшением объема и весов фрагментов, хранящихся в памяти, выражается в уменьшении суммарной оценки веса объекта в памяти, вследствие чего память переходит в подпороговую область. Такой переход не означает, что фрагмент памяти осуществляет «дрейф» по структурам, служащим субстратом памяти. Переход из одной категории памяти в другую обусловлен изменением состояния ячейки памяти, в которой хранится фрагмент. По всей видимости, порог забывания определяется потерей надежного контроля за извлечением информации из памяти. В некоторых экстренных поведенческих ситуациях информация из подпороговой памяти может стать высоко актуальной. Считывание такой информации в мозге обеспечивается интуицией и стрессом, когда мобилизуется ресурс регуляторных систем мозга.

Используя критерий весовых параметров, можно выделить ряд уровней состояния памяти. Первый уровень - рабочая (оперативная) память, воспроизводится без усилий регулятора, фрагменты имеют высокий вес и увеличенные размеры со средней весовой величиной – hnm. Второй уровень памяти, воспроизводится под контролем регулятора без напряжения, фрагменты имеют средние весовые параметры – hmp. Третий уровень памяти, фрагменты со средним весом – hpa, считывание («воспоминание») достигается после напряжения регулятора, требуется время для обнаружения требуемого фрагмента памяти и воспроизведения.

Предлагаемая модель позволяет объяснить консолидацию фрагментов, зафиксированных в пространственно-временном континууме мозга. Такая консолидация в рамках целостного образа, по-видимому, обусловлена наличием функциональных контактов (ассоциативностью) фрагментов. Понятно, что ассоциативность обеспечивается связями между структурами, содержащими запись информации. Но связи являются субстратом и не дают представления об организации процессов консолидации. Коммутационная концепция, объясняющая обучение и возникновение ассоциаций только за счет формирования (или трансформации) контактов между нейронными структурами, уступает место теории, основанной на системно-информационном подходе. Поскольку один и тот же фрагмент памяти может входить в состав разных образов, то такой фрагмент, с одной стороны, функционально связан с этими образами, а с другой стороны, устанавливает ассоциацию образов, в состав которых входит. Можно полагать, что чем выше вес такого фрагмента, общего для образов, тем прочнее ассоциация образов. Соответственно, субстратом ассоциативной памяти служит не просто комплекс контактов нейронов, а система тех фрагментов, которые входят в состав ряда образов. Ассоциативные области мозга, как и специфические анализаторные, насыщены неспецифическими регуляторными элементами, что указывает на их важную роль в процессах консолидации фрагментированной информации.

Таким образом, предложена принципиально новая модель системы памяти, в основе функциональной организации которой лежит принцип весового различия регистрируемой информации. Модель, учитывающая дискретность информации и ее избирательность, объясняет совмещение регистраторов фрагментов и регуляторов в едином блоке.

 

Литература:

1.   Анохин П.К. Очерки по физиологии функциональных систем.- М.: Медицина. 1985. 444 с.

2.  Вальцев В.Б., Лавров В.В., Рудинский А.В. Модель отношений неоднородных нейронов в процессе адаптации нейросетей к изменению ситуации//"Нейрокомпьютеры и их применение", VII Всероссийская научно-техническая конференция, ИПУ, Москва, 2002 г., ISBN5-201-14-935-9.

3.  Ермоленко А.С., Рудинский А.В., Сиек Ю.Л. О применении гетерогенных нейронных сетей при построении классификаторов морских объектов// В сб.: "Нейроинформатика и ее приложения". Красноярск: 2002. С. 23-25.

4. Лавров В.В. Мозг и психика. СПб. 1996. 156 с.

5.   Лавров В.В., Вальцев В.Б. Целесообразное фрагментирование информации на входе в мозг//Информационные технологии. 2006, № 2. C. 22-29.

6.  Лавров В.В., Рудинский А.В. Организация целостной деятельности микро- и макросистемных нервных образований и гетерогенные нервные сети// В сб.: «Нейроинформатика-2003». Т.1, Москва. 2003. С.19-23.

7.  Brewer J. B., Zhao Z. Making memories: Brain activity that predicts how well visual experience will be remembered// Science, 1998, V 281, N 5380, P. 1185-1187.

8.  Hoffman K.L., McNaughton B.L. Sleep on it: cortical reorganization after-the-fact// Trends in Neurosci., 2002, V 251. Р. 1-2.

9.  Iba M., Sawaguchi T. Neuronal activity representing visuospatial mnemonic processes associated with target selection in the monkey dorsolateral prefrontal cortex// Neuroscience Research, 2002, V 43, N1. P. 9-22