Устройство для моделирования самоорганизующихся сетей неформальных нейронов



Устройство для моделирования самоорганизующихся сетей неформальных нейронов
Устройство для моделирования самоорганизующихся сетей неформальных нейронов
Устройство для моделирования самоорганизующихся сетей неформальных нейронов
Устройство для моделирования самоорганизующихся сетей неформальных нейронов

 


Владельцы патента RU 2484527:

Бобровников Леонид Вячеславович (RU)

Изобретение относится к медицинской кибернетике, бионике, нейроинформатике, в частности к области разработки сетевых систем для моделирования нейрофизиологических процессов, а также к созданию информационно-управляющих устройств и биотехнических комплексов двигательной регуляции. Техническим результатом является повышение точности нейросетевого моделирования с учетом реальных свойств нейронов головного мозга человека и животных; лучшее понимание процессов, происходящих в нейроне-прототипе, а также использование воспроизведенных процессов обработки сигналов в нервных клетках для создания искусственных интеллектуальных систем. Устройство содержит совокупность нейроподобных элементов, каждый из которых содержит блоки изменения синаптических весов, сумматор, компаратор, преобразователь, генератор случайных чисел, умножитель, блок импульсного стробирования и блок пролонгации, управляющий компаратором, а также сумматор с контуром положительной обратной связи. 4 ил.

 

Область техники, к которой относится изобретение

Изобретение относится к медицинской кибернетике, бионике, нейроинформатике, в частности к области разработки сетевых систем для моделирования нейрофизиологических процессов, а также созданию информационно-управляющих устройств и биотехнических комплексов двигательной регуляции.

Уровень техники

Аналогом изобретения является устройство для моделирования нейронных сетей, представляющее собой группу синаптически связанных между собой формальных нейронов, имитирующих свойства реальной (биологической) нервной системы [1, 2]. Каждый из формальных нейронов сети обладает набором однонаправленных входных связей (синапсов), а также имеет выходную связь (аксон), через которую сигнал от него поступает на синапсы следующих нейронов или на вход исполнительных элементов (аналогов двигательных единиц). Каждый синаптический вход умножается на определенный вес, соответствующий величине эффективности синапса, затем все произведения суммируются и подаются на один из входов компаратора, порог срабатывания которого определяется амплитудой управляющего сигнала, подаваемого на другой его вход. Общий вид формального нейрона, реализующего набор указанных свойств, приведен на фиг.1. Здесь множество входных сигналов обозначены вектором X. Каждый вес Wi (1) соответствует эффективности одной синаптической связи. Выход сумматора 2 подключен к одному из входов компаратора 3, пороговые характеристики которого задаются сигналом X0, подаваемым на другой (управляющий) его вход. Преобразователь 4 определяет терминальные параметры процесса генерации нейроном потенциалов действия [f(u)].

С существенными признаками изобретения совпадает следующая совокупность признаков аналога: «каждый из нейронов сети обладает набором однонаправленных входных связей (синапсов), а также имеет выходную связь (аксон), через которую сигнал от него поступает на синапсы следующих нейронов или на вход исполнительных элементов (аналогов двигательных единиц). Каждый синаптический вход умножается на определенный вес, соответствующий величине эффективности синапса, затем все произведения суммируются и подаются на один из входов компаратора, порог срабатывания которого определяется амплитудой опорного сигнала, подаваемого на другой (управляющий) его вход».

Недостатком аналога является неполнота моделирования биологического прототипа, а именно, отсутствие у формальной модели нейрона ряда базовых функциональных свойств реальной нервной клетки. Особого внимания в этом плане заслуживают: стохастический (вероятностный) характер зависимости импульсной активности биологического нейрона от параметров поступающего к нему синаптического притока [3], наличие функциональных обратных связей в центральных и периферических синапсах химического типа [4]; существование внутринейронных (эндогенных) механизмов генерации потенциалов действия [5]; оперантная детерминированность процесса формирования эндогенных паттернов нейронной активности [6]; системообразующая роль суммарного результата деятельности системы в детерминации функций отдельных ее элементов [7].

Прототипом изобретения является «Устройство для моделирования нейрона» (Брюхомицкий Ю.А. Авт. свид. N1709356 A1, (SU) G06G 7/60 (1989)) [8], которое позволяет повысить достоверность моделирования нейронных сетей за счет представления протекающих в них процессов в виде переменных стохастических последовательностей.

С существенными признаками изобретения совпадает следующая совокупность признаков прототипа: «в устройство, содержащее блоки изменения синаптических весов, первые входы которых являются входами устройства, пространственный сумматор, входы которого подключены к выходам блоков изменения синаптических весов, введены … компаратор, логический блок и генератор случайных чисел».

Недостатком прототипа также является несоответствие ряда существенных его характеристик основополагающим принципам функционирования реальных нейронов и их сетей. Прежде всего, это игнорирование системообразующей роли суммарного результата деятельности мультинейронных систем в процессах их формирования [7] и исключение механизма синаптических обратных связей [4].

Устранение недостатка может быть достигнуто за счет того, что на вход порогового устройства (компаратора) подается сигнал не с выхода сумматора синаптических весов, а с выхода умножителя, осуществляющего функцию модуляции синаптического сигнала стохастическим потоком случайных чисел. Соответственно, на другой (управляющий) вход компаратора подается стробированный потенциалами действия нейрона сигнал с выхода второго (системного) сумматора, на N входов которого поступают потенциалы действия всех N нейронов сети. В результате, на выходе каждого из нейронов формируется последовательность потенциалов действия, вероятность генерации каждого из которых зависит не только от текущих параметров синаптического притока, но и от амплитуды терминальной активности всей нейронной сети в целом.

Сущность изобретения

Задачей, на решение которой направлено изобретение, является разработка биологически правдоподобной модели нейронной сети («сети неформальных нейронов»), учитывающей весь комплекс существенно значимых функциональных признаков биологического прототипа.

При осуществлении изобретения могут быть получены следующие результаты:

А. Повышение точности нейросетевого моделирования с учетом реальных свойств нейронов головного мозга человека и животных.

Б. Лучшее понимание процессов, происходящих в нейроне-прототипе.

В. Использование воспроизведенных процессов обработки сигналов в нейроне для создания искусственных интеллектуальных систем.

Указанные технические результаты достигаются за счет того, что в состав известного устройства, содержащего блоки изменения синаптических весов 1, сумматор 2, компаратор 3, преобразователь 4, генератор случайных чисел 5, вводят умножитель 6 и второй (системный) сумматор 9, на N входов которого поступают выходные сигналы N нейронов (поз.А), а выход сумматора через индивидуальный для каждого нейрона блок импульсного стробирования 7 и блок пролонгации 8 подключают к управляющему входу компаратора 3 (фиг.2).

Признаки, отличающие изобретение от наиболее близкого аналога, выражаются следующей совокупностью признаков: «в состав известного устройства вводят умножитель и второй (системный) сумматор, на N входов которого поступают выходные сигналы N неформальных нейронов, а выход сумматора через блок импульсного стробирования и блок пролонгации подключают к управляющему входу компаратора».

С целью повышение эффективности моделирования, а также максимально точного отражения в рамках предлагаемой модели основных признаков ее биологического прототипа, предусмотрена возможность как избирательного, так и генерализованного синаптического воздействия на все нейроны сети.

Таким образом, задача изобретения решена.

Сведения, подтверждающие возможность осуществления изобретения

Возможность осуществления изобретения подтверждается результатами мультипараметрического компьютерного анализа [9], проведенного в среде объектно-ориентированного моделирования LabView 2010.

Полная блок-схема устройства для моделирования самоорганизующихся сетей неформальных нейронов в среде LabView представлена на фиг.3. Схема включает в себя 4 основных сектора. Первый из них (фиг.3.1) объединяет двадцать неформальных нейронов 1, выходной сигнал каждого из которых поступает на вход центрального сумматора 2 через преобразователь 3. Второй сектор блок-схемы (фиг.3.2) представляет собой устройство формирования внешнего («синаптического») сигнала управления вероятностью генерации нейроном потенциалов действия. Основным элементом здесь является «Simulate Sig» 4. Его работой через контур положительной обратной связи, идущей с выхода центрального сумматора 2 управляет виртуальный субприбор «Select» 5. Подача на его центральный (управляющий) вход сигнала логической единицы приводит к его отключению от нулевой точки (OffSet 3) и коммутации с цифровым генератором постоянного уровня синаптического притока (t).

Функцией третьего сектора (фиг.3.3) является автоматическое выключение всей системы после достижения ею результата (т.е. после формирования на выходе центрального сумматора 2 определенного паттерна эфферентных импульсов). Основным функциональным элементом здесь является RS-триггер, собранный на двух Boolean элементах «Not And» 6. Включение режима «готовность к работе» осуществляется Boolean-сигналом, идущим от включателя 7. Переход RS-триггера в альтернативное устойчивое состояние производится импульсом, поступающим с компаратора 8. И, наконец, четвертый сектор (фиг.3.4) - это усилитель-формирователь звуковых сигналов, соответствующих выходным импульсам всей системы в целом. Реализация этой функции осуществляется двумя встроенными в LabView субприборами: Simulate Sig 9 и Play Waveform 10.

Устройство работает следующим образом.

В каждой итерации каждым неформальным нейроном сети 1 (фиг.3. 1), полная внутренняя схема которого представлена на фиг.4, формируется одно случайное число и, соответственно, производится одно действие сравнения этого числа с величиной управляющего сигнала. В том случае, если случайное число оказывается меньше или равно ему, на выходе компаратора появляется короткий импульс логической единицы. В противном случае - на его выходе сохраняется логический нуль. Для формирования стохастической последовательности импульсов используется генератор потока случайных чисел двойной точности {Random Number} 2, величиной от 0 до 1 (фиг.4). Выход Random-генератора 2 через умножитель 3 подключен к компаратору 4 {Less or Equal}, на другой вход которого через блок Select 5 подается управляющий (пороговый) сигнал.

После запуска устройства, в какие-то моменты в результате случайного совпадения во времени генерации потенциалов действия разными нейронами сети на ее выходе появляются высокоамплитудные суммарные импульсы. Автоматическая регистрация моментов их появления и положительное «подкрепление» создающих эти числовые аномалии элементов системы осуществляется с помощью логического блока 6. Суть его работы сводится к тому, что каждый нейрон сети каждым генерируемым им импульсом не только привносит свой микро вклад в общий суммарный выход системы, но и всякий раз стробирует («прозванивает») текущее состояние этого выхода. В результате, возникновение любой высокоамплитудной флуктуации регистрируется только теми элементами, импульсная активность которых и привела к ее формированию.

При определении режима обратной связи учитывались результаты экспериментов по оперантному обусловливанию разрядной деятельности отдельных нервных клеток [6]. В рассматриваемом устройстве (фиг.4) реализация принципа оперантной детерминации осуществлялась следующим образом. До момента достижения амплитуды выходного сигнала верхнего порогового значения 8 система работает в своем обычном режиме генерации стохастического потока импульсов. В случае любого его превышения, собранный на двух элементах «Not And» RS-триггер 6 переводится потенциалом действия нейрона в альтернативное устойчивое состояние. В результате на управляющем входе соответствующего компаратора, вместо непрерывно меняющегося сигнала суммарного выхода системы, пролонгируется («зависает») его пиковый уровень, который сохраняется до момента генерации нейроном очередного потенциала действия, но уже на низком уровне 7 сетевой активности. Одновременное развитие указанных процессов в разных каналах устройства приводит к тому, что образующие систему элементы переходят в режим кооперативной (согласованной) деятельности. На уровне входного звена нейросети это проявляется в форме возникновения особой функциональной обратной связи, в рамках которой импульсный выход неформальных нейронов начинает активно влиять на весовые параметры поступающих к ним внешних сигналов.

Возможность осуществления изобретения с реализацией указанного назначения подтверждается известностью средств и методов получения устройств. Результаты тестирования рассмотренной выше модели, а также ряда других разработанных на ее основе приборов, представлены в монографии «Основы квантовой синергетики функциональных систем, ч.II» (ISBN 078-5-91506-026-4. Москва. 2011 г. автор: Бобровников Л.В.).

Таким образом, подтверждена возможность осуществления изобретения.

Техническими результатами изобретения являются: повышение точности нейросетевого моделирования с учетом реальных свойств нейронов головного мозга человека и животных; лучшее понимание процессов, происходящих в нейроне-прототипе, а также использование воспроизведенных процессов обработки сигналов в нервных клетках для создания искусственных интеллектуальных систем.

Источники информации

1. Мак-Каллок У., Питтс В. Логическое исчисление идей, относящихся к нервной активности // Нейронные сети: история развития теории. Под ред. Галушкина А.И., Цыпкина Я.З. ИПРЖР. 2001. С.5-22.

2. Редько В.Г., Янушевский И.А. Формальный нейрон. Авт. свид. N1013984 A (SU) 00667/60 (1983).

3. Burns B.D. The uncertain nervous system. 1968. London. Ed.: E.Arnold. 263 p.

4. Матюшкин Д.П. Обратные связи в синапсе. Л.: Наука. 1989.

5. Пейсмекерный потенциал нейрона. Под ред. Соколова Е.Н. Тбилиси. 1975.

6. Stein L, Belluzzi J.D. Operant conditioning of individual neurons. In: M.L.Commons, R.M.Church, J.R.Stellar, A.R.Wagner (Eds.). Quantitative analyses of behavior. V.7. Biological determinants of reinforcement and memory 1988. (pp.249-264). Hillsdale, NJ: Erlbaum.

7. Анохин П.К. Системный анализ интегративной деятельности нейрона - Успехи физиологических наук. 1974. Т.5. №2. с.5-92.

8. Брюхомицкий Ю.А. Устройство для моделирования нейрона. Авт. св. N1709356 A1 (SU) G06G 7/60 (1989).

9. Бобровников Л.В. Основы квантовой синергетики функциональных систем, ч.II». ISBN 078-5-91506-026-4. Москва. 2011. 162 с.

Устройство для моделирования самоорганизующихся сетей неформальных нейронов, включающее в себя совокупность нейроподобных элементов, каждый из которых содержит блоки изменения синаптических весов, сумматор, компаратор, преобразователь и генератор случайных чисел, отличающееся тем, что в состав каждого элемента сети входит умножитель, который модулирует синаптический сигнал импульсами генератора случайных чисел и направляет образующийся таким способом стохастический импульсный поток на вход общего для всех сетевых нейронов сумматора с контуром положительной обратной связи, через которую общий выходной сигнал системы после его индивидуального стробирования потенциалами действия отдельных нейронов с последующей программируемой пролонгацией распределяется по управляющим входам их компараторов.



 

Похожие патенты:

Изобретение относится к аналогово-цифровым управляющим устройствам и может быть использовано при создании сложных многопараметрических систем автоматического управления различными объектами и технологическими процессами, позволяющих объекту изменять свою реакцию в зависимости от изменения характера внешних влияющих факторов, в системах распознавания образов, в робототехнике, а также для моделирования мозга человека.

Изобретение относится к вычислительной технике и может быть использовано при создании вычислительных средств для систем управления высокоманевренными объектами авиационной и ракетно-космической техники, где требуется быстрое вычисление функций, например тригонометрических, используемых в матричных преобразованиях при решении задач формирования инерциальной системы координат по информации датчиков угловых скоростей, а также при решении задачи сохранения работоспособности вычислителей при изменениях параметров элементов БИС из-за действия ионизирующих излучений естественного или искусственного происхождения.

Изобретение относится к области компьютерных сетей. .

Изобретение относится к нейрокибернетике и может быть использовано в искусственных нейронных сетях при решении различных задач обработки данных, таких как обработка изображений и распознавание образов, предсказание сигналов.

Изобретение относится к вычислительной технике и может быть использовано для построения модулярных нейрокомпьютеров, функционирующих в симметричной системе остаточных классов.

Изобретение относится к нейрокомпьютерам. .

Изобретение относится к вычислительным модулярным нейрокомпьютерным системам. .

Изобретение относится к нейроподобным вычислительным структурам и может быть использовано в качестве процессора вычислительных систем с высоким быстродействием.

Изобретение относится к области устройств преобразования кода в частоту. Техническим результатом является реализация различных функциональных зависимостей выходной частоты от входного кода и улучшение способности преобразователя корректировать мультипликативную составляющую погрешности датчиков. Устройство содержит два сумматора, два элемента ИЛИ, два элемента задержки, счетчик, дешифратор, память кодов, четыре элемента И, блок памяти весовых коэффициентов, блок обучения, блок памяти весовых коэффициентов, блок обучения, умножитель, блок выбора функции активации. 2 табл., 1 ил.

Изобретение относится к вычислительной технике и может быть использовано при создании бесплатформенных инерциальных систем, входящих с состав систем автоматического управления высокоманевренными судами, объектами авиационной техники, изделиями ракетно-космической техники и космическими аппаратами в частности, а также мобильными робототехническими комплексами, особенностью которых является обеспечение работоспособности в экстремальных условиях. Техническим результатом является повышение быстродействия матричных вычислений. Устройство содержит блок микропрограммного управления, два блока матричных нейропроцессоров, операционное устройство, матричное запоминающее устройство, источник вторичного электропитания, блок связи, запоминающее устройство санкционированного доступа, датчик внешнего воздействия. 22 з.п. ф-лы, 20 ил.

Изобретение относится к области медицины: в хирургии, онкологии, в частности к способу прогнозирования течения раннего послеоперационного периода у больных с осложнениями рака прямой кишки и средству для его осуществления. Сущность способа: осуществляют анализ клиническо-анамнестических и лабораторных данных субъекта: пол, возраст, срок установления онкологического диагноза, тип осложнения, степень распространенности опухоли по TNM классификации, стадия опухоли, сопутствующая патология, ранее проведенное лечение, показатели общего анализа крови, общего анализа мочи, показатели биохимического анализа крови, а также данные УЗИ, фиброколоноскопии, вид операции. Анализ осуществляют с помощью искусственной нейронной сети, которая представляет собой сеть прямого распространения с тремя слоями нейронов: в первом слое 4 нейрона, во втором - 2 нейрона, в третьем слое один нейрон. Нейроны слоев соединены между собой по типу «каждый с каждым». Каждый нейрон первого слоя имеет 28 синапсов, нейроны второго слоя имеют 5 синапсов, нейрон выходного слоя имеет 3 синапса. В качестве функции активации нейроны используют логистическую функцию. Нейронная сеть делит пространство входных сигналов на две группы и относит значение ниже 0,5 к неблагоприятному течению раннего послеоперационного периода, а при значении выше чем 0,5 - к группе с благоприятным течением. Положительный эффект: предлагаемый способ является простым, экономичным по сравнению с большинством имеющихся методов, он не инвазивен, основан на анализе полученных данных в результате стандартного предоперационного обследования пациента и не требует проведения дополнительных методов диагностики, а это, в свою очередь, повысит уровень достоверности, объективизации и при необходимости коррекцию лечения. 2 пр., 2 ил.

Изобретение относится к вычислительной технике и может быть использовано при построении систем обработки информации в нейросетевом базисе, в том числе для распознавания образов (классификации). Техническим результатом является возможность обеспечения многопараметрической классификации. Устройство содержит блок входных сигналов, узлы умножения входной величины на весовой коэффициент, сумматор, блок функции активации, каждый узел умножения входной величины на весовой коэффициент включает умножитель входного сигнала на весовой коэффициент и блок формирования весового коэффициента, включающий блок сравнения входной и пороговых величин, ячейки памяти постоянного запоминающего устройства, с записанными в них пороговыми величинами, коммутатор, ячейки памяти постоянного запоминающего устройства с записанными в них весовыми коэффициентами. 2 ил.

Группа изобретений относится к средствам формирования изображений. Технический результат заключается в создании устройства распознавания изображений, имеющего чувствительную площадку, непосредственно встроенную в прозрачный или полупрозрачный материал, образующий оптический интерфейс. В изобретении на основе применения фоточувствительных элементов, встроенных или внедренных в прозрачную или полупрозрачную подложку, или на подложку, например, из стекла или пластика. Сама подложка может выполнять функцию оптического устройства, фокусирующего падающие фотоны, относящиеся к получаемому изображению, на фоточувствительные элементы. Цифровая память нейронов может быть обучена распознаванию объектов в соответствии с падающими фотонами. Фоточувствительные элементы и элементы цифровой памяти нейронов могут быть скомбинированы со светоизлучающими элементами, управляемыми в соответствии с распознанными образами. В одном применении интеллектуальные светоизлучающие узлы излучают свет, проводя мониторинг окружающего пространства и (или) регулируя свет в соответствии с окружающим пространством. В другом применении интеллектуальные дисплеи воспроизводят изображения, и (или) видеоизображение, проводя мониторинг окружающего пространства и (или) изменяют воспроизводимые изображения и (или) видеоизображения в соответствии с этим окружающим пространством. 5 н. и 63 з.п. ф-лы, 29 ил.
Наверх