Способ интеллектуальной обработки информации в нейронной сети



Способ интеллектуальной обработки информации в нейронной сети
Способ интеллектуальной обработки информации в нейронной сети
Способ интеллектуальной обработки информации в нейронной сети
Способ интеллектуальной обработки информации в нейронной сети
Способ интеллектуальной обработки информации в нейронной сети

 


Владельцы патента RU 2514931:

Осипов Василий Юрьевич (RU)

Изобретение относится к бионике, моделированию функциональных аспектов человека и может найти применение в вычислительной технике при построении интеллектуальных машин и систем. Техническим результатом является повышение глубины и интеллектуальности обработки информации. Сущность способа в том, что в многослойную рекуррентную нейронную сеть с управляемыми синапсами в качестве сигнала, предварительно разложенного на составляющие, с каждой составляющей, преобразованной в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей, подают групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного маломощного шума, и из второй такой же части этого шума. Представляют групповой сигнал в виде последовательных групповых совокупностей единичных образов. При передаче от слоя к слою групповых совокупностей единичных образов копируют из сигнально-шумовых групп единичные образы, относящиеся к полезному сигналу, в соответствующие этим группам шумовые группы. Формируют из шумовых групп копии сигнально-шумовых групп единичных образов и обрабатывают эти копии с учетом изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев. 7 ил.

 

Изобретение относится к бионике, моделированию функциональных аспектов человека и может найти применение в вычислительной технике при построении интеллектуальных машин и систем.

В настоящее время известны многие способы интеллектуальной обработки информации в нейронной сети, применяемые для аппроксимации, классификации, распознавания образов, обработки речи, прогнозирования, идентификации, оценивания производственных процессов, ассоциативного управления и для решения других творческих задач (Хайкин С.Нейронные сети: полный курс, 2-е издание.: Пер. с англ. М.: Издательский дом «Вильяме», 2006. - 1104 с.; Галушкин А.И. Теория нейронных сетей. Кн. 1: Учебное пособие для вузов / Общая ред. А.И.Талушкина. - М.: ИПРЖР, 2000. - 416 с.).

Однако всем им характерны узкие возможности по запоминанию структурно-сложных изменяющихся во времени сигналов, их распознаванию, ассоциированию с другими сигналами, извлечению из памяти сети и воспроизведению в исходной форме. Они не позволяют при обработке информации решать широкий спектр задач одной и той же нейронной сетью.

Наиболее близким аналогом изобретения является способ интеллектуальной обработки информации в многослойной нейронной сети с обратными связями, замыкающими контуры с временем задержки единичных образов меньше времени невосприимчивости нейронов сети после их возбуждения. Согласно ему сигнал подают в сеть после разложения на составляющие в базисе, согласованном с входным слоем сети. При этом каждую составляющую перед подачей в сеть преобразуют в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей. Сигнал представляют в сети в виде последовательных совокупностей единичных образов в соответствии с предварительно заданными правилами его распознавания с учетом обратных результатов распознавания. При передаче совокупностей единичных образов от слоя к слою их сдвигают вдоль слоев с учетом текущих состояний последних. Результаты распознавания запоминают на элементах сети. В качестве результатов обработки используют последовательные совокупности единичных образов на выходном слое сети после обратного преобразования в соответствующие им исходные сигналы (Осипов В.Ю. Ассоциативная интеллектуальная машина / Информационные технологии и вычислительные системы. №2, 2010, С.59-67).

Недостатком этого способа является то, что согласно ему нейронная сеть не может воспринимать одно, а выдавать в качестве результатов обработки совершенно другое, слабо связанное с входными текущими сигналами, как это может делать человек. Результаты обработки информации в сети по времени тесно связаны с входными сигналами. Сеть функционирует как ассоциативная память. В известном способе входные сигналы вызывают из долговременной памяти сети связанные с ними запомненные сигналы и вместе представляют результаты обработки. Долговременная память сети - это память на синапсах. Оперативная память сети - это память на самих нейронах. Согласно этому способу продолжительные входные сигналы подавляют возможности сети по обработке обратных результатов распознавания. Это существенно ограничивает глубину обработки информации. Под глубиной обработки понимается время, в течение которого сеть способна обрабатывать при непрерывном входном потоке отдельно выделенный в нем короткий сигнал.

В целом эти недостатки существенно ограничивают функциональные возможности способа по интеллектуальной обработке информации.

Задачей изобретения является расширение функциональных возможностей по интеллектуальной обработке информации в нейронной сети.

Технический результат от использования изобретения заключается в повышении глубины и интеллектуальности обработки информации в нейронной сети.

Поставленная задача решается тем, что в известном способе интеллектуальной обработки информации в нейронной сети, заключающемся в подаче в многослойную рекуррентную сеть с обратными связями, замыкающими контуры с временем задержки единичных образов меньше времени невосприимчивости нейронов сети после их возбуждения, сигнала, разложенного на составляющие в базисе, согласованном с входным слоем сети, с каждой составляющей, преобразованной в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей, представлении сигнала в виде последовательных совокупностей единичных образов в соответствии с предварительно заданными правилами его распознавания с учетом обратных результатов распознавания, сдвигах совокупностей единичных образов вдоль слоев с учетом текущих состояний слоев, запоминании результатов распознавания на элементах сети, использовании в качестве результатов обработки последовательных совокупностей единичных образов на выходном слое сети после обратного преобразования в соответствующие им исходные сигналы, согласно изобретению в сеть в качестве сигнала подают предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума, при передаче от слоя к слою групповых совокупностей единичных образов, каждая из которых состоит из сигнально-шумовой группы и шумовой группы единичных образов, копируют из сигнально-шумовых групп единичные образы, относящиеся к полезному сигналу, в соответствующие этим группам шумовые группы, формируют из шумовых групп копии сигнально-шумовых групп единичных образов и обрабатывают эти копии с учетом изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев.

Результаты биологических исследований свидетельствуют, что обработка внешних сигналов мозгом человека осуществляется при наличии внутренних шумов. При этом внутренние шумы так же, как и внешние полезные сигналы, стимулируют работу мозга.

С учетом этого автор изобретения предлагает в сеть в качестве сигнала подавать предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума, что является новым существенным признаком изобретения.

Другим новым существенным признаком изобретения выступает то, что при передаче от слоя к слою групповых совокупностей единичных образов, каждая из которых состоит из сигнально-шумовой группы и шумовой группы единичных образов, копируют из сигнально-шумовых групп единичные образы, относящиеся к полезному сигналу, в соответствующие этим группам шумовые группы.

Третьим новым существенным признаком изобретения выступает то, что предлагается формировать из шумовых групп копии сигнально-шумовых групп единичных образов и обрабатывать эти копии с учетом изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев.

Сущность изобретения поясняется фиг.1÷4.

На фиг.1 приведена структурная схема двухслойной рекуррентной нейронной сети с управляемыми синапсами, реализующей предложенный способ, где 1, 5 - первый, второй слои нейронов; 2, 6 - первый, второй блоки единичных задержек; 3, 4 - первый, второй блоки динамических синапсов; 7 - блок управления синапсами.

На фиг.2 а, б представлен пример логической структуры этой рекуррентной нейронной сети со сдвигами групповых совокупностей единичных образов вдоль слоев. Фиг.2а - вид сверху на сеть со спиральной схемой продвижения совокупностей единичных образов вдоль слоев, а фиг.2б - разрез сети по двум слоям по первой строке, где d, q - величины единичных сдвигов совокупностей, соответственно, по координатам X, Y; 1.1 и 1.2, 2.1 и 2.2, 3.1 и 3.2,……,L.1 и L.2, ML.1 и ML.2 - одинаковые подполя, соответственно, первого, второго, третьего и других полей, формируемых за счет сдвигов групповых совокупностей единичных образов вдоль слоев при передаче от слоя к слою. Стрелками на фиг.2 а, б показаны направления продвижения совокупностей единичных образов и составляющих их сигнально-шумовых и шумовых групп.

На фиг.3 а, б приведен пример групповой совокупности единичных образов до передачи от одного слоя к другому (фиг.3а) и после передачи (фиг.3б), поясняющий формирование копий сигнально-шумовых групп единичных образов.

На фиг.4 показаны примеры сглаженных ориентированных на 90° в плоскости принимающего слоя эллиптических форм поперечных сечений расходящихся единичных образов, где 1 - нейрон передающего слоя, формирующий единичный образ, относящийся к сигнально-шумовой группе; 2 - нейрон передающего слоя, формирующий единичный образ, относящийся к шумовой или к копии сигнально-шумовой группы; 3, 4 - короткие синапсы, для которых функция ослабления равна единице; 5 - ось максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа, передаваемого от нейрона 1 в направлении нейрона 7; 7, 9 - нейроны принимающего слоя, в направлении которых, соответственно, от нейрона 1 и нейрона 2 передаются расходящиеся единичные образы; 8 - штрихпунктирная линия, разделяющая поля принимающего слоя на подполя; 10 - направления поворота оси максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа. Точками, вокруг которых осуществляются повороты, в рассматриваемом случае выступают нейроны 7 и 9, в направлении которых, соответственно, от нейрона 1 и нейрона 2 передаются расходящиеся единичные образы; 11 - линия, разделяющая строки полей принимающего слоя сети; d, q - величины единичных сдвигов совокупностей, соответственно, по координатам X, Y. На фиг.4 показаны два поля принимающего слоя сети. Верхнее поле относится к одной строке, а нижнее - к другой. Полагается, что продвижение групповых совокупностей единичных образов, с учетом фиг.2, вдоль верхней строки осуществляется слева направо, а нижней - справа налево.

На фиг.5 приведен этот же пример, но с ориентацией эллиптических форм поперечных сечений расходящихся единичных образов на 180°. Под ориентацией этих форм понимается ориентация распределения плотности мощности (угол между осью у лабораторной системы координат и осью максимальной протяженности распределения плотности мощности). Обозначения, приведенные на фиг.5, такие же, как и на фиг.4.

Способ осуществляется следующим образом.

Рассмотрим его на примере нейронной сети, структурная схема которой представлена на фиг.1.

В сеть в качестве сигнала, разложенного на составляющие в базисе, согласованном с входным слоем сети, с каждой составляющей, преобразованной в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей, подают предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума. В качестве шума используют маломощный по отношению к полезному сигналу шум в полосе частот этого сигнала. Например, в качестве такого шума может выступать маломощный шум с равномерной спектральной плотностью в этой полосе. Первая и вторая части этого шума формируются путем разветвления шума от его генератора.

Такой групповой сигнал подают на первый вход первого слоя нейронной сети, который подразделяется на 1.1 и 1.2 входы. За каждым номером последовательности закрепляется в общем случае частотная и пространственная составляющая, соответствующая сигналу. Детали такого преобразования известны (Осипов В.Ю. Прямое и обратное преобразование сигналов в ассоциативных интеллектуальных машинах / Мехатроника, автоматизация, управление. №7, 2010, С.27-32).

После подачи в сеть на первый слой такого группового сигнала на выходе этого слоя имеют место последовательные групповые совокупности единичных образов, несущие всю информацию о входном сигнале и шуме. Каждая из этих групповых совокупностей состоит из сигнально-шумовой группы и шумовой группы единичных образов.

После задержки в первом блоке единичных задержек 2 последовательные групповые совокупности единичных образов поступают на первый блок динамических синапсов 3. Каждый единичный образ из текущей совокупности подается одновременно в первом блоке динамических синапсов 3 на совокупность своих динамических синапсов, обеспечивающих связь каждого нейрона, породившего единичный образ в общем случае со всеми нейронами второго слоя нейронов 5. За счет такого разветвления формируются расходящиеся единичные образы.

Особенность динамических синапсов сети в следующем. При условии, что проводимость синапсов существенно меньше входной проводимости нейронов, амплитуда тока единичного образа на выходе каждого синапса равна амплитуде напряжения входного единичного образа (импульса), умноженной на вес (проводимость) wij(t) синапса. Веса wij(t) синапсов определяются через произведение их весовых коэффициентов kij(t) и функций ослабления β(rij(t),Gij(x1t,x2t)),

wij(t)=kij(t)·β(rij(t),Gij(x1t,x2t)),

где rij(t) - удаленность связываемых через синапсы нейронов (расстояние между ними на плоскости X, Y). Полагается, что расстояние между взаимодействующими слоями нейронной сети стремится к нулю; Gij(x1t,x2t) - коэффициент направленности формы поперечного сечения расходящегося единичного образа в направлении от i-го к j-му нейрону в плоскости X, Y; x1t,x2t - текущие состояния, соответственно, первого и второго слоев на момент времени t.

Весовые коэффициенты, kij(t), изменяются в зависимости от воздействий на синапсы единичных образов и выступают в качестве элементов долговременной памяти сети. При прохождении единичных образов через синапсы они снимают с них информацию о предыдущих воздействиях и оставляют информацию о своем появлении через изменения весовых коэффициентов. Значения весовых коэффициентов kij(t) можно рассчитать по формулам: kij(t)=1-ехр(-γ·gij(t)), где γ - постоянный положительный коэффициент; gij(t) - число запомненных на соответствующем синапсе единичных образов, gij(t)=gij(t-1)+bij(t); gij(t-1) - число единичных образов, запомненных на синапсе на предыдущем временном такте; bij(t) - эффект от единичного взаимодействия нейронов на t-й момент времени. В частном случае, если i-й возбужденный нейрон передающего слоя (совместно с другими нейронами) возбуждает j-й нейрон принимающего слоя, то b i j ( t ) = A I i j + ( t ) > 0 . При невозбужденном i-м нейроне передающего слоя и возбужденном j-м нейроне принимающего слоя b i j ( t ) = D I i j ( t ) < 0 . В других случаях bij(t)=0. Здесь приняты следующие обозначения: A, D - константы; I i j + ( t ) , I i j ( t ) - положительный и отрицательный ток, протекающий через синапс, соответственно, в прямом и обратном направлении.

Каждая из связей (синапсов) имеет свое значение функции ослабления β(rij(t),Gij(x1t,x2t)) единичных образов, зависящее от удаленности rij(t) связываемых через синапсы нейронов и коэффициента направленности формы поперечного сечения расходящегося единичного образа в направлении от i-го к j-му нейрону в плоскости X, Y.

Функция β(rij(t),Gij(x1t,x2t,)) может определяться как:

β ( r i j ( t ) , G i j ( x 1 t , x 2 t ) ) = 1 1 + ϑ r i j ( t ) h / G i j ( ϕ i j + ψ ( x 1 t , x 2 t ) ) ,                           ( 1 )

где h - степень корня, чем она выше, тем шире ассоциативное пространственное взаимодействие в сети; ϑ - положительный коэффициент; φij - угол, характеризующий направление на нейрон принимающего слоя от нейрона этого слоя, в направлении которого передается расходящийся единичный образ; ψ(x1t,x2t) - угол поворота оси максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа (угол поворота расходящегося единичного образа вокруг направления его передачи). Виды предварительно заданных форм поперечных сечений расходящихся единичных образов в частном случае могут быть закреплены за номерами нейронов, формирующих эти единичные образы. В этом случае значение коэффициента Gijij+ψ(x1t,x2t)) направленности формы поперечного сечения расходящегося единичного образа зависит также от номера нейрона, формирующего единичный образ. Речь в рассматриваемом случае идет о предельно возможных формах поперечных сечений единичных образов, определяемых при условии kij(t)=1.

Входящую в (1) величину rij в единицах нейронов с учетом возможных пространственных сдвигов совокупностей единичных образов вдоль слоев сети можно выразить в виде:

r i j = ( Δ x i j + n i j d ) 2 + ( Δ y i j + m i j q ) 2 ;

nij=±0, 1,…, L-1; mij=±0, 1,…, M-1;

Δxij, Δyij - проекции связи j-го нейрона с i-м на оси X, Y без учета пространственных сдвигов; d, q - величины единичных сдвигов, соответственно, по координатам X, Y; L, М - число, соответственно, столбцов и строк, на которые разбивается каждый слой нейронной сети за счет сдвигов.

Изменяя Δxij, Δyij на соответствующие значения nij·d и mij·q можно менять rij и направление потока совокупностей единичных образов вдоль слоев сети.

Такие сдвиги совокупностей единичных образов вдоль слоев реализуются через управление динамическими синапсами с блока управления синапсами 7.

Для принятия решения в блоке управления синапсами о сдвиге очередной совокупности единичных образов, в нем сначала анализируются состояния первого и второго слоя. В случае, когда на выходе первого или второго слоя имеет место совокупность единичных образов, которую нельзя передать на другой слой по коротким связям из-за нахождения соответствующих нейронов этого слоя в состояниях невосприимчивости, осуществляют сдвиг этой совокупности. В случае, когда нет препятствий для передачи совокупности единичных образов по коротким связям, сдвиг ее не осуществляют.

Угол φij, от которого зависит Gijij+ψ(x1t,x2t)), характеризующий направление на нейрон принимающего слоя от нейрона этого слоя, в направлении которого передается расходящийся единичный образ, равен φij=arctg(Δxij/Δyij), где Δxij, Δyij - расстояния между соответствующими нейронами в плоскости X, У принимающего слоя.

Для определения Gijij+ψ(x1t,x2t)) можно предварительно задаться видами форм поперечных сечений расходящихся единичных образов. Возможны круговые, эллиптические и другие формы, без смещения и со смещением энергетических максимумов. Пусть для примера одной из них будет эллиптическая форма, изначально ориентированная по оси Y. Для этой формы каждому значению угла χ от оси Y соответствует свое значение коэффициента направленности G(χ). Эти данные по G(χ) могут выступать в качестве исходных для определения значений коэффициента Gijij+ψ(x1t,x2t)) в (1). Определение ψ(x1t,x2t) с учетом текущих состояний слоев сети осуществимо путем поиска угла, при котором на заданном интервале времени может быть достигнут максимум числа ассоциативно вызываемых из долговременной памяти сети единичных образов. С учетом инерционности этот угол можно определить путем варьирования значениями угла поворота и оценки числа ассоциативно вызываемых из долговременной памяти единичных образов. Поворот оси максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа на угол ψ(x1t,x2t) равносилен повороту этого образа на этот угол вокруг направления передачи. В частном случае эти повороты можно осуществлять на предварительно задаваемые углы с учетом текущих состояний слоев, номеров возбужденных нейронов.

В общем случае смещенные групповые совокупности с измененными формами поперечных сечений расходящихся единичных образов и с поворотами этих образов вокруг направлений их передачи с выхода первого блока динамических синапсов 3 поступают на вход второго слоя нейронов 5.

Все единичные образы, поступившие на один и тот же нейрон по различным синапсам, суммируются. При превышении этой суммы заданного порога возбуждения нейрона он возбуждается и на его выходе формируется единичный образ. Затем имеемая сумма обнуляется, а сам нейрон затем переходит в состояние невосприимчивости входных сигналов. В нем он находится заданное время, одинаковое для всех нейронов сети, которое больше суммарной задержки единичных образов в блоках 1, 2, 3, 5, 6, 4, входящих в двухслойный многопучковый контур нейронной сети.

Заметим, что мощность единичных образов на входе нейронов тем выше, чем меньше ее потери на синапсах. Мощность, рассеиваемая на каждом синапсе, определяется квадратом тока, протекающего через него, умноженного на сопротивление синапса, равное обратной величине его проводимости - весу синапса.

Последовательные совокупности единичных образов с выхода второго слоя 5, после задержки в блоке 6, поступают на второй блок динамических синапсов 4. В блоке 4 они аналогичным образом, как и в блоке 3, обрабатываются и, в общем случае, с измененными формами поперечных сечений расходящихся единичных образов и с поворотами этих образов вокруг направлений их передачи поступают на второй вход первого слоя нейронов 1.

С учетом этого поступающие на первый слой 1 нейронов прямые и обратные совокупности единичных образов в нем корректно связываются, распознаются и порождают на его выходе новые совокупности единичных образов, несущие в себе информацию, как о текущих, так и ранее запомненных сетью сигналах, связанных с первыми. При этом за счет соответствующих сдвигов совокупностей единичных образов вдоль слоев исключается наложение обратных результатов распознавания на прямые совокупности. За счет изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи достигается возможность оперативного изменения уровней связи между отдельными единичными образами, их группами и совокупностями в сети.

За счет приоритетности коротких связей в нейронной сети между входом и выходом сети легко устанавливается однозначное соответствие между составляющими входных и выходных сигналов.

С учетом этого соответствия по номерам нейронов, формирующих последовательности единичных образов на выходе устройства, определяют частотные и пространственные характеристики составляющих исходного сигнала. По частотам следования и относительным задержкам единичных образов, соответственно, устанавливают амплитуды и фазы составляющих исходного сигнала. Затем воспроизводят составляющие исходных сигналов и путем их сложения восстанавливают исходные, например речевые и другие сигналы. Для определения амплитуд составляющих исходного сигнала определяют текущее число единичных образов, попадающих в предварительно заданный интервал времени. Для воспроизведения составляющих исходных сигналов применим, например их цифровой синтез по известным параметрам.

За счет цикличности обмена информацией первого слоя со вторым, все пространство слоев (фиг.2 а, б) разбивается на ML полей. При этом каждое поле дополнительно подразделяется на два одинаковых подполя. Согласно изобретению полезный сигнал, просуммированный с первой частью предварительно сформированного шума, после разложения на составляющие и их преобразования в последовательности единичных образов, подается на первое подполе 1.1 первого поля первого слоя (фиг.2а). На второе подполе 1.2 первого поля первого слоя подается после разложения на составляющие и их преобразования в последовательности единичных образов вторая часть предварительно сформированного шума, идентичная первой части. Совокупности единичных образов продвигаются по сети в указанных направлениях, ассоциируются друг с другом. При этом входные последовательные совокупности единичных образов преобразуются в параллельные, а снимаются с сети после ассоциаций снова как последовательные. Основным выходом сети согласно предлагаемому способу, в соответствии с фиг.2 а выступает выход ML.2. Выход ML.1 является вспомогательным.

Согласно фиг.2 а, б имеет место схема продвижения групповых совокупностей единичных образов в виде спирали со встречным их продвижением.

За счет того, что на первый слой сети при наличии и отсутствии полезного сигнала подают параллельно и непрерывно две одинаковые части предварительно сформированного шума, в виде последовательных групповых совокупностей единичных образов, между одинаковыми сигнально-шумовыми и шумовыми составляющими в сети устанавливаются и поддерживаются непрерывно прочные ассоциативные связи через соответствующие синапсы. Для этих синапсов значения весовых коэффициентов kij(t) со временем стремятся к единице. При условии, что значения функций ослабления β(rij(t),Gij(x1t,x2t)) для этих синапсов не близки к нулю, через эти синапсы при передаче от слоя к слою групповых совокупностей единичных образов осуществляется копирование из сигнально-шумовых групп единичных образов, относящихся к полезному сигналу, в соответствующие этим группам шумовые группы. В случае, когда за счет изменения форм поперечных сечений расходящихся единичных образов и (или) поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев функции ослабления β(rij(t),Gij(x1t,x2t)) стремятся к нулю, такое копирование становится невозможным. Когда оно уже произошло, то копии сигнально-шумовых групп при соответствующих β(rij(t),Gij(x1t,x2t)), близких к нулю, «отрываются» от оригиналов и обрабатываются независимо от них с учетом обратных результатов распознавания этих копий и воздействий на сеть второй части маломощного шума. В этом случае маломощный шум лишь стимулирует функционирование сети и порождает новые условия обработки этих копий. Исключается подавление обратных результатов распознавания копий потоком входных сигналов. Увеличивается глубина обработки информации в нейронной сети, так как увеличивается число циклов обработки обратных результатов распознавания.

На фиг.3 а, б приведен пример, поясняющий копирование сигнально-шумовых групп в шумовую группу единичных образов. Учитывая, что мощность обрабатываемого шума существенно меньше мощности полезного сигнала, он не оказывает существенного влияния на полезный сигнал.

Из фиг.4, 5 видно, что за счет изменения форм поперечных сечений расходящихся единичных образов и за счет поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев можно существенно влиять на взаимосвязь обрабатываемых в сети полезных сигналов и их копий. В соответствии с фиг.4 поперечные сечения расходящихся единичных образов, относящихся к сигнально-шумовым группам, покрывают нейроны, ответственные за формирование копий сигнально-шумовых групп. При этих условиях такие копии могут успешно формироваться. Для «отрыва» копий сигнально-шумовых групп от оригиналов достаточно осуществить дополнительный поворот на 90° по часовой стрелке осей максимальной протяженности распределения плотности мощности в поперечных сечениях расходящихся единичных образов. Результат такого поворота показан на фиг.5. Из фиг.5 видно, что в отличие от фиг.4, поперечное сечение расходящегося единичного образа, формируемого нейроном 1, не покрывает нейрон 9. В этом случае нейрон 1 не может возбудить нейрон 9. Зато поперечные сечения расходящихся единичных образов хорошо покрывают нейроны других подполей второй строки, ответственных за формирование одних и тех же типов групп единичных образов. В результате обеспечивается независимая полноценная обработка в сети оригиналов и копий сигнально-шумовых групп.

Если эллиптическую форму поперечных сечений расходящихся единичных образов преобразовать на заданное время, например, в круговую, то ситуация по взаимосвязи копий и оригиналов также существенно изменится.

Формирование копий сигнально-шумовых групп и обработка их в сети с учетом отмеченных условий позволяет существенно расширить функциональные возможности по интеллектуальной обработке информации в нейронной сети. Повышается глубина и интеллектуальность обработки информации. Предоставляется возможность временно отрывать «мысли» сети от воспринимаемого потока входных сигналов, а также генерировать новые осознанные сигналы с учетом влияния маломощного шума.

Для доказательства преимущества предлагаемого способа по сравнению с известными решениями была разработана реализующая этот способ программная модель двухслойной рекуррентной нейронной сети с управляемыми синапсами со структурой, приведенной на фиг.1. Число нейронов в каждом слое составляло 2100 единиц. За счет сдвигов групповых совокупностей единичных образов вдоль слоев (при передаче от слоя к слою) слои разбивались на две строки по 25 полей размером 6×7 нейронов. При этом каждое поле делилось на два подполя размером 3×7. Моделировалась обработка такой сетью групповых сигналов согласно предлагаемому способу. Установлено, что за счет предварительно формируемого шума, подаваемого параллельно на первое и второе подполя первого поля первого слоя сети, можно обеспечить однозначное соответствие между одинаковыми сигнально-шумовыми и шумовыми составляющими и успешно формировать копии сигнально-шумовых групп при обработке рассматриваемых групповых сигналов. За счет изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи можно существенно влиять на взаимосвязь копий сигнально-шумовых групп и их оригиналов. За счет формирования сигнально-шумовых копий и «отрыва» их от оригиналов удается исключить подавление обратных результатов распознавания этих копий входным потоком сигналов. Это повышает глубину и расширяет функциональные возможности интеллектуальной обработки информации в нейронной сети.

Способ интеллектуальной обработки информации в нейронной сети может быть реализован с использованием известной элементной базы. В качестве нейронов слоев и элементов единичных задержек в блоках единичных задержек нейронной сети, реализующей способ применимы ждущие мультивибраторы. При этом ждущие мультивибраторы в блоках единичных задержек следует запускать не по переднему, а заднему фронту входного импульса. Блоки динамических синапсов могут быть реализованы с использованием мемристоров (резисторов с памятью) и обычных управляемых аттенюаторов. Блок управления синапсами реализуем специализированными процессорами, программируемыми интегральными схемами, функционирующими в соответствии с рассмотренными выше правилами. Способ можно реализовать также путем эмулирования двухслойной рекуррентной нейронной сети с управляемыми синапсами на современных вычислительных машинах.

Способ интеллектуальной обработки информации в нейронной сети, заключающийся в подаче в многослойную рекуррентную сеть с обратными связями, замыкающими контуры с временем задержки единичных образов меньше времени невосприимчивости нейронов сети после их возбуждения, сигнала, разложенного на составляющие в базисе, согласованном с входным слоем сети, с каждой составляющей, преобразованной в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей, представлении сигнала в виде последовательных совокупностей единичных образов в соответствии с предварительно заданными правилами его распознавания с учетом обратных результатов распознавания, сдвигах совокупностей единичных образов вдоль слоев с учетом текущих состояний слоев, запоминании результатов распознавания на элементах сети, использовании в качестве результатов обработки последовательных совокупностей единичных образов на выходном слое сети после обратного преобразования в соответствующие им исходные сигналы, отличающийся тем, что в сеть в качестве сигнала подают предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума, при передаче от слоя к слою групповых совокупностей единичных образов, каждая из которых состоит из сигнально-шумовой группы и шумовой группы единичных образов, копируют из сигнально-шумовых групп единичные образы, относящиеся к полезному сигналу, в соответствующие этим группам шумовые группы, формируют из шумовых групп копии сигнально-шумовых групп единичных образов и обрабатывают эти копии с учетом изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев.



 

Похожие патенты:

Группа изобретений относится к области обработки и распознавания радиосигналов, в частности к распознаванию вида и параметров манипуляции радиосигналов, и может быть использована в радиотехнических устройствах для распознавания манипуляции радиосигналов.

Изобретение относится к бионике, моделированию функциональных аспектов человека и может найти применение в вычислительной технике при построении интеллектуальных машин и систем.

Изобретение относится к бионике, моделированию функциональных аспектов человека и может найти применение в вычислительной технике при построении интеллектуальных машин и систем.

Изобретение относится к области гидрометеорологии и может быть использовано для прогнозирования паводков и других гидрометеорологических явлений. .

Изобретение относится к области компьютерных сетей. .

Изобретение относится к области компьютерных сетей. .

Изобретение относится к технике связи и может быть использовано в системах радиомониторинга для автоматизированной классификации радиосигналов по структурно-временным параметрам.

Изобретение относится к вычислительной технике. .

Изобретение относится к области компьютерных сетей. .

Изобретение относится к области управления компьютерными сетями с использованием алгоритмов искусственного интеллекта. Техническим результатом является снижение времени простоя рабочих объектов компьютерной сети за счет увеличения точности прогноза изменений основных показателей. Способ заключается в том, что формируют прогнозные нейронные сети на основании получаемых в результате опроса рабочих объектов компьютерной сети, значений показателей, определяющих их состояние; формируют прогноз изменений значений через некоторый фиксированный интервал времени. Формируют запоминающие нейронные сети, которые выполняют функции индикатора необходимости переобучения для соответствующей прогнозной нейронной сети, если полученные в результате мониторинга значения существенно отличаются от значений, использованных в обучающей выборке. После переобучения прогнозные нейронные сети способны сформировать прогноз изменений показателей с заданным уровнем точности, на основании которого выполняются управляющие воздействия на объекты вычислительной сети. 8 з.п. ф-лы, 7 ил.
Изобретение относится к средствам биометрической защиты анонимности свидетелей при судебном делопроизводстве. Техническим результатом является повышение надежности защиты анонимности свидетеля. Способ биометрической защиты анонимности свидетелей при судебном делопроизводстве заключается в том, что создают множество электронных одноразовых удостоверений личности свидетеля без указания его имени, получаемых генерированием случайного кода - К, используемого далее при обучении нейронной сети преобразовывать параметры примеров биометрического образа свидетеля в код - К, параметры обученной нейронной сети защищают самошифрованием на фрагментах кода - К, вычисляют хэш-функцию кода - К, одноразовое электронное удостоверение личности свидетеля формируют путем размещения в нем уникального номера удостоверения, шифротекста защищенных параметров обученной нейронной сети и значения хеш-функции кода - К, эти данные орган анонимной регистрации охватывает своей цифровой подписью, далее все примеры биометрических образов свидетеля и случайные коды - К уничтожают, далее при каждом К-том вызове анонимного свидетеля пересылают ему его К-тое электронное удостоверение, пользуясь которым, свидетель предъявляет свой биометрический образ и тем самым анонимно подтверждает свою личность, также, предъявив свой биометрический образ, свидетель получает выходной код - К, проверку которого осуществляют вычислением его хеш-функции и сравнением ее с эталоном, размещенным ранее в одноразовом удостоверении личности. 2 з.п. ф-лы.
Изобретение относится к информационным технологиям и нейрофизиологии. Техническим результатом изобретения является повышение скорости работы технологий нейрокомпьютерного интерфейса. В заявленном способе управления внешними устройствами с использованием технологии нейрокомпьютерного интерфейса регистрируются данные активности различных отделов головного мозга с использованием, как по отдельности, так и в совокупности, любой из методик электроэнцефалографической, магнитно-резонансной томографии, транскраниальной оксиметрии, а полученный сигнал обрабатывается по известным для каждого типа нейрокомпьютерных интерфейсов формулам, причем предварительно происходит обучение классификатора применительно к решаемым пользователем задачам, так что каждой возможной реакции пользователя присваиваются определенные апостериорные вероятности, отражающие индивидуальный характер предпочтений пользователя и которые могут пересматриваться в процессе работы устройства; при этом веса классификатора команд изменяются таким образом, что для более часто встречающихся случаев требуется меньше итерация процесса для получения команды и, наоборот, для более редко встречающихся - больше.

Изобретение относится к моделированию функциональных аспектов человека и может найти применение в вычислительной технике при построении интеллектуальных машин и систем. Техническим результатом является повышение интеллектуальности обработки информации, улучшение запоминания, распознавания и извлечения сигналов из сети. Сущность способа состоит в том, что при интеллектуальной обработке информации в двухслойной рекуррентной нейронной сети с управляемыми синапсами сигнал представляют в виде последовательных совокупностей единичных образов, разделенных на пары частных совокупностей этих образов. Частные совокупности единичных образов из каждой такой пары продвигают вдоль слоев сети по двойной спирали с изменяемым диаметром. 7 ил.

Изобретение относится к области радиотехники и может быть использовано для интеллектуального анализа оценки устойчивости инфокоммуникационной системы. Техническим результатом является повышение устойчивости функционирования системы связи при воздействии деструктивных электромагнитных излучений на ее структурные элементы за счет оперативной реконфигурации и обработки характера деструктивных воздействий. Систему связи приводят в рабочее состояние, фиксируют деструктивные воздействия на ее структурные элементы, формируют имитационную модель системы связи, моделируют на ней деструктивные воздействия, по результатам моделирования реконфигурируют имитационную модель системы связи и представляют математическую модель функционирования системы, определяют параметры электромагнитных полей, воздействующих на подсистемы инфрокоммуникационной системы, и осуществляют оценку воздействия этих электромагнитных полей на работоспособность отдельных элементов и узлов системы, а также системы в целом, формируют сценарии электромагнитных воздействий на узлы инфокоммуникационной системы, учитывая модели электромагнитных излучений во всем диапазоне частот, проводят анализ информационного потока, обрабатываемого инфокоммуникационными узлами, и выявляют закономерности появления искаженных пакетов информации, периодичность и кратность частоты появления которых определяют на частоте формирования импульсов известными источниками электромагнитного излучения, при обнаружении факта воздействия известных источников электромагнитных излучений блокируют искаженную информацию и реконфигурируют систему, проводят сравнительный анализ соответствия данных требованиям используемого телекоммуникационного протокола, дополнительно проводят анализ сценариев поведения инфокоммуникационной системы при действии на ее элементы и узлы электромагнитных воздействий, с учетом моделей электромагнитного излучения на всем диапазоне частот, осуществляют расчет целевых показателей, характеризующих устойчивость системы в целом и его отдельных подсистем к воздействию электромагнитных излучений. 1 ил.

Изобретение относится к измерительным системам и устройствам и может быть использовано для идентификации компонентов бензина и определения его состава. Техническим результатом является обеспечение идентификации в режиме реального времени с оперативным внесением поправок в технологический процесс. Способ заключается в том, что идентификацию компонентов производят по минимуму целевой функции и активному состоянию нейронов искусственной нейронной сети идентификации, изменяя при этом коэффициенты синаптических связей, расчет значений активации нейронов определяют в соответствии с функцией активации, при этом концентрацию компонентов бензина производят по минимуму целевой функции и активному состоянию нейрона искусственной нейронной сети состава, изменяя коэффициенты синаптических связей, а расчет значения активации нейрона состава производят в соответствии с функцией активации, и при активном состоянии нейрона состава принимают значения концентрации компонентов в смеси численно равным значениям коэффициентов синаптических связей. 5 табл., 5 ил.

Изобретение относится к судостроению, а именно к способам прогнозирования качки судна, позволяющим обеспечить надежную посадку летательных аппаратов на суда и плавучие технические средства освоения Мирового океана, в том числе научно-исследовательские суда, буровые платформы и др. Технический результат - повышение достоверности прогноза «окна безопасной посадки» при значительных ветроволновых воздействиях. Сущность изобретения заключается в следующем: на базе данных измерений с использованием принципа конкуренции выбирают предпочтительную вычислительную технологию с использованием стандартной модели, реализующей фильтр Калмана, и адаптивной нейронечеткой модели, построенной с помощью нейронной сети прямого распространения. На основе функции выбора для выделенной вычислительной технологии осуществляют моделирование динамики взаимодействия судна с внешней средой, результаты которого используют при проведении контроля взлетно-посадочных операций в заданных погодных условиях. 6 ил., 2 табл.

Изобретение относится к автоматизированному управлению технологическими процессами в нефтегазовой промышленности. Технический результат - упрощение и автоматизация процедур контроля состояния узлов производства с расширением набора контролируемых параметров состояния технологических узлов предприятия, повышение точности калибровки каналов измерения параметров состояния, поддержка принятия решений по парированию нештатных ситуаций. Способ заключается в оценке параметров состояния технологических узлов предприятия с формированием образа текущей ситуации, выборе базовых параметров контроля состояния и формировании нейросетевых аппроксимаций для передаточных функций связи базовых параметров контроля состояния с дополнительными параметрами контроля состояния, верификации значений коэффициентов аппроксимации, формируемых с использованием нейросетевых моделей, для соответствующих частей передаточных функций. В качестве базовых параметров контроля состояния технологических узлов предприятия выбирают параметры, формируемые теми каналами контроля состояния узла, значения показателей степени доверия/недоверия к измерениям в которых выше заданного значения. 3 з.п. ф-лы, 13 ил., 6 табл.

Изобретение относится к технической кибернетике. Технический результат - повышение достоверности диагностирования сложного технического объекта и снижение трудоемкости. В способе диагностирования сложных технических объектов среди параметров сложного технического объекта выделяют отдельные параметры, которые являются признаками его технического состояния, сравнивают их с эталонными признаками исходного алфавита классов состояний и по результатам сравнения определяют группу классов возможного технического состояния диагностируемого объекта, в качестве признаков технического состояния объекта используют статистические характеристики разностей текущих и эталонных значений внутренних и выходных параметров объекта, в качестве эталонных признаков исходного алфавита классов используют статистические характеристики разностей текущих и эталонных значений внутренних и выходных параметров исправного объекта, при этом в качестве эталонных значений внутренних и выходных параметров объекта используют их расчетные значения, вычисляемые для каждого режима работы объекта по измеренным текущим значениям входных параметров с помощью нейросетевых моделей. 12 ил.

Изобретение может быть использовано для непрерывного контроля, оценки и прогнозирования состояния неопределенности взаимодействия судна с внешней средой. Техническим результатом является повышение степени надежности функционирования бортовых систем для обеспечения безопасности мореплавания судов при возникновении экстремальных ситуаций. Для достижения технического результата в предлагаемом способе регистрируют сигналы в блоке измерений параметров судна и внешней среды в экстремальной ситуации, устанавливают уровень неопределенности ситуации и сравнивают текущие значения параметров энтропии с заранее зафиксированными значениями. При возникновении экстремальной ситуации в условиях большой неопределенности определяют базовое значение определяющего параметра, относительно которого рассматривается состояние неопределенности, энтропийного потенциала и его приращения с использованием конкурентного отношения, осуществляют распознавание уровня неопределенности и формируют математические модели динамики изменения неопределенности, рассчитывают величину комплексного энтропийного потенциала и определяют изменение характеристик энтропии, прогнозируют развитие ситуации. 4 ил.
Наверх