Устройство для моделирования адаптивного нейрона

 

ОПИСАНИЕ

ИЗОБРЕТЕНИЯ

Союз Советских

Социалистических

Республик

К АВТОРСКОМУ СВИДЕТЕЛЬСТВУ (61) Дополнительное к авт. свид-ву(22) ЗаявленО 30.08.77 (21) 2520500/18-24 с присоединением заявки М (23) Приоритет (51)М. Кл.2

G 06 G 7/60

Государственный комитет

СССР по делам изобретений и открытий (53) УДК 681 ззз (088. 8) Опубликовано 05.0180. Бюллетень Йо 1

Дата опубликования описания 08.01.80 (72) Авторы изобретения

Ю.В. Чернухин и Г.A. Галуев (71) Заявитель

Таганрогский радиотехнический институт имени В . Д. Калмык ов а (54) УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯ

АДАПТИВНОГО НЕЙРОНА

Изобретение относится к области бионики и вычислительной техники и может быть использовано в качестве элемента адаптивных нейронных: сетей для моделирования биологических процессов в устройствах распознавания образов .

Известно устройство для моделирования адаптивного нейрона, содержащее блоки моделирования синапса,аддитивный сумматор, схему сравнения, преобразователь напряжения в частоту, блок управления синапсом, формирователь выходных сигналов, блок формирования порога, блок управления резистивным элементом, находящимся в блоке моделирования синапса, цепь адаптации по выходному сигналу,- содержащую первый интегратор, источник питания и цепь, моделирующую увеличение активности нейроноподобного элемента в зависимости от частоты его возбуждения, построенную на первом и втором интеграторах (1).

Однако устройства, основанные на элементах аналоговой техники, имеют малую стабильность параметров.

Наиболее близким техническим решением к предложенному изобретению является устройство для моделированияЗО

\ нейрона, содержащее блок суммирования синаптических весов, первые и входов которого являются входами устройства, выход блока суммирования синаптических весов соединенн с входом переменной интегрирования первого цифрового интегратора, выход которого подключен к первому входу первого сумматора, второй вход которого соединен с выходом второго цифрового интегратора, вход переменной интегрирования которого подключен к выходу третьего цифрового интегратора, вход подынтегральной функции которого подключен к выходу первого сумматора (2).

Недостатком известного устройства является невозможность моделировать различные свойства адаптивных нейронов.

Цель изобретения — повыаение точности моделирования.

Укаэанная цель достигается тем, что в него введены второй и третий сумматор, цифровые интеграторы и блок сравнения, выход первого сумматора подключен к первому входу второго сумматора, выход которого соединен с входом подынтегральной функции четвертого цифрового интегратора, выход которого подключен к входу

708369 блока сравнения, выход которого является выходом устройства и соединен с входом переменной интегрирования пятбго цифрового интегратора, выход которого подключен к первому входу третьего сумматора, второй вход которого соединен с выходом шестого цифрового интегратора, вход переменной интегрирования которого соединен с выходом седьмого цифрового интегратора, вход подынтегральной функции которого подключен к прямому выходу третьего сумматора, инверсный выход которого соединен с вторым входом второго сумматора, выход восьмого цифрового> интегратора подключен к третьему входу третьего сумматора, четвертый вход которого соединен с выходом девятого цифрового интегратора, вход перменной интегрирования которого подключен к выходу третьего цифрового интегратора, входы переменной интегрирования третьего, четвертого, седьмого и восьмого цифровых интеграторов подключены к одному управляющему входу устройства, вторые п входов блока суммирования 75 синаптических весов и входы подынтегральной функции первого, второго, .пятого, шестого, восьмого и девятого цифровых интеграторов соединены с другими управляющими входами устройся 3( ва соответственно.

Схема устройства представлена на чертеже. устройство содержит П входов 1,... y5

1, подключенных к входу блока суммирования синаптических весов 2, который имеет специальные входы 34, 3« управляющие изменением сйнаптических весов, первый цифровой интегратор 4, вход подынтегральной функ- 4О ции которого подключен к специальному входу 6, управляющему изменением веса пространственного суммирования; первый сумматор б; второй цифровой интегратор 7, вход подынтегральной 45 функции которого подключен к специальному входу 8, управляющему изменением длительности временного сум-: мирования; третий цифровой интегра. тор 9, вход переменной интегрирований которого подключен к специальному входу 10, управляющему изменением длительности периода возбужде" ния1 второй и третий сумматоры 11 и

12; четвертый цифровой интегратор 13; 55 схему сравнения 14, выход которой является выходом 15 устройства; пя" тый цифровой интегратор 16, вход подынтегральной функции которого подключен к специальному входу 17, управляющему изменением веса порого- 6О вой добавки при адаптации по выходу шестой цифровой интегратор 18, вход .подынтегральной функции которого подключен к специальному входу 19, управляющему изменением длительнос- 65 ти периода адаптации; седьмой цифровой интегратор 20; восьмой цифровой интегратор 21, вход подынтегральной функции которого подключен к специальному входу 22, управляющему изменением порога; девятый цифровой интегратор 23, вход подынтегральной функции. которого подключен к специально му входу 24, управляющему изменением веса пороговой добавки при адаптации по входу, Дл я э ада ни я режима функ циони ров ания устройства на специальные входы

3„, ... 3 >, весового сумматора, а также на специальные входы 5, 8, 17

19, 22 и 24, подключенные к входам регистров подынтегральных функций цифровых интеграторов 4, 7, 16, 18, 21 и 23, подаются соответствующие значения синаптических весов, веса пространственного суммирования, длительности временного суммирования, веса пороговой добавки при адаптации по выходу, длительности периода адаптации, порога и веса пороговой добавки при адаптации по входу. После этого на специальный вход 10 подаются значения длитЕльности периода возбуждения, причем. если задать значение веса пороговой добавки при адаптации по входу равным нулю, то данное устройство будет являться моделью нейрона адаптивного по выходу, Если задать равным нулю значение веса пороговой добавки при адаптации по выходу, то данное устройство будет представлять собой модель нейрона адаптивного по входу. Если оба указанных параметра отличны от нуля, то устройство является моделью нейрона адаптивного и по входу, и по выходу, При равенстве нулю обоих указанных параметров устройство работает в режиме неадаптивного нейрона. С момента подачи на специальный вход 10 значений длительности периода возбуждения устройство готово к приему входных сигналов, поступающих с выходов других устройств, объединенных с данным в нейроподобную сеть, .либо от датчиков информации, моделирующих рецепторные нейроны, Входные сигналы через входы 1А,...

1 поступают на входы весового сумматора 2, в котором эти сигналы суммируются с учетом заданного для каждого входа синаптического веса. Полученная сумма с выхода сумматора 2 поступает на вход переменной интегрирования интегратора 4, в котором эта сумма умножается на соответСтвующее значение веса пространственного суммирования, записанное в регистре подынтегральной функции этого интегратора, и передаЕтся на первый вход сумматора 6, В этот же момент времени значение результата временного суммирования, полученное на предыдущем шаге (на первом шаге

708369

40

60 оно равно нулю) и хранящееся в регистре подынтегральной функции интегратора 9, умножается в нем на значение длительности периода возбуждения (подаваемое с специального входа 10) и поступает на вход переменной интегрирования интегратора 7, в котором дополнительно умножается на значение длительности временного суммирования (записанное в регистре подынтегральной функции интегратора 7) и подается на второй вход сумматора 6. Значение результата временного суммирования, полученное на предыдущем шаге и умноженное в интеграторе 9 на значение длительности периода возбуждения в данном шаге, поступает, кроме того, на вход переменной интегрирования интегратора 23, в котором умножается на значение веса пороговой добавки при адаптации по входу и полученное произведение подается на четвертый вход сумматора 12, на третий вход которого с выхода интегратора

21 поступает произведение значений порога (хранящееся в регистре подынтегральной функции интегратора 21) и длительности периода возбуждения (подаваемое с специального входа 10) В этот же момент времени текущее значение порога, полученное на предыдущем шаге (на первом шаге оно равно нулю) и хранящееся в регистре подынтегральной функции интегратора 20 умножается в нем на значение длительности периода возбуждения (задаваемое со специального входа

10) и поступает на вход переменной интегрирования интегратора 18, в котором дополнительно умножается на значение длительности периода адаптации (хранящееся в регистре подынтегральной функции этого интег-, ратора) и передается на второй вход сумматора 12. Одновременно с сигналами, пришедшими на второй и третий, и чеТвертый входн сумматора 12, на его первый вход с выхода интегратора

16 поступает значение пороговой добавки при адаптации по выходу, полученное в интеграторе 16 в результате умножения выходной величины (по"тупающее на вход переменной иытегрирования этого интегратора с выхода

15 модели) на значение веса пороговой добавки при адаптации по выходу (хранящееся в Регистре подынтегральной функции интегратора 16). Результаты суммирования, полученные в сумматорах 6 и 12, поступают на первый и второй входы сумматора 11, в котором они дополнительно суммируются, и полученная сумма передается на вход подынтегральной функции интегратора

13. В интеграторе 13, поступившая сумма умножается на значение длительности периода возбуждения и полученное произведенив поступает на вход схемы сравнени я 1 4, в которой срав нивается с нулем. Если это произведение больше нуля, то оно появляется на выходе 15 модели. Если произведенйе отрицательное, то сигнал на выходе 15 модели отсутствует.

Процессы, происходящие в модели, описываются следующей системой раэ .ностных уравнений: где ьt — длительность периода возбуждения; у — синаптический вес » -ro входа; у.„. - входные воздействия, пос25 тупаюшие на 1-м шаге; с(— значение длительности вре1 манного суммирования; значение временной суммы, 0-1) полученное на предыдушем

30 шаге; р — значение веса пространст1 венного суммирования;

Д вЂ” значение длительности пе2 риода адаптации;

6 - — тек ущее з н ач ени е порога, полученное на предыдущем шаге; постоянное значение порога значение веса пороговой добавки при адапт аци и по входу; значение веса пороговой добавки при адаптации по выходу; у . — значение выходной величиВЬГ/ "

45 ны в 1-и шаге.

Если в системе (1) прин ят ь р> рав" ным нулю то как уже указывалось выше, J получим модель нейрона адаптивного по выходу, так как в этом случае. модель описывается следующей системой раэностных уравнений: и

P;at=- Zy у..«

3=1 3 3j

О-1)+ (1 О-а« +» ь ьи ь

ЪЬ Х (» ) - Ла Î,(„- О, »

Если в системе (1) принять pz Рав ным нулю, то получим модель нейрона адаптивного по входу, которой соответствует следующая система раэност

65 ных уравнений:

708369

РьЛ =Х уу" t

1 31 iii Ч„- с1,,У „. „)ь1» j3 р g4 () 1 ° ) )

Полагая ) равным нулю, pj равным ну3 лю cia Равным .единице, (равным еди1 нице и д равным единице, решение системы (1) примет следуюший вид;

"ао х(i 1\ Р (Р„(,7 11 )!

6 11 при я 30, что,как известно, совпадает с алгоритмом работы формального нейрона, Если равно нулю, равно нулю, ц(,(равно нулю, с(равно единице и .д. равно единице, то решение системз (1) примет следующий вид: гм и

gb) (())=St/ У. . ) что совпадает с алгоритмом работы нейрона, реализующего механизм временного суммирования. Иными словами при задании соответствующих значений указанных1 параметроэ устройство может быть использовано для моделирования адаптивного по входу и выходу нейрона, адаптивного по входу нейрона, адаптивного по выходу нейрона, неадаптивного формального нейрона и неадаптиэного нейрона; реализующего механизм временного сумми-- рования, Благодаря введению новых блоков и связей повысилась точность моделирования адаптивного нейрона.

Формула и з о брет е ни я

Устройство для моделирования адаптивного нейрона, содержащее блок суммирования синаптических весов, первые И входов которого являются входами устройства, выход блока суммирования синаптических весов соединен с входом переменной интегрирования первого цифрового интегратора, выход которого подключен к первому входу первого сумматора, второй вход которого соединен с выходом второго цифрового интегратора, вход перемен5

45 ной интегрирования которого подключен к выходу третьего цифрового интегратора, вход подынтегральной функции которого. подключен к выходу первого сумматора, о т л и ч а ю щ е е с я тем, что, с целью повышения точности моделирования, в него введены второй и третий сумматор, цифровые интеграторы и блок сравнения, выход первого сумматора подключен к первому входу второго сумматора, выход которого соединен с входом подынтегральной функции четвертого цифрового интегратора, выход которого подключен к входу блока сравнения, выход которого является выходом устройства и соединен с входом переменной интегрирования пятого цифрового интегратора, выход которого подключен к первому входу третьего сумматора, второй вход которого соединен с выходом шестого цифрового интегратора, вход переменной интегрирования которого соединен с выходом седьмого цифрового интегратора, вход подынтегральной функции которого подключен к прямому выходу третьего сумматора, инверсный выход которого соединен с вторым входом второго сумматора,.выход восьмого цифрового интегратора подключен к третьему входу сумматора, четвертый вход которого соединен с выходом девятого цифрового интегратора, вход переменной интегрирования которого подключен к выходу третьего цифрового интегратора, входы переменной интегрирования третьего, четвертого, седьмого и восьмого цифровых интеграторов подключены к одному управляющему входу устройства, вторые РЬ выходов блока суммирования синаптических весов и входы подынтеграль ной ф унк ции первого, второго, пятого, шестого, восьмого и девятого цифровых интеграторов соединены с другими управляющими входами устройства соответственно.

Источники информации, принятые во внимание при экспертизе

1. Авторское свидетельство СССР

9 512478, кл, G 06 G 7/60, 1976.

2. Авторское свидетельство СССР по заявке 9 2490145/18-24, кл. G 06 G, 1976 (прототип).

7083б 9

Составитель A. Яицков

Техред М.Келемек Корректор И. Михеева

Редактор Д. Зубов

Заказ 8490/45 Тираж 751 Подписное

ЦНИИПИ Государственного комитета СССР по делам изобретений и открытий

11 3035, Москва, Ж-35, Раумская наб., д. 4/5

Филиал ППП Патент, г. Ужгород, ул. Проектная, 4