Трёхсторонний стохастический бинарный синапс
Алексей Тарасов @AtarТрёхсторонний синапс связывает три элемента — входной (I), выходной (O) и управляющий (R). Соответственно, он имеет два входа и один выход. Оба входа и выход — бинарные.
У синапса есть два внутренних параметра — вес связи между входным и выходным элементами и случайный генератор чисел. Обе величины находятся в диапазоне [0, 1].
Управляющий и входной сигналы перестраивают вес синапса. Вес увеличивается при одновременной активности входного и управляющего элементов или их одновременной неактивности. В остальных случаях вес понижается.
Величины подкрепления должны иметь малые значения, например, 0,01.
Синапс активируется при выполнении двух условий — активен входной, пресинаптический элемент и сгенерированное синапсом случайное значение меньше его веса.
Loopback-вариант синапса с обратной связью
Управляющий сигнал для такого синапса выдаёт выходной элемент. Усиление связи между элементами осуществляется в ответ на активацию входного элемента после активации выходного. То есть, вес синапса в данной схеме меняется по правилу инверсного STDP, который действует на дальних, дистальных синапсах в дендритных деревьях пирамидальных нейронов.
Активация синапса происходит тем же способом как и в предыдущей схеме.
Loopback-синапсы позволяют связать следствие с причиной.
Например, дроид умеет переходить дорогу после того, как загорается зелёный свет светофора. Свет светофора соответствует выходному элементу (O), а движение через дорогу — входному элементу (I).
Допустим дроид уже обучен этому навыку, у него существует прямая связь между этими узлами от O к I, которая управляет его поведением: загорелся зелёный свет — дроид двинулся через дорогу. Первым здесь активируется (по какому-то другому, дополнительному входу, на схеме не показано) выходной элемент (O) — зажёгся зелёный. Вслед за ним активируется входной элемент (I) — дроид пошёл.
Прямая связь командует телом дроида — "Горит зелёный. Иди!". Обратная же связь имеет объяснительную функцию.
Обратная связь, которая устанавливается между теми же узлами, идёт от следствия к причине. Причина — "зелёный свет"; следствие — "движение". Она, можно сказать, отвечает дроиду на вопрос "Вследствие чего я перехожу дорогу?". И ответом ему будет являться зелёный свет светофора.