Адаптивная резонансная теория (АРТ)
Слой сравнения
Каждый нейрон в слое сравнения имеет порог, равный двум. На вход одного нейрона в слое сравнения подаются: сигнал с единичным весом, одна компонента с единичным весом и все выходы слоя распознавания, компонент с вектором весов , где - номер нейрона в слое сравнения. Весовые коэффициенты - двоичные. В нейроне используется нелинейность в виде жесткой ступеньки: если активация нейрона превышает порог , то на выходе нейрона будет единица, иначе - ноль. Это "правило 2/3": для активации нейрона достаточно два сигнала из трех.
Работа слоя определяется формулами:
Работой слоя управляет сигнал . Если , то проходит без изменений на выход слоя сравнения, благодаря лишнему единичному сигналу на входе нейрона. Если , то на выходе имеем , т.е. вектор будет логическим произведением двоичных векторов и .
Слой распознавания
Каждый нейрон в слое распознавания имеет следующие входы: один сигнал с единичным весом, одна компонента с большим отрицательным весом ( - номер нейрона) и сигналов со слоя сравнения с вектором весов (у вектора всего компонент, ).
Нейроны слоя распознавания не содержат нелинейных элементов, но обладают следующей особенностью. Каждый нейрон в слое связан со всеми остальными нейронами этого же слоя обратными тормозящими связями и положительной обратной связью - с самим собой (как во втором слое сети Хемминга, см. Лекцию 10).
Такой способ связности называется латеральным торможением. Это приводит к тому, что только один нейрон в слое распознавания может быть активирован. Между нейронами существует конкуренция, и нейрон с максимальным выходом "подавляет" все остальные нейроны в слое, выигрывая "состязание". Его выход становится равным единице, остальных нейронов - нулю, т.е. вектор имеет только одну единичную компоненту, остальные - нули.
Веса имеют действительные значения. Работа слоя определяется формулой:
где - выход -го нейрона, равный нулю или единице.
Отсюда видно, что сигнал "разрешает" работу слоя распознавания, а сигнал позволяет выборочно затормозить любые нейроны в слое.