Опубликован: 01.03.2007 | Доступ: свободный | Студентов: 1371 / 117 | Оценка: 4.58 / 4.39 | Длительность: 20:15:00
Специальности: Программист
Лекция 6:

Погрешности в нейронных сетях

Анализ реализуемости сетей с собственными погрешностями элементов методом обратного распространения точности для оценки среднеквадратических отклонений

Все изложенные выше соображения о выполнимости метода обратного распространения точности справедливы и для метода обратного распространения точности для среднеквадратических отклонений погрешностей с учетом собственных погрешностей элементов. Отличие состоит в способе вычисления промежуточных среднеквадратических отклонений погрешностей.

Как и выше, рассмотрим участок сети, изображенный на рис. 6.9. Для этого участка нам необходимо вычислить промежуточное среднеквадратическое отклонение погрешности \sigma^{part}.

Пусть собственное среднеквадратическое отклонение погрешности сумматора \Sigma_1 равно \sigma_{\Sigma_1 }, собственное среднеквадратическое отклонение погрешности нелинейного преобразователя равно \sigma_\varphi и \sigma_{tv} - собственное среднеквадратическое отклонение погрешности точки ветвления.

Рассмотрим сначала вариант, когда собственные погрешности элементов добавляются к выходным сигналам этих элементов. В этом случае среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя вычисляется по формуле \sigma = \sigma_{own}/|\varphi '(A)|, где

\sigma_{own} = \sqrt {\sigma_1^2 - \sigma_\varphi^2 },
\sigma_1 - общая погрешность выходного сигнала нелинейного преобразователя. Для точки ветвления среднеквадратическое отклонение погрешности входного сигнала определяется как \min \{D_i \}_{i = 1}^k - \sigma_{tv}^2.

Среднеквадратическое отклонение погрешности \sigma^{part}, которое придет к входу сумматора \Sigma_2 при прямом функционировании сети, начиная от выходного сигнала сумматора \Sigma_1 ( рис. 6.9), равно

\sigma^{part} = \sqrt {\sigma_{\Sigma_1 }^2 \cdot \varphi '(A)^2 + \sigma_\varphi^2 + \sigma_{tv}^2 }.

Среднеквадратические отклонения погрешностей \sigma_i^{part} придут к каждому входу сумматора \Sigma_2. Если сумма квадратов среднеквадратических отклонений \sigma_i^{part} с коэффициентами \alpha_i меньше квадрата среднеквадратического отклонения погрешности выходного сигнала сумматора ( \Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_i^{part})^2 < \sigma^2 ), то вычисляем разность \Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_i^{part})^2 - \sigma^2. Оставшуюся часть квадрата среднеквадратического отклонения погрешности выходного сигнала сумматора \sigma распределяем равномерно по всем входам, чтобы среднеквадратические отклонения погрешностей входов превышали собственные среднеквадратические отклонения погрешностей элементов на одну и ту же величину \xi. Тогда получаем следующую формулу

\Sigma_{i = 1}^n \alpha_i^2 \cdot ((\sigma_i^{part})^2 + \xi^2 ) = \sigma^2 \Rightarrow \xi = \sqrt {(\sigma^2 - \Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_i^{part})^2 )/\Sigma_{i = 1}^n \alpha_i^2 }
.

Среднеквадратические отклонения погрешностей по входам сумматора будут равны \sigma_i = \sqrt {(\sigma_i^{part})^2 + \xi^2 }.

Пусть теперь собственные погрешности элементов добавляются к входным сигналам этих элементов. В этом случае среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя вычисляется по формуле

\sigma = \sqrt {\sigma_1^2 /\varphi '(A)^2 - \sigma_\varphi^2 },
где \sigma_1 - погрешность выходного сигнала нелинейного преобразователя. Для точки ветвления среднеквадратическое отклонение погрешности входного сигнала определяется как было указано выше.

Среднеквадратическое отклонение погрешности \sigma^{part} в этом случае равно

\sigma^{part} = \sqrt {\left( {\Sigma_{i = 1}^n \alpha_i^2 \cdot (\sigma_{\Sigma_1 }^i )^2 + \sigma_\varphi^2 }\right) \cdot |\varphi '(A)|^2 + \sigma_{tv}^2 }
.

Величины \xi для вычисления среднеквадратических отклонений погрешностей входных сигналов \sigma_i вычисляются как было показано выше.

Промежуточные среднеквадратические отклонения погрешностей \sigma^{part} можно вычислять как для участков сети, так и для сети в целом.

Таким образом, мы получили формулы для вычисления среднеквадратических отклонений погрешностей сигналов нейронной сети с собственными погрешностями элементов.

Станислав Мешавкин
Станислав Мешавкин
Россия, г. Заречный