Выход - нейрон
Cтраница 3
Затем суммарное значение подается на вход какой-либо нелинейной функции ( наиболее часто это сигмоида - гладкая модель двухпозиционного реле), и результат вычисления этой функции становится значением выхода нейрона. [31]
Благодаря наличию обратных связей, степень возбуждения нейронов различных нервных центров может строго согласовываться как с интенсивностью приходящих к ним возбуждающих влияний, так и с интенсивностью импульсации на выходе нейронов и, следовательно, с интенсивностью развиваемого рабочего эффекта. Так, мотонейроны получают информацию о сокращениях мышцы от сухожильных и мышечных рецепторов. Эти импульсы, сигнализирующие о состоянии двигательного аппарата, позволяют корригировать активность этих мотонейронов. Афферентные импульсы, поступающие от сосудов, органов дыхания, пищеварения и выделения, постоянно корригируют деятельность нейронов, участвующих в поддержании уровня артериального давления и регуляции других вегетативных функций. [32]
Кроме входного и выходного слоев в многослойной нейронной сети есть один или несколько скрытых слоев. Связи от выходов нейронов некоторого слоя q к входам нейронов следующего слоя ( д 1) называются последовательными. [33]
Для обучения блока поведения применялся вариант метода обратного распространения ошибки, названный комплементарным методом обратного распространения ошибки. Ошибка на выходе каждого нейрона блока поведения определяется по выходу данного нейрона и сигналу обучения от блока оценки действий. В соответствии с ошибками на выходах нейронов корректируются веса синапсов нейронов, аналогично тому, как это происходит в обычном методе обратного распространения ошибок. [34]
 |
Модель искусственного нейрона. S VX / wi -, Y F ( S. [35] |
Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены. Он обладает группой синапсов - однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон - выходную связь данного нейрона, с которой сигнал ( возбуждения или торможения) поступает на синапсы следующих нейронов. Каждый синапс характеризуется величиной си-наптической связи или ее весом и1 -, который по физическому смыслу эквивалентен электрической проводимости. [36]
Во многих конкурирующих нейронных системах наблюдаются некоторые виды конкуренции между нейронами. В нейронах, обрабатывающих сигналы от сетчатки, латеральное торможение приводит к увеличению выхода наиболее высокоактивных нейронов за счет соседних. Такие системы увеличивают контрастность, поднимая уровень активности нейронов, подсоединенных к яркой области сетчатки, в то же время еще более ослабляя выходы нейронов, подсоединенных к темным областям. [37]
 |
Искусственный нейрон. [38] |
Искусственный нейрон имитирует в первом приближении свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона. На рис. 1.2 представлена модель, реализующая эту идею. Хотя сетевые парадигмы весьма разнообразны, в основе почти всех их лежит эта конфигурация. Эти входные сигналы, в совокупности обозначаемые вектором X, соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый вес соответствует силе одной биологической синаптической связи. [39]
В [9] описан привлекательный метод улучшения характеристик обучения сетей обратного распространения. В работе указывается, что общепринятый от 0 до 1 динамический диапазон входов и выходов скрытых нейронов неоптимален. Так как величина коррекции веса Awptbk пропорциональна выходному уровню нейрона, порождающего OUTpj, то нулевой уровень ведет к тому, что вес не меняется. При двоичных входных векторах половина входов в среднем будет равна нулю, и веса, с которыми они связаны, не будут обучаться. [40]
В блоке распознавания осуществляется классификация входных векторов. Это правило ( победитель забирает все) реализуется за счет введения связей с отрицательными весами с выхода нейрона на входы остальных нейронов слоя. Для простоты на рисунке не показаны латерально-тормозящие связи. Кроме того, каждый нейрон имеет положительную обратную связь с выхода на собственный вход, усиливающую и поддерживающую единичный выходной уровень. [41]
Из выражения (1.17) следует, что когда выходное значение у / ( ( Н стремится к нулю, эффективность обучения заметно снижается. При двоичных входных векторах в среднем половина весовых коэффициентов не будет корректироваться, поэтому область возможных значений выходов нейронов ( 0, 1) желательно сдвинуть в пределы ( - 0 5, 0 5), что достигается простыми модификациями логистических функций. [42]
Исходное состояние нейронов слоя 1 ( их выходные сигналы) задается случайным образом, выходы нейронов слоя 2 принимаются равными нулю. После запуска нейронная сеть выполняет вычисления, пока ее состояние не стабилизируется, причем количество циклов работы ( вычисление выходов нейронов сети и распределение их на входы по связям) не превышает количества вершин сетевого технологического графа. [43]
Более того, оказывается, что число и размещение воздействующих на синапсы стимулов, необходимых для возбуждения нейрона, могут постепенно меняться, что, по-видимому, служит проявлением приспосабливания. Входы некоторых нейронов являются чувствительными окончаниями органов; входы всех остальных нейронов, оказывается, должны быть соединены через синапсы с выходами других нейронов. [44]
Стохастические методы обучения выполняют псевдослучайные изменения величин весов, сохраняя те изменения, которые ведут к улучшениям. Чтобы увидеть, как это может быть сделано, рассмотрим рис. 5.1, на котором изображена типичная сеть, в которой нейроны соединены с помощью весов. Выход нейрона является здесь взвешенной суммой его входов, которая, преобразована с помощью нелинейной функции ( подробности см. гл. [45]
Страницы: 1 2 3 4 5