Состояние - нейрон
Cтраница 2
Следует отметить, что вид откликов на каждый класс входных образов неизвестен заранее и будет представлять собой произвольное сочетание состояний нейронов выходного слоя, обусловленное случайным распределением весов на стадии инициализации. Вместе с тем, сеть способна обобщать схожие образы, относя их к одному классу. [16]
Проводя аналогию с биологическими системами, можно отметить, что значения весовых коэффициентов W и WT образуют долговременную память, а состояние нейронов - кратковременную память. [17]
 |
Фрагмент нейронной сети с возбуждающими и тормозящими связями. [18] |
Количество возможных конфигураций сети такого типа очень велико. Велико и количество способов вычисления состояния нейрона при заданной сумме состояний на его входах. Эти детали теории нейронных сетей выходят за рамки данной книги. [19]
Подобно спиновым стеклам, такие сети будут иметь множество стационарных конфигураций активностей нейронов, являющихся аттракторами ( от англ, attract - притягивать), т.е. такими состояниями, к которым сходится динамика нейросети. Именно введенная Хопфилдом динамика изменений состояний нейронов наряду с симметричностью связей между нейронами определили новизну описываемой модели. [21]
Представляет собой стохастическое правило обучения, которое следует из информационных и термодинамических принципов. Целью обучения Больцмана является такая настройка весовых коэффициентов, при которой состояния видимых нейронов удовлетворяют желаемому распределению вероятностей. [22]
Недостатком сетей Хопфилда является их тенденция стабилизироваться в локальном, а не глобальном минимуме функции энергии. Эта трудность преодолевается в основном с помощью класса сетей, известных под названием машин Больцмана, в которых изменения состояний нейронов обусловлены статистическими, а не детерминированными закономерностями. Существует тесная аналогия между этими методами и отжигом металла, поэтому и сами методы часто называют имитацией отжига. [23]
 |
Нейрон когнитрона с ускоренным торможением. [24] |
Соответствующий тормозящий нейрон суммирует выходы всех нейронов из этой области и вырабатывает сигнал, тормозящий воздействие на целевой нейрон. Данный подход эффективен для нейрофизиологического моделирования, однако требует существенных вычислительных затрат из-за возможного большего числа итераций при стабилизации состояния нейрона. [25]
Недостатком классического варианта сетей Хопфилда является их тенденция к стабилизации в локальных, а не глобальных минимумах сети. Предложены статистические сети Хопфилда, в которых этот недостаток преодолевается за счет задания статистических, а не детерминистских правил изменения состояний нейронов. [26]
В этом случае должна быть сформирована система уравнений, левая часть которой строится на базе графа сети и функций активации и состояния нейронов. Основные трудности связаны с формированием правой части. Если известна структура области решения, то правая часть может быть как-то параметрически описана через известную структуру этой области. После решения сформированной системы будут вычислены необходимые веса ребер нейронной сети, решающей требуемую задачу. Однако, как правило, структура области решения заранее не известна. Максимум, что известно, - отдельные точки области решения, которые можно использовать как примеры при обучении сети. [27]
 |
Энергетическая поверхность двунаправленной ассоциативной памяти. [28] |
Каждый такой цикл вызывает уточнение выходных векторов слоя 1 и 2 до тех пор, пока не будет достигнута точка стабильности в сети. Эта точка может быть рассмотрена как резонансная, так как вектор передается обратно и вперед между слоями сети, всегда обрабатывая текущие выходные сигналы, но больше не изменяя их. Состояние нейронов представляет собой кратковременную память ( КП), так как оно может быстро изменяться при появлении другого входного вектора. Значения коэффициентов весовой матрицы образуют долговременную память и могут изменяться только на более длительном отрезке времени, используя представленные ниже в данном разделе методы. [29]
Сигналы, поступающие из окружающей среды, воздействуют на чувствит. Возбуждение рецепторов передается по ответвлениям, отходящим от нервных клеток ( нейронов), др. нервным клеткам, к-рые при выполнении определ. В зависимости от характера внешних сигналов, связей между нейронами и состояний промежуточных нейронов могут возбуждаться те или иные выходные ( эффекторные) нейроны, управляющие соответствующими реакциями ( напр. Отвлекаясь от чисто биология, структуры, приближ. [30]
Страницы: 1 2 3