Cтраница 1
Весовые коэффициенты связей Wy, i2 7, j2 7, равны величинам, обратным количеству приходящих связей этого типа на вход j - того нейрона, и взятым со знаком минус. [1]
Если весовые коэффициенты связей случайны, случайной будет и реакция такой системы - формируемое на ее выходе изображение. Задача обучения состоит в том, чтобы путем подбора весовых коэффициентов связей добиться требуемой реакции системы на предъявляемые изображения. [2]
N соответственно; w - весовые коэффициенты связей; р () - нелинейная и дважды дифференцируемая функция активации нейрона; Н - число нейронов в скрытом слое. [3]
Процесс обучения сводится к изменению весовых коэффициентов связей / -, приближающему условные вероятности тп [ ( 3 а), которые порождаются внутренней моделью, к условным вероятностям тг ( 0 а), характерным для окружающего мира. [4]
Если результат распознавания совпадает с заданным, весовые коэффициенты связей не изменяются. [5]
Хромосома будет представлять собой вектор действительных чисел, кодирующих весовые коэффициенты связей нейронов входного слоя с нейронами одного или нескольких скрытых слоев, а также связи между нейронами скрытых слоев и нейронами выходного слоя. [6]
Метод обратного распространения ошибок использует детерминированный алгоритм оптимизации при поиске требуемых весовых коэффициентов связей. Ввиду этого имеется опасность, что при движении строго вниз по градиенту функции ошибки Е будет достигнут какой-то из локальных минимумов этой функции и процесс обучения приостановится, не найдя истинного решения. Если ошибка остается значительной, часто достаточно добавить еще несколько элементов. В результате размерность пространства весовых коэффициентов возрастает и возникают пути обхода барьеров, отделяющих плохие локальные минимумы в подпространстве более низкой размерности. [7]
Если информация может обрабатываться искусственной нейросе-тью, то она должна храниться в весовых коэффициентах связей Wjj. Теорема Розенблата отвечает на этот вопрос положительно. В своей работе Розенблат указал также и приближенную процедуру обучения с учителем, которая шаг за шагом подстраивает синаптическую карту весов по ошибкам, измеряемым на выходе нейронной сети. Веса Wjj принято называть синаптическими, так как они имитируют силу сина-птической связи между биологическими нейронами. [8]
Выходные сигналы нейронов слоя 1 распределяются на соответствующие моделям технологического оборудования входы нейронов слоя 2, умноженные на весовые коэффициенты связей Wj, которые равны количеству станков, необходимых для выполнения i-той операции, взятому с обратным знаком. [9]
Здесь под обучением понимается настройка архитектуры сети и весов связей для эффективного выполнения специальной задачи. Обычно нейронная сеть должна настроить весовые коэффициенты связей по имеющейся обучающей выборке. Функционирование сети улучшается по мере итеративной настройки весовых коэффициентов. Свойство нейросетей обучаться на примерах делает их более привлекательными по сравнению с системами, которые функционируют по фиксированным правилам, сформулированным экспертами. Однако и у нейронных сетей есть немало недостатков с точки зрения моделирования интеллектуальных процессов, которые в первую очередь обусловлены их весьма примитивными базовыми элементами. Кроме того, время обучения сети порой бывает довольно длительным, причем отнюдь не всегда гарантируется сходимость. [10]
Если весовые коэффициенты связей случайны, случайной будет и реакция такой системы - формируемое на ее выходе изображение. Задача обучения состоит в том, чтобы путем подбора весовых коэффициентов связей добиться требуемой реакции системы на предъявляемые изображения. [11]
Подача определенной картины заключается в том, что мы фиксируем в нужных состояниях входные элементы, позволяя остальным элементам сети совершать переходы между состояниями согласно описанному ниже алгоритму. Заметим, что постоянные смещения Ь в ( 20) можно считать результатом связи элемента i с дополнительным входным элементом, который все время находится во включенном ( активном) состоянии; Ь; тогда есть весовой коэффициент связи, соединяющей элемент / с этим дополнительным элементом. [12]
Аналогичные задачи могут быть решены и без использования эвристических методов. Допустим, что необходимо построить схему из элементов таким образом, чтобы каждый элемент был некоторым образом связан с соседними. Тогда при заданной длине связи между элементами ( при заданном весовом коэффициенте связи) задача построения оптимальной схемы может быть поставлена как задача отыскания такой последовательности элементов в схеме, при которой суммарная длина всех связей в системе минимальна. Аналогичным образом основные особенности построения схем разделения многокомпонентных смесей заключается в том, что в процессе синтеза схемы разделения появляются некоторые подгруппы компонентов ( фракции), которые в дальнейшем возможно должны быть разделены на отдельные компоненты или в свою очередь на некоторые фракции. Методы, которые могут быть использованы для реализации дальнейшего разделения каждой из таких фракций ограничены с той точки зрения, что в результате синтеза должна быть получена реализуемая последовательность процессов разделения, объединяемых в общую схему. [13]
Входные сигналы распространяются по сети, порождая некоторый выходной вектор. Для работы алгоритма требуется, чтобы характеристика вход-выход нейроподобных элементов была неубывающей и имела ограниченную производную. Обычно для этого используют сигмоидальные функции. Если они совпадают, то весовые коэффициенты связей не изменяются. В противном случае вычисляется разница между фактическими и требуемыми выходными значениями, которая передается последовательно от выходного слоя к входному. На основе этой информации проводится модификация связей в соответствии с обобщенным дельта-правилом, которое имеет вид: & pWji T 8jpyip, где изменение в силе связи Wj, для / ьй обучающей пары ApWjj пропорционально произведению сигнала ошибки у - го нейрона 8Jp, получающего входной сигнал по этой связи, и выходного сигнала / - го нейрона, посылающего сигнал по этой связи. Определение сигнала ошибки является рекурсивным процессом, который начинается с выходных блоков. Для выходного блока сигнал ошибки 6 i, y j ( Tjp - Rjp), где Tjp и Rjp - соответственно желаемое и действительное значения выходного сигнала у - го блока; yj - производная от выходного сигнала у - го блока. [14]
Входные сигналы распространяются по сети, порождая некоторый выходной вектор. Для работы алгоритма требуется, чтобы характеристика вход-выход нейроподобных элементов была неубывающей и имела ограниченную производную. Обычно для этого используют сигмоидальные функции. Если они совпадают, то весовые коэффициенты связей не изменяются. В противном случае вычисляется разница между фактическими и требуемыми выходными значениями, которая передается последовательно от выходного слоя к входному. На основе этой информации проводится модификация связей в соответствии с обобщенным дельта-правилом, которое имеет вид: ApWji Л / рУф где изменение в силе связи wjf для р-тл обучающей пары ApWjj пропорционально произведению сигнала ошибки У-ГО нейрона 6, получающего входной сигнал по этой связи, и выходного сигнала / - го нейрона, посылающего сигнал по этой связи. Определение сигнала ошибки является рекурсивным процессом, который начинается с выходных блоков. Для выходного блока сигнал ошибки 8jp y j ( Tip - Rjp), где Tjp и Rjp - соответственно желаемое и действительное значения выходного сигнала у - го блока; у - - производная от выходного сигнала у - го блока. [15]