Cтраница 3
![]() |
Аппроксимация байесовской разделяющей функции. [31] |
Таким образом, один из способов, основанный на использовании выборок, состоит в оценке Е fyy l и Е [ zy ] и применении выражения ( 51) с целью получения оптимальной линейной разделяющей функции. [32]
Линейный дискриминант Фишера является моделью в принятом нами подходе. Задача определения линейной разделяющей функции будет сформулирована как задача минимизации некоторой функции критерия. Однако поскольку получение линейного дискриминанта, дающего минимальный риск, представляется достаточно трудным, в данной главе будет исследовано несколько аналогичных функций критерия, имеющих более простые аналитические выражения. Наибольшее внимание уделяется исследованию сходимости различных процедур градиентного спуска для минимизации этих функций. [33]
Выражение h ( X) есть линейная функция относительно вектора X. Ее называют линейной разделяющей функцией. Если заданные распределения являются нормальными с равными ковариационными матрицами, то линейная разделяющая функция совпадает с логарифмом отношения правдоподобия. [34]
Выражение h ( X) есть линейная функция относительно вектора X. Ее называют линейной разделяющей функцией. VQ, оптимальные по различным критериям. Если заданные распределения являются нормальными с равными ковариационными матрицами, то линейная разделяющая функция совпадает с логарифмом отношения правдоподобия. [35]
Среди разнообразных разделяющих функций самой простой в применении и потому наиболее распространенной в химии является линейная разделяющая функция. Как отмечалось выше, линейная разделяющая функция эквивалентна некоторой весовой функции, при умножении которой на вектор образа получается скалярный результат. Несмотря на то что принципиально возможна множественная классификация, самым простым классификатором служит бинарное устройство, дающее один из двух альтернативных ответов. При использовании для бинарной классификации линейной разделяющей функции удобно определять принадлежность образа к одному из двух классов по знаку скаляра. [36]
![]() |
Разделяющая поверхность и разделяющий слой в пространстве признаков. [37] |
Величины Кj называются весовыми коэффициентами. Методы распознавания с помощью линейных разделяющих функций называются линейными методами разделения. Диагнозы, для которых возможно такое распознавание, считаются линейно-разделимыми. [38]
Таким образом, коэффициенты линейной разделяющей функции определяются через коэффициент корреляции между требуемыми выходами и входными величинами Xj. Этот вывод совпадает с выводом, сделанным ранее для обычных линейных разделяющих функций. Следует, однако, заметить, что для би-ларных входных величин условие UUT - N1 выполняется без дополнительного преобразования автоматически. [39]
Таким образом, коэффициенты линейной разделяющей функ-дии определяются через коэффициент корреляции между требуемыми выходами и входными величинами Xj. Этот вывод совпадает с выводом, сделанным ранее для обычных линейных разделяющих функций. Следует, однако, заметить, что для би-ларных входных величин условие UUT - N1 выполняется без дополнительного преобразования автоматически. [40]
В данном пункте будет показано, что при соответствующем выборе вектора b разделяющая функция а у, найденная по методу минимальной квадратичной ошибки, непосредственно связана с линейным дискриминантом Фишера. Для того чтобы показать это, следует вернуться к необобщенным линейным разделяющим функциям. [41]
Рассмотрим алгоритм построения решающей функции как разделяющей границы D ( X отделяющей области положительного и отрицательного потенциалов. При описании алгоритма используем обозначения, принятые в описании алгоритма построения линейной разделяющей функции. Легко заметить, что оба алгоритма имеют много общего. [42]
Третий этап заключается в построении решающего правила для определения принадлежности объектов с неизвестным значением целевого признака к одному из классов эталонных объектов. Для этого обычно используются три вида решающих правил: основанных на введении линейной разделяющей функции; использующих процедуру голосования; основанных на вычислении меры сходства распознаваемых объектов с обобщенными характеристиками заданных классов. [43]
Высокая степень полиномов, содержащих большое количество переменных, естественно, нежелательна из-за усложнения расчетов. Поэтому в случаях, когда оптимальная разделяющая функция нелинейна, тем не менее возникает потребность найти оптимальную линейную разделяющую функцию. Однако часто выявляются весьма серьезные трудности при выводе линейной разделяющей функции, удовлетворяющей требованию минимального риска. Кроме полученного Андерсоном и Бахадуром ( 1962) решения общего многомерного нормального случая для двух классов, других общих решений получено не было. [44]
![]() |
Линейные границы областей решений для задачи трех классов. а - дихотомия й 7не со /, б - дихотомия а - / а у. [45] |