Cтраница 2
Поэтому важно, если только это возможно, до начала решения задачи восстановления составить хотя бы грубую модель зависимости, чтобы понять ожидаемый вклад аргументов. Такая модель очень нужна, конечно, и при выборе пространства описания. [16]
Идея этого алгоритма основана на гипотезе, что плотность распределения в пространстве описания многомодальна. Алгоритм автоматически находит их в пространстве описания, и если случится так, что в каждый таксон попадают объекты только одного класса, то задача по существу уже решена. Но и тогда, когда в таксонах будут представлены объекты разных классов, можно рассчитывать, что в пределах таксона они разделяются уже проще, чем во всей совокупности. Поэтому в каждом отдельном таксоне можно использовать линейное решающее, правило. [17]
Затем для каждой из частей строит свое линейное решающее правило. Результирующее правило реализует теперь достаточно сложное нелинейное разделение классов в пространстве признаков. Сложность этого правила может быть оценена нак произведение размерности пространства описания на число таксонов. Именно таково будет число настраиваемых коэффициентов во всех линейных правилах. Следовательно, с увеличением числа таксонов сложность быстро становится соизмеримой с длиной выборки или превысит ее. [18]
Отбросив предложенный образ стола, можно манипулировать любыми числами и любыми объектами, размещая их в пространстве описания. Это теперь не просто плоская поверхность стола или трехмерное пространство, а совершенно новое пространство, которое определяется теми переменными, которые вы используете, - каждая переменная соответствует одной оси. И значения этих переменных, соответствующие конкретному объекту, определяют его положение в пространстве описания. [19]
Для задач восстановления значений в заданных точках имеется еще дополнительный алгоритм, строящий кусочно-линейное приближение регрессии, линейное в локальных окрестностях точек рабочей выборки. Алгоритм позволяет использовать специфику этого класса задач для яостроепия в целом нелинейного приближения регрессии. Используемый здесь метод состоит в том, что вокруг каждой точки рабочей выборки в пространстве описания строится сферическая окрестность и далее в этой окрестности ищется линейное приближение регрессии по той части обучающей выборки, которая в нее попадает. С увеличением радиуса возрастает число элементов обучения, попадающих в окрестность - это облегчает задачу восстановления. С другой стороны, нелинейные эффекты, если они есть, с увеличением радиуса сказываются все сильнее - это приводит к увеличению остаточной невязки. [20]
В последующем развитии физики функциональная связь стала традиционной и почти единственной формой, в которую укладывались многочисленные закономерности, выявляемые в научных исследованиях. Между тем функциональная связь - не единственная форма закономерности. Ее можно рассматривать лишь как частный случай более общего типа закономерности - запрета, задающего в пространстве описаний объектов исследуемого класса некоторые компактные области, где заведомо или с высокой степенью достоверности не существует ни одного объекта. Система таких закономерностей образует общую область запрета, знание которой помогает предсказывать особенности конкретных объектов с-частично заданными свойствами. [21]
Если требуется больше информации, то может использоваться то или иное понятие соседства в пространстве описаний. Как для обычной системы памяти со случайными связями, так и для систем списочной памяти потребуется создать метод кодирования и систему извлечения информации, которые позволяли бы находить документы, относящиеся к указанному диапазону тем. При этом возникают математические проблемы, близкие к вопросам теории кодирования - проблемы, связанные с нахождением того правильно закодированного сообщения, которое меньше всего отличается от искаженного при передаче. Отношения соседства в пространстве описаний могут быть основаны на простых семантических свойствах предложений, например на подобии значений различных терминов. Могут также использоваться логические отношения; можно потребовать, чтобы система извлечения информации нашла наименее общее утверждение, применимое в данной ситуации. Если система памяти будет использоваться для индуктивных выводов то может понадобиться найти то из непосредственно неприменимых утверждений, которое с помощью самой слабой формальной процедуры обобщения можно сделать применимым. [22]
В конечном итоге принадлежность участка к тому или иному эксплуатационному объекту определяется набором этих признаков. Поставим каждый признак и вектор ор тонормированного базиса во взаимнооднозначное соответствие. Такое пространство обычно называют пространством описаний. В данном случае это пространство является евклидовым. В пространстве описаний каждой паре точек х, у из Ет соответствует вещественное число 1 ( х, у), называемое расстоянием. Расстояние выбирается учителем, исходя из его представлений о степени сходства классифицируемых объектов. [23]
Почему принят такой подход. Как уже отмечалось, никакой эффективный алгоритм обучения распознаванию образов не может исходить из произвольно широкого класса решающих правил. Частично эта возможность предусмотрена и в данном комплексе, за счет выбора пространства описания, в котором ищется разделяющая поверхность. В общем же случае единый алгоритм поиска оптимального нелинейного решающего правила неизвестен. [24]
Метод, который мы только что описали, - это метод проб и ошибок. Первоначально программа формирует поверхность, которая расположена таким образом, чтобы можно было увидеть, на какой стороне ее находится объект, для принятия соответствующего решения / Возможно, ее положение таково, что принятое решение правильно. Но если оно ошибочно, то это толкает нас на то, чтобы изменить положение поверхности в пространстве описания, воспользовавшись вновь полученными значениями. Следующий объект позволяет провести аналогичный процесс корректировки положения поверхности. Это происходит многократно до тех пор, пока мы не будем получать каждый раз правильное решение, если, конечно, оно вообще может быть достигнуто. [25]
В целом процесс решения задачи распознавания выглядит так. Сначала из содержательных соображений нужно задаться набором параметров, признаков и функций от них, которые представляются необходимыми для распознавания. После перехода к бинарному описанию следует применить программу построения линейного решающего правила с отбором оптимальной совокупности признаков. Если результат удовлетворяет исследователя, на этом можно остановиться. В противном случае можно либо расширить пространство описания, включив в него новые параметры или функции от них и далее снова воспользоваться программой построения линейного правила, либо перейти к программам, основанным на построении таксонной структуры. [26]
В этой группе методов задача обучения распознаванию образов сводится к задаче восстановления плотности распределения для каждого из классов. В условиях малых выборок она может быть решена только при специальных предположениях о виде распределения. К тому же это принципиально более сложная задача, чем задача построения решающего правила. Ведь для построения решающего правила ие нужно знать распределение во всем пространстве описания. Нужно лишь выделить области, где плотность распределения одного класса превосходит плотности других классов. Поэтому эффективные методы распознавания, основанные на байесовом подходе, были получены только для специальных видов распределения в пространстве признаков, а именно, для случая, когда в каждом классе признаки распределены независимо или когда признаки распределены нормально. В то же время па практике распределение признаков часто не относится к указанным специальным типам. [27]
В конечном итоге принадлежность участка к тому или иному эксплуатационному объекту определяется набором этих признаков. Поставим каждый признак и вектор ор тонормированного базиса во взаимнооднозначное соответствие. Такое пространство обычно называют пространством описаний. В данном случае это пространство является евклидовым. В пространстве описаний каждой паре точек х, у из Ет соответствует вещественное число 1 ( х, у), называемое расстоянием. Расстояние выбирается учителем, исходя из его представлений о степени сходства классифицируемых объектов. [28]