Cтраница 2
В еории математической статистики разработаны непараметрические и свободные от распределений гроцедуры оценки - это минимаксные оценки и оценки максимального правдоподобия [82], кэторые дают решение на множестве допустимых распределений, и это решение является наилучшим вля наименее предпочтительного распределения из всего множества допустимых распределений. [16]
Рассмотрим теперь важный класс оценок, позволяющий избежать каких-либо предположений об априорном распределении, так называемые минимаксные оценки. Из (8.45) следует, что минимальное значение Mt достигается при t E0 [ 0 Х ], так что при известном априорном распределении задача оценивания решается до конца. [17]
Соображения, приводящие к такой экономии, можно пояснить при помощи рис. 3.10. Мы начинаем с минимаксной оценки, использующей заданные оценки терминальных вершин. В исходном алгоритме ничего не говорится о порядке оценки вершин, но в любой практической реализации должен быть установлен определенный порядок. [18]
Именно, в работах [14, 15, 16] для s 1 и в работе [9] для s 2 было доказано, что среднее т / 7 является минимаксной и притом единственной минимаксной оценкой. При s 3, как следует из примера Стейна ( 4), существуют суперэффективные минимаксные оценки с Д ( а) s / N при каждом а. [19]
Стейн) X дает образцовую оценку для математического ожидания нормального распределения: X является несмещенной состоятельной оценкой с минимальной дисперсией, допустимой при квадратичной функции потерь L ( 0, с) ( 9 - с) 2, а также - минимаксной оценкой. Именно поэтому открытие К. Стейна, сделанное более 20 лет назад и утверждающее, что в случае многомерных нормальных распределений оценка X не является допустимой, явилось сюрпризом. Точнее, рассмотрим вероятностные распределения, определенные на fc - мерном евклидовом пространстве, координаты которых ( для простоты) независимы и имеют нормальное распределение N ( 6, т), причем стандартное отклонение а известно. [20]
Программа, показанная на рис. 15.3, производит просмотр в глубину дерева поиска, систематически обходя все содержащиеся в нем позиции вплоть до терминальных; она вычисляет статические оценки всех терминальных позиций. Как правило, для того, чтобы получить правильную минимаксную оценку корневой вершины, совсем не обязательно проделывать эту работу полностью. [21]
Полные статистические сведения об искомом векторе на практике редко могут быть получены, что ставит под сомнение применение байесова метода. Следует, однако, учесть, что методы нахождения минимаксных оценок, минимизирующих по оператору i ( 0 максимальное по всем возможным X значение условного риска, а также условных минимаксных оценок ( когда на область значений X, накладываются ограничения) сводятся к байесовым методам, и поэтому байесовы решения необходимы и для нахождения решений в условиях неопределенности. [22]
Для сокращения времени счета и объема требуемой оперативной памяти предлагается использовать следующую стратегию движения к оптимуму. Первоначальное движение по дереву ветвления осуществляется из вершины с минимаксной оценкой. Одновременно запоминается оценка, ближайшая к минимаксной, которая играет роль рекорда. Если на / х-м шаге ветвления, соответствующем выбранному направлению, все оценки окажутся хуже рекорда, то за исходную точку ветвления принимается вершина с оценкой, равной рекорду, а из множества остальных выбирается ближайшая к лучшей, и процедура повторяется в новом направлении. [23]
Незнание априорной ПВ X исключает возможность нахождения байесовских оценок, так как воспользоваться равенством (4.14) для построения апостериорного распределения при этом не удается. Можно, конечно, в этом случае применить так называемые минимаксные оценки, гарантирующие непревышение средним риском П при любых W0 ( X) определенного значения Пма 1СМВВ, являющегося значением П для некоторой наименее благоприятной априорной ПВ. Отметим, однако, что отыскание таких оценок не просто и, кроме того, сами минимаксные оценки нередко излишне осторожны, минимизируя средний риск для плохих W0 ( X) ценой существенного завышения П для остальных. [24]
Так, на рис. ЗЛО вершины оцениваются в порядке, соответствующем порядку помечающих их букв в латинском алфавите. Альфа-бета метод работает в точности так же, как и метод минимаксной оценки, но одновременно собирает как можно больше сведений об оцениваемом дереве. [25]
Когда распределение помех имеет длинные хвосты, как, скажем, нормальное, такая минимаксная оценка оказывается по дисперсии существенно хуже, чем оценка МНК. Однако, если распределение имеет четкие границы, причем плотность вероятности вблизи границ заметно отлична от нуля, например так, как у равномерного распределения, минимаксная оценка дает существенный выигрыш по сравнению с МНК. [26]
Именно, в работах [14, 15, 16] для s 1 и в работе [9] для s 2 было доказано, что среднее т / 7 является минимаксной и притом единственной минимаксной оценкой. При s 3, как следует из примера Стейна ( 4), существуют суперэффективные минимаксные оценки с Д ( а) s / N при каждом а. [27]
Для того, чтобы можно было сравнивать значения оценочного полинома в начале и в конце достаточно длинной цепочки ходов, Альфа дранит в памяти оценки позиций, встретившихся в течение партий, вместе с весами оценочного полинома. В процессе игры Альфа сравнивает оценку, полученную на несколько ходов раньше, с минимаксной оценкой для текущей позиции. Разность между этими оценками 6 используется для коррекции оценочного полинома. Если б0, разумно предположить, что прежняя оценка была заниженной. Поэтому веса положительных членов следует увеличить, а веса отрицательных - уменьшить. Если 60, производится противоположная операция. В этом случае можно предположить, что либо прежняя оценка была неправильной, либо плохо были выбраны последующие ходы. Следовательно, нужно увеличить веса отрицательных членов и уменьшить веса положительных. Новые веса устанавливаются в результате следующей процедуры. [28]
Незнание априорного распределения оказалось столь разрушительным для обоснованности статистических выводов из теоремы Байеса, что эта теорема была почти исключена из статистических исследований. Однако во второй трети XX века байесовский подход вновь получил некоторое развитие, благодаря важной роли, которую он играет при поиске допустимых и минимаксных оценок ( см. замечания в I. Все более распространялась мысль о том, что последовательное применение формулы Байеса ( когда после каждого наблюдения апостериорные вероятности пересчитываются и на следующем шаге они используются как априорные вероятности) снижает роль исходного априорного распределения, так как после многократного пересчета исходное распределение вряд ли оказывает влияние на заключительное апостериорное распределение. [29]
Полные статистические сведения об искомом векторе на практике редко могут быть получены, что ставит под сомнение применение байесова метода. Следует, однако, учесть, что методы нахождения минимаксных оценок, минимизирующих по оператору i ( 0 максимальное по всем возможным X значение условного риска, а также условных минимаксных оценок ( когда на область значений X, накладываются ограничения) сводятся к байесовым методам, и поэтому байесовы решения необходимы и для нахождения решений в условиях неопределенности. [30]