Cтраница 3
В этой книге развивается взгляд, согласно которому именно абстрактная булева алгебра с вероятностной мерой образуют адекватную математическую модель того, что называется системой событий. Многочисленные теоремы о представлении позволяют в случае надобности переходить на языки конкретных реализаций, используя факты, накопленные в других разделах математики. Мы избегаем при этом привилегированных реализаций и стремимся вести все изложение на чисто алгебраическом языке. Теория булевых алгебр в настоящее время достаточно развита для этого. [31]
Адекватная мера разнообразия класса решающих правил, с помощью которой и удается построить необходимые и достаточные условия равномерной сходимости частот к вероятностям, - энтропия системы событий, заданной решающими правилами. Однако вычислить энтропию системы событий на выборках длины / можно, лишь зная плотность Р ( х), которая, согласно постановке задачи обучения распознаванию образов, считается неизвестной. Поэтому была введена новая мера разнообразия, которая получается из энтропии выбором наиболее неблагоприятного распределения. Эта мера разнообразия выражается через емкость класса решающих правил и легко может быть вычислена. [32]
Увеличение энтропии при переходе системы между двумя заданными устойчивыми состояниями связано с возрастанием случайности или неупорядоченности системы, хотя правильно понять это можно лишь в рамках статистической термодинамики, рассматривающей происходящие в системе события на микроскопическом уровне. Таким образом, непосредственная связь между потерянной работой и образованием энтропии является следствием того факта, что максимально возможную работу можно совершить лишь в полностью упорядоченном процессе. Иначе говоря, система должна проходить через последовательность устойчивых состояний, а значит, процесс должен быть обратимым. Следовательно, потеря работы в необратимом процессе обусловлена невозможностью поддержания полной упорядоченности при переходе системы из одного энергетического состояния в другое. Поэтому неудивительно, что потерянная работа ( или диссипация, как ее называют при некоторых условиях) непосредственно связана с образованием энтропии в данном процессе. В рамках теоретико-информационного подхода к статистической термодинамике [16] потерянная работа оказывается в прямой связи с потерей термодинамической информации, или с возрастанием неопределенности вследствие необратимости рассматриваемого процесса. [33]
Таким образом, утверждение (2.167) доказано, среднее количество информации, содержащейся в одной полной системе событий о другой полной системе событий, всегда неотрицательно. Если системы событий взаимно независимы, количество информации, содержащейся в одной из них о другой, равно нулю. Бели же системы зависимы, то это количество информации положительно. Симметричность выражения (2.169) относительно А и 3d показывает, что среднее количество информации, содержащейся в А о 5В, равно среднему количеству информации, содержащейся в о А. Среди слабых голубых звездообразных объектов, наблюдаемых в высоких галактических широтах, 47 % являются звездами - белыми карликами, 23 % - звездами - субкарликами и 30 % - звездопо-добыыми галактиками. [34]
Других событий, кроме приведенных в этой таблице, произойти не может. Такая система событий называется полной. [35]
Из сказанного следует, что в качестве систем событий целесообразно рассматривать такие системы множеств, которые являются алгебрами. Именно такие системы событий мы и будем рассматривать далее. [36]
В 1917 году С.Н. Бернштейн [ ДС-8 ] предлагает строить аксиоматизацию теории вероятностей, основываясь на качественном сравнении событий по степени их большего или меньшего правдоподобия. Сама же система событий рассматривалась как булева алгебра. [37]
Из сказанного следует, что в качестве систем событий целесообразно рассматривать такие системы множеств, которые являются алгебрами. Именно такие системы событий мы и будем рассматривать далее. [38]
Тогда можно найти такую систему отсчета / С, в которой А / будет равен нулю. В этой системе события, разделенные интервалом As, произойдут в одной точке. [39]
Адекватная мера разнообразия класса решающих правил, с помощью которой и удается построить необходимые и достаточные условия равномерной сходимости частот к вероятностям, - энтропия системы событий, заданной решающими правилами. Однако вычислить энтропию системы событий на выборках длины / можно, лишь зная плотность Р ( х), которая, согласно постановке задачи обучения распознаванию образов, считается неизвестной. Поэтому была введена новая мера разнообразия, которая получается из энтропии выбором наиболее неблагоприятного распределения. Эта мера разнообразия выражается через емкость класса решающих правил и легко может быть вычислена. [40]
Совсем не так просто обстоит дело в эксперименте с бросанием точки на отрезок. Здесь в качестве системы событий в дальнейшем придется выделить специальный класс подмножеств, более широкий, чем алгебра. [41]
Этот факт позволяет описать систему событий, представимых данным конечным автоматом с помощью конечной системы формул, содержащих буквы входного алфавита и знаки указанных трех операций. [42]
Если вероятность события меньше 0 5, то оно считается мало вероятным, а если больше - вероятным событием. Если число N всей совокупности системы событий достаточно велико, значение вероятности приобретает смысл очевидности, достоверности. Если не принимать особых мер, то стороны монеты могут выпадать с одинаковой частотой или вероятностью при повторении бросания. [43]
В то же время С условий первой строки достаточно для обеспечения попарной независимости этих событий. И хотя попарная и взаимная независимость системы событий, строго говоря, не одно и то же, их различие представляет скорее теоретический, чем практический интерес: практически важных примеров попарно независимых событий, не являющихся взаимно независимыми, по-видимому, не существует. [44]
Этот член всегда положителен. Только при таком распределении вероятностей событий мера неопределенности системы событий равна нулю. И это есть минимальное значение меры неопределенности, так как при любом ином распределении вероятностей событий мера неопределенности, складывающаяся из положительных слагаемых, положительна. [45]