Cтраница 3
Теорема 4.23. Пусть ( Q, У, Р, Т) - динамическая система Скорость создания информации преобразованием Т равномерно-непрерывна на S. Q) относительно метрики разбиений и псевдометрики Рохлина и непрерывна на X ( Q) относительно псевдометрики Рохлина. [31]
Если источник сообщения имеет мощность Q, энтропийную мощность Q и ширину полосы Wlt скорость R создания информации ( в дв. [32]
Это умаял, этот пестрый день звучат настолько по-русски, по-тютчевски, что здесь приходится говорить о создании новой поэтической информации, а не о перекодировке, переводе информации, содержавшейся в стихотворении Гейне. [33]
Если источник производит непрерывную функцию времени, то, если нет оговорок, ему можно приписать бесконечную скорость создания информации. Действительно, для того чтобы охарактеризовать точно величину с непрерывным изменением, требуется бесконечное число двоичных цифр. Невозможно передавать точно непрерывную информацию по каналу с конечной пропускной способностью. [34]
![]() |
К доказательству теоремы. [35] |
Таким образом, доказаны прямая и обратная теоремы кодирования для дискретных постоянных источников и показано, что скорость создания информации таким источником равна энтропии Н ( X) ансамбля сообщений X. Другими словами, наименьшее количество двоичных символов, затрачиваемых на кодирование каждого сообщения из X, равно Н ( Х) бит. [36]
Если источник производит непрерывную функцию времени, то, если нет оговорок, мы должны приписать ему бесконечную скорость создания информации. Действительно, для того чтобы охарактеризовать точно величину с непрерывным изменением, требуется бесконечное число двоичных цифр. [37]
Теорема справедлива как для дискретных, так и для непрерывных источников информации, если в последнем случае под скоростью создания информации понимать е-энтропию. Приведенная теорема указывает на существование способа кодирования, при котором вероятность ошибки произвольно мала, а скорость передачи информации не уменьшается по сравнению со скоростью создания информации источником, если только Т ( х) С, но она не разъясняет, как найти этот способ кодирования. [38]
А ( Т, ) [ и Л ( Т), поскольку - образующее разбиение ] действительно является скоростью создания информации. [39]
Теорема 9.2. е-энтропия некоторого дискретного ансамбля X, вычисленная относительно ограниченного критерия качества d ( x, у), есть Е - скорость создания информации дискретным постоянным источником, выбирающим сообщения из ансамбля X, относительно того же критерия качества. [40]
Первое обобщение было предложено Кушниренко [73] с использованием принадлежащего Кириллову [67] определения и названо им Л - энтропией) Оно состоит в вычислении скорости создания информации вдоль некоторой подпоследовгР тельности моментов времени. [41]
Целью первой из них ( кодирования источника) является такое преобразование источника, чтобы полученный новый источник был достаточно близок к исходному и обладал скоростью создания информации, не превосходящей пропускную способность канала. [42]
При работе в БКГТ ( ИВЦ), осуществляющих контроль переводных операций с использованием счетно-суммирующих машин в объеме знаний всех участков работы, контроль за полнотой и правильностью создания информации на участке перфорации. [43]
Из рассмотренных примеров видно, что при кодировании источника с заданным критерием качества число двоичных символов, затрачиваемых на ( Кодирование одного сообщения источника, - может быть сделано существенно меньшим, чем скорость создания информации ( энтропия) источника. [44]
Тогда ход рассуждений, связанных с использованием высоковероятных множеств дискретных постоянных источников, можно было бы перенести на другие источники и показать, что энтропия на сообщение Н ( Х / Х) является скоростью создания информации такими источниками. [45]