Cтраница 2
Доказательство теоремы Шеннона в общем случае проводится примерно тем же способом, что и для двоичного симметричного канала. Возникает также задача подсчета числа возможных сообщений, лежащих внутри шара, определяемого по этому новому расстоянию. Наконец, вместо простой формулы для пропускной способности канала следует использовать общее выражение. [16]
В теореме Шеннона не говорится о том, как нужно строить пом хоустойчивые коды. Однако в ней указывается на принципиальную возможность кодирования, при котором может быть обеспечена сколь угодно высокая верность передачи. [17]
При доказательстве теоремы Шеннона предполагается, что посылаются только очень длинные сообщения. На практике обычно нежелательно ждать появления таких длинных последовательностей, прежде чем начать передачу. Кроме того, случайные коды приводят к необходимости использования больших таблиц для кодирования и декодирования, а это приводит к практическим трудностям. Таким образом, теорема показывает, чего можно достичь, но не говорит ничего о хороших кодах, за исключением того, что они являются длинными и достаточно непрактичными. [18]
Статистическое доказательство теоремы Шеннона для задач декодирования проведено в [5] Флейшманом с использованием комбинаторных методов. [19]
Имеются обобщения теорем Шеннона на случай так наз. Интерес к подобным обобщениям вызван тем, что обычно на практике нельзя считать полностью известными статистич. Поэтому приходится предполагать, что источник сообщений и канал связи принадлежат нек-рому классу возможных источников сообщений и каналов. При этом вводится минимаксный критерий качества передачи, при к-ром качество данного метода передачи оценивается для наихудших возможных источников сообщений и каналов, принадлежащих рассматриваемому классу. [20]
Однако в теореме Шеннона не говорится о том, как нужно строить помехоустойчивые коды. [21]
![]() |
Сокращенная алгебраическая диаграмма.| Доказательство соотношения ( a v с ( b v с а b v с с помощью. [22] |
Различие с теоремой Шеннона состоит в том, что теорема утверждает правило разложения функции на две составляющие, а здесь мы, наоборот, соединяем отсчеты в единое целое. После чего выражение упрощаем. [23]
Таким образом, теорема Шеннона утверждает, что при выполнении условия (7.13) скорость передачи информации может быть в принципе сколь угодно приближена к пропускной способности канала. Это может быть обеспечено соответствующим кодированием сигналов. [24]
Таким образом, теорема Шеннона о кодировании без шума обобщена на семейство мгновенных ( однозначно декодируемых) кодов. [25]
Таким образом, теорема Шеннона утверждает, что при выполнении условия (5.13) скорость передачи информации может быть в принципе сколь угодно приближена к пропускной способности канала. Это может быть обеспечено соответствующим кодированием сигналов. Однако рассмотренная теорема не отвечает на вопрос, каким образом нужно осуществлять кодирование. [26]
Имеются также обобщения теорем Шеннона на случай И. В частности, для каналов без памяти с обратной связью основной результат состоит в том, что наличие обратной связи не увеличивает пропускную способность канала, хотя и может существенно уменьшить сложность кодирующих и декодирующих устройств. [27]
Основ и а я теорема Шеннона для канала связи без шума формулируется след, образом. [28]
В чем состоит сущность теоремы Шеннона для дискретного канала без помех. [29]
Используя закон больших чисел, теорему Шеннона - Макмиллана - Бреймана и теорему Какутани - Рохлина, Орнстейн смог определить отображение Ф таким образом, чтобы не только распределение р было близко к распределению rf ( T ]), но и само разбиение т) было близко к разбиению в метрике разбиений. Это в конечном счете позволило получить бернуллиевское разбиение с заданным распределением, являющееся также образующим. [30]