Cтраница 1
Теорема Шеннона - Макмиллана - Бреймана утверждает, что это справедливо и в общем случае. [1]
Теорема Шеннона для каналов с шумом, утверждающая, что при помощи подходящих кодов можно передавать информацию так, чтобы вероятность ошибки после декодирования была произвольно малой при условии, что скорость передачи не превосходит пропускной способности канала связи, неконструктивна: она не указывает способа построения кода. При конструировании кода решающее значение нмеет выбор модели возникЕтвения ошибок в передаваемом слове. [2]
Теорема Шеннона для канала снязи с шумами формулируется след, образом. [3]
Теорема Шеннона для канала с шумом не указывает конкретного способа борь-бы с помехами. [4]
Теоремы Шеннона для полного класса дискретных каналов, состояние которых известно на выходе. [5]
Теорема Шеннона о бесшумном кодировании является следствием этого неравенства. [6]
Теоремы Шеннона не указывают практических путей нахождения оптимального кода, чтобы приблизить скорость передачи информации к пропускной способности канала. Установлено лишь, что для приближения скорости передачи к пределу общим методом для каналов с помехами и без помех является кодирование длинных сообщений. Тем не менее значение этих теорем трудно переоценить. Шеннона считалось, что в канале с заданными помехами обеспечить сколь угодно малую вероятность ошибки можно только при стремлении скорости передачи информации к нулю. Шеннон показал, что путем соответствующего выбора способа кодирования можно обеспечить сколь угодно малую вероятность ошибки при конечной скорости передачи информации. [7]
Теорема Шеннона о кодировании без шума показывает, что при использовании достаточно большого расширения источника можно сколь угодно точно приблизить среднюю длину закодированного сообщения к энтропии источника. Это доказано как для простого источника, так и для более сложного марковского источника. Однако это не было доказано для всех возможных типов источников. Теорема кодирования без шума является предвестником основной теоремы Шеннона о том, что даже при наличии шума ( ошибок) можно найти подходящую систему кодирования. Этот результат доказывается в гл. [8]
Теорема Шеннона позволяет надеяться, что утонченные методы кодирования информации способствуют значительному улучшению подавления шума без перехода к широкой полосе. Дальнейшему распространению такого подхода к радио - и телевизионной технике мешает сложность кодирования и декодирования. Как мы видели, при хорошем кодировании используются очень длинные сообщения, что ведет к необходимости большого объема памяти и к задержкам, не говоря уже о сложностях обработки сигнала. Таким образом, практические системы передачи сигналов редко достигают пределов, указанных теоремой Шеннона. [9]
Из теоремы Шеннона следует, что если v C0, то всегда существует конечная вероятность ошибки и никаким кодом ее нельзя исключить. [10]
Недаром теорема Шеннона в свое время буквально потрясла инженеров и математиков, занимавшихся теорией связи. [11]
Вторая теорема Шеннона утверждает, что при пропускной способности канала С Я и при соответствующем выборе методом кодирования передача может быть осуществлена со сколь угодно малой ошибкой. [12]
Две теоремы Шеннона устанавливают границы того, что можно получить с помощью кодирования. К сожалению, вторая теорема не является конструктивной, и не объясняет нам, как на практике приблизиться к указанным в ней границам. [13]
Сама теорема Шеннона ответа на этот вопрос не дает. Она утверждает лишь, что существует возможность построения таких кодов. Благодаря тому, что такая возможность была доказана, возникло и стало интенсивно развиваться новое научное направление в теории информации - так называемая теория кодирования. Эта теория как раз и занимается разработкой кодов, обнаруживающих и исправляющих ошибки, связанные со случайными помехами в каналах связи. Из первых помехоустойчивых кодов упомянем коды Хэмминга, разработанные в 1950 году. [14]
Обобщение теоремы Шеннона - передача точной ( т.е. дискретной. [15]