Cтраница 2
В оставшейся части этого параграфа будут найдены верхние и нижние границы вероятности ошибки для множества ортогональных кодовых слов равной энергии. [16]
Мы предположим, что для каждого рассматриваемого кода для канала множество сообщений совпадает с множеством кодовых слов. Таким образом, декодер ( k, е) - кода с множеством кодовых слов f - l ( i) - это некоторое отображение ф ( -): Y - - q - 1 ( О-Очевидно, что отображение с указанными свойствами всегда существует. [17]
Если некоторый код кодирует источник со скоростью R п обеспечивает вероятность ошибки Ре, то, расширяя множество кодовых слов добавлением к нему 2nR - R) последовательностей, получим код со скоростью R, обеспечивающий вероятность ошибки не большую чем Ре. Используя такое расширение для множеств А, В, получим утверждение леммы. [18]
Определение 3.5. Кодированием сообщений ансамбля X кодом в алфавите А называется отображение ( необязательно взаимно-однозначное) множества сообщений в множество кодовых слов. [19]
Правило декодирования с минимальной вероятностью ошибки является правилом, которое минимизирует вероятность ошибочного декодирования для заданных ансамбля сообщений, множества кодовых слов и канала. Пусть PN ( у хт) - вероятность приема последовательности у при условии, что было передано т-е кодовое слово. [20]
В пунктах ( б) и ( в) приведены два различных способа кодирования с одним и тем же множеством кодовых слов. [21]
Множество [ x ( r, s, s2) ( г, 5Ь s2) e R X S X 2 называется множеством кодовых слов. Как показано на рис. 6, целые числа Si и s2 произвольно выбираются передатчиком для посылки приемникам 1 и 2 соответственно. Целое число г также выбирается передатчиком и предназначено для приема как тем, так и другим приемником. Таким образом, г является общей частью сообщения, a Si и 2 дают независимые части сообщения. [22]
Для случая, когда все кодовые слова имеют одну и ту же длину, найти минимальную длину, требуемую для того, чтобы сопоставить множество кодовых слов указанным последовательностям. [23]
![]() |
Код и правило декодирования для А. 3, М2. [24] |
Даже если такие вычисления могли бы быть выполнены, они дали бы лишь небольшое проникновение в задачу выбора подходящей длины блока для кода или подходящего множества кодовых слов. Развиваемый здесь подход направлен скорее не на то, чтобы вычислить Р е, а чтобы найти простые верхние границы для достижимой вероятности ошибки. Идя по этому пути, мы не только докажем теорему кодирования, но также получим значительное понимание задачи выбора подходящих параметров кодирования. [25]
Показать, что последовательность х удовлетворяет соотношению хЯ2 0 тогда и только тогда, когда хН1 0 и, следовательно, Нг и Я2 соответствуют одному и тому же множеству кодовых слов. [26]
Поскольку при кодировании источников само множество кодовых слов заранее предопределено, то любой код можно характеризовать только числом кодовых слов М или скоростью кодирования JR - ogM и отображением последовательностей сообщений на выходе источника в множество кодовых слов. [27]
Теорема не утверждает, что любой код с длинами кодовых слов, удовлетворяющими (3.2.3), является префиксным. Так, например, множество двоичных кодовых слов 0, 00, 11 удовлетворяет (3.2.3), но не обладает свойством префикса. [28]
Множество кодовых слов образует группу ( по сложению по модулю 2), а множество кодовых слов с четным числом единиц образует подгруппу, этой группы. Если рассматриваемая подгруппа не исчерпывает всей группы, то множество кодовых слов с нечетным числом единиц является смежным классом по этой подгруппе и, следовательно, имеет то же число элементов, что и сама подгруппа. [29]
В этом параграфе будет дана предложенная Д. А. Хаффманом ( 1952) конструктивная процедура отыскания оптимального множества кодовых слов для кодирования данного множества сообщений. Под оптимальностью будет подразумеваться то, что никакое другое однозначно декодируемое множество кодовых слов не имеет меньшую среднюю длину кодового слова, чем заданное множество. Множество длин, задаваемое (3.3.8), обычно не минимизирует п, даже если на нем достигается граница в теореме 3.3.1. Вначале будут рассмотрены двоичные коды и затем будет дано обобщение на произвольный кодовый алфавит. [30]