Cтраница 4
На основании закона сохранения энергии можно утверждать, что работа, затрачиваемая на увеличение зарядов от нуля до их конечных значений, не зависит от последовательности сообщения зарядов: она определяется распределением свободных зарядов и диэлектриков в пространстве, а также значениями диэлектрического коэффициента диэлектриков. Если бы последовательность сообщения заряда телами влияла на значение запасаемой энергии, мы могли бы выбрать такую последовательность увеличения и уменьшения зарядов, при которой энергия, затраченная внешними источниками, была меньше энергии, возвращенной полем. [46]
VE) с точностью воспроизведения WfE - Эта формулировка прямого утверждения теоремы кодирования является одной из наиболее общих. Информационная устойчивость последовательности сообщений и каналов всегда имеет место в большом числе практически интересных частных случаев. [47]
Побуквенное кодирование сообщений ансамбля кодом объема ЛЬ2; х - 0; х2 - - 1 требует затраты одного двоичного символа на сообщение. Если кодировать все последовательности сообщений длиной п, которые могут появиться на выходе источника, то для однозначного восстановления сообщений потребуется 2 слов длиной п и поэтому число символов на сообщение по-прежнему будет равно единице. Если мы хотим повысить эффективность кодирования, то, как и в предыдущем примере, необходимо отказаться от взаимно-однозначного сопоставления кодовых слов всем последовательностям сообщений. Однако при этом возникает возможность неправильного воспроизведения исходного сообщения по кодовому слову. [48]
Пусть задан код из рассмотренного выше ансамбля. Обозначим через и переданную последовательность сообщения и через и - декодированную методом последовательного декодирования последовательность сообщения. Как правило, ошибки декодирования, если они происходят, имеют тенденцию группироваться в пакеты. L - 1 последовательных подблоков внутри этой последовательности не являются одновременно безошибочными; по L-1 подблоков с каждой стороны последовательности не содержат ошибки. [49]
Оказывается, что описанный метод кодирования эффективен для весьма широкого класса дискретных источников. Так, для любых дискретных источников множество последовательностей сообщений длины п может быть разбито на два непересекающихся подмножества Тп и Тп. При этом, если п достаточно велико, то множество Тп может быть выбрано так, что вероятность р ( еТп) появления последовательностей сообщений х из множества Тп близка к единице, а дополнительная вероятность р ( хе Тп) близка к нулю. При взаимно-однозначном кодировании только последовательностей из множества Тп число кодовых слов равно числу последовательностей в 7, а вероятность ошибки декодирования равна р ( хе Тп) и близка к нулю. [50]
В ЭВМ кодируются не только данные, но и инструкции. Действительно, программа есть не что иное, как последовательность сообщений, которую можно подвергнуть двоичному кодированию. [51]
Допустим, что имеется статистическое описание ( математическая модель) некоторого источника сообщений. Требуется определить наименьшее количество двоичных символов, которые необходимы-для того, чтобы указать последовательность сообщений, порожденных источником. При этом может быть задана некоторая функция качества и требоваться указание сообщений с заданной величиной ошибки. [52]