Cтраница 2
Данная глава посвящена второй вариационной задаче, в которой отыскивается экстремум шенноновского количества информации по различным входным распределениям. Максимальное значение количества информации называется пропускной способностью. Результаты, относящиеся к случаю отсутствия условия, получаются как частный случай приводимых общих результатов. [16]
Панический канал. [17] |
Отсюда видно, С меньше, чем пропускная способность каждого из отдельных каналов, что следует из того, что одно и то же входное распределение должно давать среднюю взаимную информацию на букву, не большую С для каждого состояния. [18]
Вычисление средней взаимной информации и пропускной способности для канала с аддитивным шумом сильно упрощается в силу того, что условная энтропия выхода при заданном входе Н ( Y X) равна энтропии шума Н ( Z) и, следовательно, не зависит от входного распределения. [19]
Входное распределение изображено ниже и выходную плотность можно найти графически, сопоставляя прямоугольник со стороной длины 2 каждой входной точке, взвешивая после этого каждый такой прямоугольник и суммируя. [20]
Каналы можно классифицировать по скорости, с которой они передают информацию, полученную из источника. Например, если ненадежность; равна нулю для всех входных распределений ( что происходит в том и только том случае, ко гда C ( P) logtt, где - число символов в алфавите А), то канал называют каналом без потерь. [21]
Выходом схемы назначается один из выходов ( в зависимости от входного распределения Р ( х)) элемента из последнего уровня модуля восстановления. [22]
Пусть m наименьшее число входов, которое может быть использовано с ненулевыми вероятностями при достижении пропускной способности и пусть Л обозначает это множество входов. Тогда m J, где J - объем выходного алфавита, и входное распределение вероятности на Л, на котором достигается пропускная способность при использовании только входов из А, является единственным. [23]
Если начальное состояние не известно на передающем конце, то правильным будет так выбрать входное распределение, чтобы получить большую среднюю взаимную информацию для каждого возможного начального состояния. Нижняя пропускная способность С представляет собой наибольшую среднюю взаимную информацию на букву, которую можно достичь при фиксированном входном распределении, независимо от начального состояния. В этом примере можно показать, что С CN - 3 / 2 бит при любом N и что С достигается на статистически независимых и равновероятных входах. [24]
Следовательно, это распределение удовлетворяет необходимым и достаточным условиям теоремы 4.5.1, при выполнении которых достигается пропускная способность. Оказывается, что плотность равномерного распределения у в общем случае не получается, хотя пропускная способность всегда достигается на дискретном входном распределении. [25]
Суть эффекта заключается в том, что при ОВФ знак фазы каждой из световых мод, прошедших через отрезок волокна длиной L, изменяется на обратный. После прохождения еще одного отрезка волокна такой же длины с аналогичным модовым составом полученное приращение фазы каждой из мод полностью скомпенсируется, что означает максимально точное восстановление входного распределения амплитуды света. Насколько нам известно, подобная оптическая система, состоящая из двух отрезков идентичных многомодовых оптических волокон и устройства фазового сопряжения между ними, практически реализована не была. Основная трудность здесь заключается в необходимости точного подбора двух совершенно одинаковых оптических волокон. [26]
В линейных системах прохождение сигнала и аддитивной помехи можно рассматривать отдельно, а затем просуммировать полученные отклики. Эффект нормализации проявляется в том, что вне зависимости от характера входного распределения выходное распределение тем больше приближается к нормальному, чем уже полоса пропускания системы по сравнению с шириной спектра входного случайного процесса. [27]
Во многих областях применения предпочтение отдается преобразователю с линейным опорным напряжением потому, что он обладает свойством дифференциальной линейности. АЦП с линейным опорным напряжением может иметь дифференциальную линейность лучше 1 %, в то время как метод поразрядного уравновешивания дает значение на порядок выше, если не принять особых мер. Различие объясняется тем, что в преобразователе с линейным опорным сигналом последний есть непрерывная функция -, а разница в уровнях квантования возникает в основном из-за характеристик компаратора. В АЦП с поразрядным уравновешиванием интервалы квантования определяются соотношением характеристик делителя и компаратора. Очень трудно, например, гарантировать равные уровни квантования между переходами делителя [01 1 11 1] и [ l О О О 0 - 0 ] или [000001] и [000000], поскольку при этих переходах подключаются разные сопротивления. Дифференциальная линейность важна в применениях, где выход преобразователя используется для построения статистических гистограмм; изменение в интервалах квантования приводит к неодинаковым числам считываний в разных интервалах квантования, даже если входное распределение является равномерным. Преобразователь с линейным опорным сигналом широко используется, например, в ядерной физике. [28]