Cтраница 4
Вопросы кодирования источников сообщений, рассмотренные в предыдущих главах, представляют собой вопросы традиционной или классической теории информации. В последние годы в рамках теории информации стали изучаться системы с многими компонентами, а именно системы с многими источниками, многими каналами или многими получателями. Ниже будет рассмотрена одна из таких задач - задача кодирования нескольких зависимых источников. [46]
Результаты о кодировании для источника и для канала из § 4 и 5 во многих отношениях похожи. Одно существенное различие состоит, однако, в том, что в случае источников для любой скорости R существует последовательность кодов, характеристики которых стремятся к оптимальным равномерно для любого ДИБП, а в случае каналов это уже не так. Задача универсального кодирования для каналов существенно отличается от задачи кодирования для одного ДК. [47]
В работе Ahlswede ( 1979, 1980) описана область достижимых скоростей кодирования для произвольно меняющейся внлочиой сети и для некоторых других сетей источников. В этой работе содержатся также ряд других результатов. В работе Csiszar ( 1982b) описаны применения линейных кодов к задаче кодирования для сетей источников. [48]
Покажите, что она равна E ( R, W), но E ( R, W) не является универсально достижимой. В частности, не существует наилучшей универсально достижимой экспоненты ошибки. Интерпретируйте этот результат в том смысле, что для каналов в отличие от источников задача универсального кодирования принципиально отличается от задачи кодирования для одного канала. [49]
Смысл представления выхода источника последовательностью двоичных символов заключается в том, чтобы отделить задачу представления источника от задачи передачи информации. Мы уже знаем из теоремы кодирования, если скорость двоичной последовательности ( в битах в секунду) меньше пропускной способности канала ( в битах в секунду), по которому последовательность должна быть передана, то последовательность может быть воспроизведена на выходе канала с произвольно малой вероятностью ошибки. Так как при стремлении к 0 вероятности ошибки влияние этих ошибок на полное искажение обычно становится малым, то можно в действительности отделить задачу кодирования для канала от задачи кодирования для источника. [50]
Смысл представления выхода источника последовательностью двоичных символов заключается в том, чтобы отделить задачу представления источника от задачи передачи информации. Мы уже знаем из теоремы кодирования, если скорость двоичной последовательности ( в битах в секунду) меньше пропускной способности канала ( в битах в секунду), по которому последовательность должна быть передана, то последовательность может быть воспроизведена на выходе канала с произвольно малой вероятностью ошибки. Так как при стремлении к 0 вероятности ошибки влияние этих ошибок на полное искажение обычно становится малым, то можно в действительности отделить задачу кодирования для канала от задачи кодирования для источника. [51]