Cтраница 4
Основными информационными характеристиками источников ( Непрерывных сообщений - являются энтропия, условная знтро-лия, эпсилон-энтропия, эпсилон-производительность, избыточность и объем информации. Формулу для энтропии источника непрерывных сообщений получают из формулы для энтропии источника дискретных сообщений путем предельного перехода. Среди всех источников с ограниченной и одинаковой мощностью сигналов наибольшей энтропией обладает источник с гауссовскими сигналами. Энтропия гауссовского белого шума является максимальной в классе гауссовских непрерывных сигналов. Поэтому помеха типа гауссовский белый шум является наиболее тяжелой и ее часто используют для оценки качества связи в наихудшем случае. Отсюда же следует целесообразность применения сигналов-переносчиков, по свойствам - близких к гауссов-скому белому шуму. Понятие эпсилон-энтропии вводят потому, что невозможно передать непрерывный сигнал абсолютно точно. Эпсилон-энтропия характеризует то среднее количество информации в одном независимом отсчете непрерывного случайного процесса, которое необходимо для воспроизведения этого процесса с заданной среднеквэдратической погрешностью. Максимального значения эпсилон-энтропия достигает для гауссовских процессов. Эпсилон-производительность определяют как произведение средней скорости выдачи отсчетов на эпсилон-энтропию одного отсчета. Максимальный объем информации, выданной источником за время существования сигнала, равен произведению максимальной эпсилон-производительности на длительность сигнала. [46]