Энтропия непрерывного распределения может быть отрицательна. Масштабом измерений устанавливается произвольный нуль, соответствующий равномерному распределению по ... - Большая Энциклопедия Нефти и Газа



Выдержка из книги Шеннон К.N. Работы по теории информации и кибернетике


Энтропия непрерывного распределения может быть отрицательна. Масштабом измерений устанавливается произвольный нуль, соответствующий равномерному распределению по единичному объему. Распределение, более сосредоточенное чем это, будет иметь меньшую энтропию и, следовательно, будет отрицательно. Однако скорость создания сообщения и пропускная способность канала всегда будут неотрицательны.

(cкачать страницу)

Смотреть книгу на libgen

Энтропия непрерывного распределения может быть отрицательна. Масштабом измерений устанавливается произвольный нуль, соответствующий равномерному распределению по единичному объему. Распределение, более сосредоточенное чем это, будет иметь меньшую энтропию и, следовательно, будет отрицательно. Однако скорость создания сообщения и пропускная способность канала всегда будут неотрицательны.