Cтраница 4
Теорема кодирования для канала с шумами принадлежит Шеннону ( 1948) и, несомненно, является самым значительным результатом в теории информации. Впервые Файнстейн ( 1955) показал, что Ре стремится к нулю экспоненциально по N при фиксированной скорости R С. Граница случайного кодирования, граница сферической упаковки и тот факт, что они экспоненциально совпадают при скоростях, близких к пропускной способности, были впервые получены Элайсом ( 1955) в частных случаях двоичного симметричного канала и двоичного канала со стиранием. Фано ( 1961) использовал методы случайного кодирования, развитые Шенноном, и производящих функций моментов, для получения показателя экспоненты случайного кодирования Ет ( R) и для эвристического вывода границы сферической упаковки для общего дискретного канала без памяти. Единственная граница сферической упаковки, которая пока что получена, для каналов с конечным числом состояний, принадлежит Кеннеди ( 1963) и относится к одному классу двоичных каналов. [46]