Cтраница 3
Но упорядочены и кристаллы. Антиэнтропийность, если уж пользоваться этим понятием, выражается в ограниченной применимости понятия энтропии ( и соответственно эквивалентного понятия количества информации) к живой системе. Будучи динамической, машинной, а не статистической системой, живой организм следует, конечно, законам термодинамики, но должен описываться в иных терминах. Развитию организма отвечают очень малые изменения энтропии. Для информационной трактовки явлений жизнедеятельности понятие о количестве информации бесплодно. [31]
Возникновение теории передачи информации связано с именем К. Shannon), предложившего в 1948 решение основной проблемы о нахождении скорости передачи информации, к-рую можно достичь при оптимальном методе кодирования и декодирования так, чтобы вероятность ошибки при передаче информации была как угодно мала. Эта оптимальная скорость передачи, называемая канала пропускной способностью, выражается через введенную К. Понятие количества информации представляется весьма важным и находит многочисленные важные приложения и в других разделах И. [32]
Первый аспект предполагает обращение к современному обществу. Ему пророчат название века информации. Многообразные информационные системы, как и само понятие количества информации ( равно как и понятие информационной энтропии), органически связаны с понятием вероятности. Уже поэтому вероятность оказывается ключевым словом в современном обществе. [33]
В начале 1960 - х годов Андрей Николаевич решил реконструировать фундамент теории информации. В такой выработке совсем общих взглядов итог усилий заключается не в формулировке точно фиксированных результатов, а в общей перестройке собственного сознания и размещения всего в надлежащей перспективе. Поэтому потом оказывается, что как бы и ничего не открыл нового, а потратил много сил и времени. С появлением в 1965 году статьи А. Н. Колмогорова Три подхода к определению понятия количества информации родилась алгоритмическая теория информации, в основе которой лежало понятие колмогоровской сложности конечного объекта. Продолжая исследования, Андрей Николаевич приходит к следующему решительному выводу: Теория информации должна предшествовать теории вероятностей, а не опираться на нее. [34]
В [38, 39] было показано, что наличие обратной связи в дискретном канале без памяти не увеличивает пропускной способности канала, а также не изменяет асимптотики вероятности ошибки при оптимальных блоковых методах кодирования и скоростях передачи больших ЛСТц, при этом в [38] были указаны методы вычисления пропускной способности для каналов с медленно изменяющимися случайными параметрами. В [40 -- 42] были сформулированы условия применимости основных теорем теории оптимального кодирования информации для широкого класса каналов с неполностью известной статистикой, а в [43] были исследованы методы передачи зашумленного сообщения, определена е-энтропия таких сообщений и приведены соответствующие расчетные формулы. Интересная трактовка основной теоремы оптимального кодирования приводится в [44], где в отличие от обычного подхода фиксируется количество информации между сообщением на выходе источника и воспроизводимым сообщением и ищется минимально возможное искажение. В [45] выписаны выражения для энтропии одного гауссовского процесса по другому, являющиеся обобщением понятия количества информации, и обсуждается возможность использования полученных результатов в математической статистике. [35]
Эволюция коммуникативных возможностей человека связана с техническим прогрессом. Развитие технических средств - от изобретения книгопечатания до современной компьютерной революции - полностью изменило характер социальной коммуникации, сделав возможным мгновенную передачу информации в большом объеме практически на неограниченное расстояние. Уивер, была разработана с целью из-мерения количества информации в сигналах дальней связи. Данная теория рассматривает сигналы в том виде, в каком они передаются по проводам или излучаются в эфир, и совершенно отвлекается от всех вопросов смысла передаваемых сигналов. Человек входит в эти системы связи ( телефонные, телеграфные и пр. Таким образом, формальная математическая теория связи ( коммуникации) непосредственно применима лишь к техническому оборудованию - от микрофона, телефона до персонального компьютера - и абстрагируется от конкретных потребителей, которые этим оборудованием пользуются. С появлением этой теории возникло понятие скорости передачи информации. Когда стала очевидна ее экономическая ценность, умы инженеров и техников начала занимать проблема сжатия сигналов, что в конце концов привело к понятию количества информации и к теориям скорости и качества ее передачи. [36]