Cтраница 3
Теория информации, основные идеи которой были изложены в предыдущей главе, позволяет сформулировать ряд принципиальных положений, определяющих потенциальные характеристики каналов передачи информации. [31]
Теория информации и передачи сигналов тесно связана с технической кибернетикой. Важными идеями кибернетики, как известно, являются идея о наличии обратной связи в живых и неживых системах, идея о передаче информации и идея об автоматических вычислительных машинах, способных выполнять функции, аналогичные мышлению человека. Идея о передаче информации является одной из центральных идей кибернетики. Управление процессами без получения и обработки информации невозможно, а получение информации без цели управления в большинстве случаев бессмысленно. Следовательно, понятия управление и информация неразрывно связаны. В кибернетике большее внимание уделяется проблемам управления, а в теории информации и передачи сигналов - проблемам передачи информации. [32]
Теория информации, математическим аппаратом которой является теория вероятностей и математическая статистика, превратилась к настоящему времени в строгую и достаточно универсальную науку. Положения этой теории все шире и шире используются при исследовании процессов мышления, познания, психологии, согласования сообщений с приборами человеческого мозга [62], а также общественных явлений. [33]
Теория информации устанавливает критерии оценки помехоустойчивости и эффективности информационных систем, а также указывает общие пути повышения помехоустойчивости и эффективности. Повышение помехоустойчивости практически всегда сопровождается ухудшением эффективности и, наоборот, повышение эффективности отрицательно сказывается на помехоустойчивости систем. [34]
Теория информации базируется на разработанной К. Развитые в этой работе идеи кодирования при помехоустойчивой передаче сообщений по каналам с шумами, вопросы сокращения избыточности, понятия каналов с шумом стали основополагающими в современной теории информации. [35]
Теория информации занимается построением математических моделей систем передачи информации и последующим анализом таких моделей. Целью этого анализа является создание средств, позволяющих на одном конце канала передачи информации ( адресату) воспроизвести сообщение ( или его достаточно хорошее приближение), полученное на другом конце ( из источника) и переданное по каналу. [36]
Теория информации вместе с другими математическими дисциплинами, такими, как теория оптимальных статистических решений, теория оптимального управления, теория алгоритмов и автоматов, теория игр и другие, входит в состав теоретической кибернетики - науки об управлении. По своему основному содержанию указанные дисциплины являются самостоятельными и не связанными между собой. Но это не значит, что они совершенно оторваны одна от другой, что мосты между ними не возможны. Без сомнения, возможно и вероятно появление комбинированных теорий, в которых используются понятия и результаты различных дисциплин и которые соединяют между собой различные дисциплины. Картина подобна деревьям в лесу: стволы их стоят отдельно, а кроны переплетаются. Первое время они растут независимо, а затем, переплетаясь ветвями, проникают друг в друга. [37]
Теория информации является математической теорией, использующей понятия и методы теории вероятностей. [38]
Теория информации рассматривается как существенная часть кибернетики. [39]
Теория информации тесно связана с такими разделами математики как теория вероятностей и математическая статистика, а также прикладная алгебра, которые предоставляют для нее математический фундамент. С другой стороны теория информации исторически и практически представляет собой математический фундамент теории связи. Часто теорию информации вообще рассматривают как одну из ветвей теории вероятностей или как часть теории связи. Таким образом, предмет Теория информации весьма узок, т.к. зажат между чистой математикой и прикладными ( техническими) аспектами теории связи. [40]
Теория информации представляет собой математическую теорию, посвященную измерению информации, ее потока, размеров канала связи и т.п., особенно применительно к радио, телеграфии, телевидению и к другим средствам связи. Первоначально теория была посвящена каналу связи, определяемому длиной волны и частотой, реализация которого была связана с колебаниями воздуха или электромагнитным излучением. [41]
Теория информации широко используется при решении проблем надежности, при установлении необходимого количества экспериментов для получения достоверной информации. [42]
Теория информации - курс математический, опирающийся на теорию вероятности и теорию случайных процессов. Хотя почти все сведения, необходимые для понимания основного материала, содержатся в тексте книги, желательно иметь некоторую подготовку в области теории вероятностей. [43]
Теория информации вводит меру количества информации. Допустим, что имеется Р0 различных равновероятных событий. Чем больше РО, тем больше неопределенность до получения сообщения о событии и тем больше количество информации ( далее называемое просто информацией) при получении сообщения. [44]
Теория информации позволяет получить ряд важных практических выводов. [45]