Теория - информация
Cтраница 2
 |
Взаимосвязь статистической теории связи с математикой и техникой связи. [16] |
Теория информации, которой посвящена данная глава, является частью теории связи и базируется, в основном, на пионерских работах К - Шеннона. Статистическая теория связи развилась из теории вероятностей и в значительной степени использует ее результаты. Методологически это проявляется в том, что новые положения теории связи развиваются на базе исследований в области теории вероятностей и в особенности теории случайных процессов или развиваются параллельно с последними. [17]
Теория информации не только оценивает реальные возможности каналов связи, к ней прибегают во всех случаях, связанных с кодированием и находящейся в непосредственной зависимости от него избыточностью. Поэтому мы должны здесь понимать кодирование в самом широком смысле: сигнал в качестве носителя информации может принимать различные формы в зависимости от выбранного способа кодирования. [18]
Теория информации устанавливает границы того, что можно сделать, однако мало помогает при проектировании конкретных систем. Делающийся отсюда вывод о бесполезности теории информации является, как показывает следующая аналогия, неверным. Рассмотрим теорию эволюции, которую предлагают студентам-биологам. Хотя лишь очень немногим из студентов удастся применять ее в течение жизни, эта теория может служить источником ценных идей. [19]
Теория информации объединяет защиту от шума и эффективное использование канала. Однако простая модель шума в канале ( белый шум) иногда оказывается нереальной и в таких случаях приходится рассматривать более общие конфигурации ошибок. Это приводит к важному понятию пропускной способности канала, которое вводится в гл. [20]
Теория информации была разработана вначале для систем связи. Простейшую систему связи можно схематически описать с помощью следующей вероятностной модели. [21]
Теория информации исходит из представления о том, что сообщение, подлежащее передаче, является неизвестным с полной определенностью на приемном конце. Поэтому последовательности пли ф-цнн, описывающие сообщения, понимаются как случайные последовательности или ф-цпн своих аргументов. В соответствии с этим вводится понятие об А. [22]
 |
Классическая схема передачи информации. [23] |
Теория информации в своем классическом виде использует схему передачи информации, показанную на рис. 13.2. Как утверждает известная теорема К. Шеннона, при соответственно подобранном коде средняя скорость передачи информации по каналу с шумами при пренебрежимо малом проценте ошибок может быть доведена до некоторой величины С. Ограничения, накладываемые на скорость передачи информации, определяются кодом сигнала, кодовыми возможностями канала и влиянием шумов. При передаче сигналы, получаемые от источника информации, предполагаются дискретными и обрабатываются без перехода к непрерывной форме. Мощности рассматриваемых сигналов могут быть незначительными. [24]
Теория информации исходит из представления о том, что сообщение, подлежащее передаче, является неизвестным с полной определенностью па приемном конце. Поэтому последовательности или ф-цнн, описывающие сообщения, понимаются как случайные последовательности или ф-ции своих аргументов. [25]
Теории информации, о которых шла речь в предыдущем параграфе - статистическая, комбинаторная, топологическая, алгоритмическая, - характерны тем, что они не пользуются явно ( в самом математическом аппарате) понятием информации - в этом аппарате присутствует лишь мера информации - и тем не менее каждая из них неявно определяет это понятие, точнее, определенную его сторону. [26]
Теории информации, из обобщения содержания которых выкристаллизовалась эта линия, отличаются тем - и мы об этом уже говорили - что игнорируют явление ценности информации, или, как говорят иначе, прагматическую сторону сообщений. Это касается не только шен-ноновской теории ( и равносильных ей теорий), но и теорий семантической информации, о которых шла речь в предыдущем параграфе. [27]
Теория информации не возникла как средство изучения обмена информацией непосредственно между людьми. [28]
Теория информации дает и количественную меру информации. [29]
Теория информации - раздел кибернетики, в котором математическими методами рассматриваются вопросы оценки количества информации, содержащейся в сообщении, и исследуются процессы передачи и хранения информации. На рис. а приведена схема передачи сообщений по каналу связи. [30]
Страницы: 1 2 3 4