Статистическая теория - информация
Cтраница 1
Статистическая теория информации оперирует понятием энтропии как меры неопределенности, учитывающей вероятность появления, а следовательно, и информативность тех или иных сообщений. [1]
В статистической теории информации ( теории связи), предложенной Шенноном в 1948 г., энтропия количественно выражается как средняя функция множества вероятностей каждого из возможных исходов опыта. [2]
Для применения статистической теории информации к анализу и оценке психических процессов человека имеются препятствующие и благоприятствующие факторы. Препятствующие факторы касаются в основном общих психических процессов непосредственного восприятия объектов, которое по природе своей целостно, избирательно и осмысленно. Благоприятствующие факторы касаются инженерной психологии, изучающей деятельность оператора, который получает информацию о состоянии управляемого объекта не столь определенно и целостно, как это бывает при непосредственном восприятии объекта. [3]
Указанные отвлечения и определяют возможности статистической теории информации и равносильных ей теорий в описании информационных процессов. [4]
Подход к психике с позиций статистической теории информации оказывается в непосредственной связи с задачей выявления и количественной характеристики такого психологического феномена, как восприятие вероятностной структуры сигналов, в частности, способности индивида в процессе временного или пространственного развертывания сообщения, опираясь на знание уже воспринятых его элементов, предсказывать, какой элемент сообщения последует. [5]
 |
К вопросу о ценности информации. а / - 0. б / - 1 58 ( дезинформация. в / - 0 42. [6] |
Дальнейшее развитие данного подхода базируется на статистической теории информации и теории решений. Сущность метода состоит в том, что, кроме вероятностных характеристик неопределенности объекта, после получения информации вводятся функции штрафов или потерь и оценка. Максимальной ценностью обладает то количество информации, которое уменьшает потери до ноля при достижении поставленной цели. [7]
Причина этого заключается в том, что сами методы статистической теории информации оказались малоприспособленными для анализа задач управления. Хотя именно они в свое время сыграли большую роль в развитии кибернетики как науки. Статистическая теория информации весьма эффективна лишь для описания процесса передачи и хранения информации, но применение ее становится малооправданным, когда информацию необходимо рассматривать во взаимосвязи с целью управления. [8]
Информационный подход к распознаванию позволяет решать ряд задач по выбору признаков и их обработке, оценке надежности распознавания, однако ограниченность статистической теории информации может проявляться и здесь. Поэтому применение его к практическим задачам должно сопровождаться тщательным инженерным анализом. [9]
Открытие того, что информация - а значит и определенные стороны того, что в философии называется знанием - может трактоваться как измеримая величина, явилось первым важным гносеологическим результатом статистической теории информации. [10]
Через понятие информации и относящиеся к нему точные математические теории - прежде всего через восходящую главным образом к К. Шеннону статистическую теорию информации и ее аналоги, основанные на комбинаторном, топологическом или алгоритмическом определениях информации ( количества информации) - находят свое уточнение и конкретизацию философские представления о свойстве отражения. [11]
Естественно, что наличие как однозначно-детерминированного, так и вероятностного принципов в работе систем, изучаемых в кибернетике, находит свое отражение в математических средствах этого научного направления. Ярким выражением первого подхода является статистическая теория информации, восходящая к работе К. Шеннона Математическая теория связи ( 1948), в которой были введены важные понятия энтропии источника сообщения, пропускной способности канала связи и количества информации и указаны соотношения, характеризующие эти понятия. Впрочем, вероятностно-статистические методы входят в кибернетику ( и вычислительную математику) ныне в самой различной форме и по разнообразным направлениям. [12]
Сказанное возможно лишь при применении методов статистической теории информации в векторной форме. [13]
При этом необходимо отметить, что речь идет не о простой экстраполяции статистической теории информации на новые сферы научного исследования, а о существенном развитии в разных направлениях представлений об информационных процессах, которые осуществляются на базе единых научных воззрений на информацию. [14]
В работе4 под информацией понимаются сведения, необходимые для принятия решения. Это определение включает в термин сведения о всем многообразии информации и созвучно с пониманием информации в статистической теории информации К. [15]
Страницы: 1 2