Cтраница 3
Пусть состояния марковской цепи образуют один замкнутый класс нулевых возвратных состояний. [31]
![]() |
Диаграммы переходов для марковской цепи. [32] |
При изучении марковских цепей прежде всего необходимо выяснить, как будет изменяться распределение вероятностей состояний лп, когда система делает один шаг. [33]
Если в марковской цепи существует предельное распределение вероятностей, соответствующее n - voo и не зависящее от начального состояния системы, то это распределение вероятностей определяет предельный или установившийся режим системы. В этом случае система называется статически устойчивой, а марковский процесс в такой системе - эргодическим. [34]
Наглядной иллюстрацией марковской цепи с двумя состояниями является следующая физическая схема. [35]
Из определения марковской цепи следует, что для нее вероятность перехода системы S в состояние st на ( А 1) - м шаге зависит только от того, в каком состоянии st находилась система на предыдущем А - м шаге и не зависит от того, как она вела себя до этого А-го шага. [36]
Для изучения марковских цепей в переходных режимах, а также для удобства теоретических выкладок, полезно использовать аппарат производящих функций, или z - преобразования. Метод производящих функций относится к операционным методам, которые широко применяют при решении дифференциальных и интегральных уравнений. Один из примеров производящей функции является преобразование Лапласа. Преобразование, широко применяемое в теории автоматического управления, можно эффективно использовать как производящую функцию для дискретных цепей Маркова. [37]
Хп образует марковскую цепь. Действительно, суммируя совместное распределение ел. [38]
Sn образуют марковскую цепь, выписать переходные плотности. [39]
ЕЛ образует марковскую цепь. [40]
Литература по марковским цепям многочисленна и разнообразна. [41]
В управляются марковской цепью д с двумя состояниями N 1, 2, а г - независимые гауссовские одинаково распределенные случайные величины. [42]
Допустим, что марковская цепь начинается с состояния XQ. Тогда возникают два вопроса. [43]
Теорема 20.2. Пусть марковская цепь регулярна. [44]
В примере 9а марковская цепь и функция выигрыша определяются так же, как и в примере 9, однако в состояниях i, где ( - 5, можно только выйти из игры. Таким образом, здесь есть состояния с вынужденной остановкой. [45]