\documentclass{amsart}
\usepackage[cp1251]{inputenc}
\usepackage[english,russian]{babel}
\usepackage{amssymb}
\usepackage{fancyhdr}
\ifx\pdfoutput\undefined % We're not running pdftex
\usepackage[dvips]{graphicx}
\else
\usepackage[pdftex]{graphicx}
\fi 

\selectlanguage{russian}

\author{Сергей Николенко}
\title{Лекция $9$. Скрытые марковские модели}
\thanks{Законспектировал Сергей Николенко}

\newcommand{\sinnote}[1]{{\bf !!!}\marginpar{\footnotesize\bf #1}}
\def\more{\sinnote{Ещё!}}

\def\amax{\mathrm{arg}\max}

\newcommand{\latexpic}[3]{\begin{figure}
\begin{center} #3 \end{center}
\caption[{#1}]{{#1}.}\label{#2}
\end{figure}}

\newtheorem{lem}{Лемма}
\newtheorem{thm}{Теорема}
\newtheorem{dfn}{Определение}

\newcounter{example}
\renewcommand{\theexample}{\arabic{example}}


\newenvironment{example}{\par\begingroup\addvspace{\linespacing plus 0.15\linespacing minus 0.15\linespacing}
\noindent\refstepcounter{example}\nopagebreak%
\nopagebreak{{\small\sc Пример \theexample}}\nopagebreak%
\,\,\leaders\hrule height 0.6 pt \hfill\nopagebreak\small%
%\nopagebreak{\addcontentsline{xmp}{example}{\protect\numberline{\theexample}{\protect\ignorespaces#1}}}%
\nopagebreak\par\nopagebreak}%
{\par\addvspace{\linespacing plus 0pt minus 0.25\linespacing}%
%{\nopagebreak\par\addvspace{\linespacing plus 0pt minus 0.1\linespacing}%
%\nopagebreak\par\hrule height 0.6 pt\par\addvspace{2\linespacing plus 0.2\linespacing minus 0.2\linespacing}\endgroup}%
\par\hrule height 0.6 pt\par\addvspace{2\linespacing plus 0.2\linespacing minus 0.3\linespacing}\endgroup}


%% картинки
\newcommand{\pngpic}[5]{\begin{figure}[pt]
\includegraphics[height=#2mm]{png/#1.png}
\caption[{#3}]{{#3}.}\label{#4} {{%
\renewcommand{\baselinestretch}{0.92}
\footnotesize #5
}}
\end{figure}}

\addtolength{\headheight}{5pt} 

\newcommand\mysectionname{}

\pagestyle{fancy}
\fancyhf{} %delete the current section for header and footer
\fancyhead[LE,RO]{\thepage}
\fancyhead[RE]{$2$.$\thesection$. \mysectionname}
\fancyhead[LO]{\sc\footnotesize Лекция $8$. Скрытые марковские модели}
\renewcommand{\headrulewidth}{0.3pt}
\fancyhead[RE]{\sc\footnotesize $2$.\mysectionname}
\let\origsection\section
\renewcommand{\section}[1]{\sectionmark{#1}\origsection{#1}}

% redefine sectionmark
\renewcommand\sectionmark[1]{\renewcommand{\mysectionname}{$\thesection$. #1}} 



\begin{document}

\selectlanguage{russian}

\maketitle

\section{Марковские цепи и процессы}

\emph{Марковская цепь} задаётся начальным распределением вероятностей $p^0(x)$ и вероятностями перехода $T(x'; x)$.
$T(x'; x)$~--- это распределение следующего элемента цепи в зависимости от предыдущего; распределение на $(t+1)$--м шаге равно
$$p^{t+1}(x')=\int T(x'; x)p^t(x)dx.$$
В дискретном случае $T(x'; x)$~--- это матрица вероятностей переходов между состояниями $p(x'=i|x=j)$.

\pngpic{hmm-x-and-y}{30}{Дискретный марковский процесс}{hmm-x-and-y}{}


\begin{example}\label{hmm-example}
Предположим, что кто-то бросает монетку и сообщает нам результаты~--- последовательность орлов и решек.
Но при этом подбрасывание монетки происходит где-то там, в другой комнате, поэтому
мы только знаем, что есть определённая последовательность битов.

Если он бросает одну монетку, то модель будет выглядеть следующим образом (см.~рис.~\ref{example-coins}а).
Будет два состояния: $0$ (выпал орёл) и $1$ (выпала решка).
С вероятностью $1-p$ выпадает орёл, с вероятностью $p$~--- решка. Это одна модель.

\pngpic{hmm-example-coins}{40}{Варианты моделей: \textit{a}~--- модель с одной монеткой; \textit{б}~--- модель с двумя монетками}{example-coins}{}

Но мы же можем подумать, что у него две монетки!
Он кидает монетку. Когда у него выпадает решка, он переходит
на другую монетку. Когда у него выпадает орёл на другой монетке, он возвращается к подбрасыванию первой монетки.
В данном случае уже две вероятности: $p$ и $q$. Модель уже совершенно другая (см.~рис.~\ref{example-coins}б).
В ней по-прежнему два состояния, но параметров больше. А если три монетки?..

Наша задача в том числе и в том, чтобы понять, какая из этих моделей лучше соответствует известным данным.
\end{example}


\begin{figure}\label{alg2}
\begin{center}
\fbox{
\parbox{110mm}
 {
  $\texttt{DynamicHMMObservationSequenceProbability}(\lambda,D)$:
  \begin{enumerate}
  \item Инициализировать $\alpha_1(i)=\pi_ib_i(d_1)$.
  \item Шаг индукции: $$\alpha_{t+1}(j)=\left[\sum_{i=1}^n\alpha_t(i)a_{ij}\right]b_j(d_{t+1}).$$
  \item После того как дойдём до шага $T$, подсчитаем искомую вероятность:
        $$p(D|\lambda)=\sum_{i=1}^n\alpha_T(i).$$
  \end{enumerate}
 }
  \hspace{6mm}
}
\end{center}\caption[Алгоритм нахождения вероятности последовательности наблюдений в данной модели]{Алгоритм нахождения вероятности последовательности наблюдений в данной модели.}
\end{figure}

\end{document}