V této kapitole je popsán jednoduchý systém, na kterém jsou porovnány øídící algoritmy uvedené v pøedešlé kapitole. Systém byl podrobnì zkoumán v \cite{astrom1986dual}. Pro srovnání uvádíme tamìjší výsledky.

\section{Popis systému}
Výstup systému je popsán jako
\begin{gather}
\label{simple}
y_{t+1}=y_t+\theta_tu_t+v_{t+1}	\qquad t=0,\ldots,N-1,\\
v_t\sim N(0,\sigma^2).\\
\theta_t\sim N(\hat{\theta},P_t),\\
\cov(v_{t+1},\theta)=0.
\end{gather}

Ztrátovou funkci volíme kvadratickou, tedy
\begin{equation}
g(y_{0:N},u_{0:N-1},v_{0:N-1})=\sum_{t=0}^{N-1}y_{t+1}^2.
\end{equation}

Odhadovací procedurou pro parametr $\theta$ je Kalmanùv filtr. Pro systém \eqref{simple}  má tvar
\begin{gather}
\label{kal}
K_t=\frac{u_tP_t}{u_t^2P_t+\sigma^2}\\
\hat{\theta}_{t+1}=\hat{\theta}_t+K_t(y_{t+1}-u_t\hat{\theta}_t),\\
P_{t+1}=(1-K_tu_t)P_t. 
\end{gather}

Oèekávaná ztráta je
\begin{equation}
J_t(y_t,\theta_t)=\min_{u_t \in U_t}\E_{y_{t+1},v_t}\left\{y_{t+1}^2+J_{t+1}(y_{t+1},\theta_{t+1})|y_t,\theta_t,u_t\right\}, \qquad t=0,\ldots,N-1.
\end{equation}

Ta po dosazení z \eqref{simple} a èásteèném provedení støední hodnoty pøejde na tvar
\begin{gather}
\label{dos}
J_t(y_t,\theta_t)=\min_{u_t \in U_t}\left\{(y_t+\hat{\theta}_tu_t)^2+u_t^2P_t+\sigma^2+\E_{y_{t+1},v_t}(J_{t+1}(y_{t+1},\theta_{t+1}))|y_t,\theta_t,u_t\right\}.
\end{gather}

ZDE BY MEL BYT ANGSTROM+...

\section{Specifika jednotlivých pøístupù}
V tomto oddílu jsou popsány nìkteré aspekty algoritmù, které budeme srovnávat, pøi aplikaci na systém \eqref{simple}.

\subsection{Certainty equivalent control}
Oèekávaná ztráta \eqref{CE} prejde v
\begin{gather}
J_t(y_t, \theta_t)=\min_{u_t \in U_t}\left\{\hat{y}_{t+1}^2 +J_{t+1}(y_{t+1},\theta_{t+1})|I_t,\theta_t,u_t\right\}.
\end{gather}
Støední hodnota výstupu je 
\begin{equation}
\hat{y}_{t+1}=y_t+\hat{\theta}_tu_t	
\end{equation}
a rozhodnutí bude tedy
\begin{equation}
\mu_t(y_t,\hat{\theta}_t)=-\frac{y_t}{\hat{\theta}_t}.
\end{equation}

\subsection{Metoda separace}
V první fázi metody separace položíme øídící zásah 
\begin{equation}
u_0=\sqrt{C-\frac{1}{P_0}}.
\end{equation}
Tím se dle \eqref{kal} sníží rozptyl $P_0$ neznámého parametru $\theta$ na $\frac{1}{C}$. Konstanta $C$ by mìla být volena dostateènì malá, aby odhad $\hat{\theta}$ pro druhou fázi øízení byl dostateènì blízko skuteèné hodnotì parametru $\theta$. Pøi srovnání jednotlivých algoritmù pokládáme $C=100$.

\subsection{SIDP}
Dle \eqref{dos} je optimální $u_t$ závislé na $(y_t,\hat{\theta}_t,P_t)$. Pøi simulaci máme tedy v každém èasovém okamžiku $t$ diskretizovat tøídimenzionální prostor nezávisle promìnných. Dle \cite{astrom1986dual} je však pøed samotnou simulací vhodné pøejít k transformaci prostoru $(y_t,\hat{\theta}_t,P_t,u_t)$ do nových promìnných $(\eta_t,\beta_t,\zeta_t,\nu_t)$ dle
\begin{gather}
\eta_t=\frac{y_t}{\sigma} \\
\beta_t=\frac{\hat{\theta}_t}{\sqrt{P_t}} \\
\zeta_t=\frac{1}{\sqrt{P_t}} \\
\nu_t=\frac{u_t\sqrt{P_t}}{\sigma}
\end{gather}

Souèasnì mùžeme neurèitost ve výstupu \eqref{simple} reprezentovat jedinou normalizovanou náhodnou velièinou podle
\begin{equation}
s_t=\frac{y_{t+1}-y_t+\hat{\theta}_tu_t}{\sqrt{u_t^2P_t+\sigma^2}} \sim N(0,1).
\end{equation}
 
Rovnice pro výstup \eqref{simple} a následující odhad neznámého parametru \eqref{kal} tak pøejde v
\begin{gather}
\eta_{t+1}=\eta_t+\beta_t\nu_t+\sqrt{1+\nu^2}s_t\\
\beta_{t+1}=\sqrt{1+\nu^2}\beta_t+\nu_ts_t
\end{gather}

Pøejdeme-li k vhodnì upravené oèekávané ztrátì, dostaneme 
\begin{align}
V_t(\eta_t,\beta_t,\zeta_t)&=\frac{J_t(y_t,\hat{\theta}_t,P_t)}{\sigma^2}\\
&=\min_{\nu_t }\left\{(\eta_t+\beta_t\nu_t)^2+\nu_t^2+1+\E_{y_{t+1},v_t}(V_{t+1}(\eta_{t+1},\beta_{t+1},\zeta))\right\}.
\end{align}

Nyní spoèteme oèekávanou ztrátu pro $N-1$. 
\begin{equation}
V_{N-1}(\eta_{N-1},\beta_{N-1},\zeta_{N-1})=\min_{\nu_{N-1}}\left\{(\eta_{N-1}+\beta_{N-1}\nu_{N-1})^2+\nu_{N-1}^2+1\right\}.
\end{equation}

Derivací získáme optimální zásah jako
\begin{equation}
\label{optcon}
\nu_{N-1}=-\frac{\eta_{N-1}\beta_{N-1}}{1+\beta_{N-1}^2}
\end{equation}
a oèekávanou ztrátu
\begin{equation}
V_{N-1}(\eta_{N-1},\beta_{N-1},\zeta_{N-1})= \frac{\eta_{N-1}^2+1}{\beta_{N-1}^2+1}
\end{equation}

Protože optimální zásah $\nu_{N-1}$ ani oèekávaná ztráta $V_{N-1}$ nezávisí na $\zeta_{N-1}$, díky tvaru $V_t$ nebude rovnìž optimální zásah $\nu_t$ a oèekávaná ztráta $V_t$ záviset na $\zeta_t$. Pøi diskretizaci tedy staèí uvažovat pouze dvoudimenzionální prostor nezávisle promìnných $(\eta_t,\beta_t)$.

\section{Srovnání jednotlivých pøístupù}
V této sekci jsou porovnány popsané øídící algoritmy na systému \eqref{simple}. 
POPIS EXPERIMENTU