Теорема 4.9: Пусть $\overline\xi=(\xi_1,\xi_2)$, $p_{\overline\xi}(x_1,x_2)$ плотность распределения $\overline\xi$, тогда существует $p_{\eta}(y)$ плотность распределения случайной величины $\eta:=\xi_1+\xi_2$ и $$p_{\eta}(z)=\int\limits_{-\infty}^{\infty}p_{\overline\xi}(z-x,x)dx.$$
Доказательство:
Пусть $F_{\eta}(y)$ функция распределения случайной величины $\eta$, тогда
$$
F_{\eta}(y)=P(\eta<y)=P(\xi_1+\xi_2<y)=\iint\limits_Bp_{\overline\xi}(x_1,x_2)dx_1dx_2,
$$
где
$$B=\{(x_1,x_2)\in\mathbb{R}^2\mid{x}_1+x_2<y\}.$$
Тогда по теореме Фубини (теорема 14.3.4 MA)
$$
F_{\eta}(y)=\int\limits_{-\infty}^{\infty}dx_2\int\limits_{-\infty}^{y-x_2}p_{\overline\xi}(x_1,x_2)dx_1=
\int\limits_{-\infty}^{\infty}dx_2\int\limits_{-\infty}^yp_{\overline\xi}(z-x_2,x_2)dx_2=
\int\limits_{-\infty}^y\int\limits_{-\infty}^{\infty}p_{\overline\xi}(z-x_2,x_2)dx_2.
$$
Так как функция $q(z):=\int_{-\infty}^{\infty}p_{\overline\xi}(z-x_2,x_2)dx_2$ неотрицательна,
то она является плотностью распределения случайной величины $\eta$.
Следствие 4.1: Формула свертки.
Если случайные величины $\xi_1$ и $\xi_2$ независимы, то плотность распределения их суммы равна
$$p_{\xi_1+\xi_2}(z)=\int\limits_{-\infty}^{\infty}p_{\xi_1}(z-x)p_{\xi_2}(x)dx.$$
Доказательство:
Следует из теорем 3.14 и 4.9.
Если случайная величина $\overline\xi=(\xi_1,\xi_2)$ дискретна, то для любого $(x_1,x_2)\in\mathbb{R}^2$ $p_{\overline\xi}(x_1,x_2)=(\xi_1=x_1,\xi_2=x_2)$.
Следовательно, интегралы в результатах теоремы 4.9 и следствия 4.1 можно заменить суммами. Тогда для произвольных $\xi_1$, $\xi_2$
$$p_{\xi_1+\xi_2}(z)=\sum_{x_2}p_{\overline\xi}(z-x_2,x_2)$$
и если случайные величины $\xi_1$ и $\xi_2$ незвисимы, то
$$p_{\xi_1+\xi_2}(z)=\sum_{x_2}p_{\xi_1}(z-x_2)p_{\xi_2}(x_2).$$
Теорема 4.10: Если случайные величины $\xi_1$ и $\xi_2$ имеют пуассоновское распределение в параметрами $\lambda_1$ и $\lambda_2$ соответственно, то их сумма имеет пуассоновское распределение с параметром $\lambda_1+\lambda_2$.
Доказательство:
Для любого $k\in\mathbb{N}$
$$P(\xi_1=k)=\frac{\lambda_1^ke^{-\lambda_1}}{k!},\,P(\xi_2=k)=\frac{\lambda_2^ke^{-\lambda_2}}{k!},$$
для $B\in\mathcal{B}$ не пересекающихся с $\mathbb{N}$ $P(\xi_1\in{B})=P(\xi_2\in{B})=0$. Следовательно,
по теореме 4.9 и биному Ньютона (теорема 1.1 DM)
для любого $m\in\mathbb{N}$
\begin{multline*}
p_{\xi_1+\xi_2}(m)=P(\xi_1+\xi_2=m)=\sum_{k=0}^mP(\xi_1=k)P(\xi_2=m-k)=\\=
\sum_{k=0}^m\frac{\lambda_1^ke^{-\lambda_1}\lambda_2^{m-k}e^{-\lambda_2}}{k!(m-k)!}=\frac{e^{-(\lambda_1+\lambda_2)}}{m!}\sum_{k=0}^m\frac{m!}{k!(m-k)!}\lambda_1^k\lambda_2^{m-k}=
\frac{(\lambda_1+\lambda_2)^m}{m!}e^{-(\lambda_1+\lambda_2)}=\Pi(\lambda_1+\lambda_2).
\end{multline*}
Таким образом, сверткой двух пуассоновских распределений с параметрами $\lambda_1$, $\lambda_2$ является пуассоновское распределение с параметром $\lambda_1+\lambda_2$. Данное выражение обозначают как
$$\Pi(\lambda_1)*\Pi(\lambda_2)=\Pi(\lambda_1+\lambda_2).$$
Теорема 4.11: $$N(\mu_1,\sigma_1^2)*N(\mu_2,\sigma_2^2)=N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2).$$
Доказательство:
Пусть $\xi_1\sim{N}(\mu_1,\sigma_1^2)$, $\xi_2\sim{N}(\mu_2,\sigma_2^2)$, то есть
$$p_{\xi_1}(x)=\frac1{\sqrt{2\pi}\sigma_1}e^{-(x-\mu_1)^2/2\sigma_1^2},$$
$$p_{\xi_2}(x)=\frac1{\sqrt{2\pi}\sigma_2}e^{-(x-\mu_2)^2/2\sigma_2^2}.$$
Тогда по теореме 4.9
\begin{multline*}
p_{\xi_1+\xi_2}(z)=\int\limits_{-\infty}^{\infty}p_{\xi_1}(x)p_{\xi_2}(z-x)dx=
\frac1{2\pi\sigma_1\sigma_2}\int\limits_{-\infty}^{\infty}e^{-\frac12\left((x-\mu_1)^2/\sigma_1^2+(z-x-\mu_2)^2/\sigma_2^2\right)}dx=\frac1{2\pi\sigma_1\sigma_2}
\int\limits_{-\infty}^{\infty}e^{-(x^2\sigma_2^2-2x\mu_1\sigma_2^2+\mu_1^2\sigma_2^2+z^2\sigma_1^2+x^2\sigma_1^2+\mu_2^2\sigma_1^2+2x\mu_2\sigma_1^2-2zx\sigma_1^2-2z\mu_2\sigma_1^2)/2\sigma_1^2\sigma_2^2}dx=\\=
\frac1{2\pi\sigma_1\sigma_2}e^{-(\mu_1^2\sigma_1^2+z^2\sigma_1^2+\mu_2^2\sigma_1^2-2z\mu_2\sigma_1^2)/2\sigma_1^2\sigma_2^2}
\int\limits_{-\infty}^{\infty}e^{-\left(x^2(\sigma_1^2+\sigma_2^2)-2x(\mu_1\sigma_2^2+z\sigma_1^2-\mu_2\sigma_1^2)\right)/2\sigma_1^2\sigma_2^2}dx
\end{multline*}
Обозначим
$$A:=\frac1{2\pi\sigma_1\sigma_2}e^{-(\mu_1^2\sigma_2^2+z^2\sigma_1^2+\mu_2^2\sigma_1^2-2z\mu_2\sigma_1^2)/2\sigma_1^2\sigma_2^2},$$
$$B:=\frac{\sigma_1^2+\sigma_2^2}{\sigma_1^2\sigma_2^2},\,C:=\frac{\mu_1\sigma_2^2+z\sigma_1^2-\mu_2\sigma_1^2}{\sigma_1^2\sigma_2^2},$$
тогда
$$
p_{\xi_1+\xi_2}(z)=A\int\limits_{-\infty}^{\infty}e^{-\frac12(x^2B-2xC)}dx=A\int\limits_{-\infty}^{\infty}e^{-\frac12\left(x\sqrt{B}-\frac{C}{\sqrt{B}}\right)^2+\frac{C^2}{2B}}dx=
Ae^{\frac{C^2}{2B}}\int\limits_{-\infty}^{\infty}e^{-\frac12\left(x\sqrt{B}-\frac{C}{\sqrt{B}}\right)^2}dx.
$$
Сделав замену $t:=x\sqrt{B}-\frac{C}{\sqrt{B}}$ приведем интеграл к интегралу Пуассона. Тогда
$$
p_{\xi_1+\xi_2}(z)=Ae^{\frac{C^2}{2B}}\frac1{\sqrt{B}}\int\limits_{-\infty}^{\infty}e^{-t^2/2}dt=\frac{A\sqrt{2\pi}}{\sqrt{B}}e^{\frac{C^2}{2B}}=
\frac{\sqrt{2\pi}}{2\pi\sigma_1\sigma_2}\frac{\sigma_1\sigma_2}{\sqrt{\sigma_1^2+\sigma_2^2}}e^{-D/2\sigma_1^2\sigma_2^2},
$$
где
\begin{multline*}
D=\mu_1^2\sigma_2^2+z^2\sigma_1^2+\mu_2^2\sigma_1^2-2z\mu_2\sigma_1^2-\frac{(\mu_1\sigma_2^2+z\sigma_1^2-\mu_2\sigma_1^2)^2}{\sigma_1^2+\sigma_2^2}=\\=
\left(\mu_1^2\sigma_1^2\sigma_2^2+z^2\sigma_1^4+\mu_2^2\sigma_1^4-2z\mu_2\sigma_1^4+\mu_1^2\sigma_2^4+z^2\sigma_1^2\sigma_2^2+\mu_2^2\sigma_1^2\sigma_2^2-2z\mu_2\sigma_1^2\sigma_2^2-
\mu_1^2\sigma_2^4-z^2\sigma_1^4-\mu_2^2\sigma_1^4-2z\mu_1\sigma_1^2\sigma_2^2+2\mu_1\mu_2\sigma_1^2\sigma_2^2+2z\mu_2\sigma_1^4\right)/(\sigma_1^2+\sigma_2^2)=\\=
\frac{\sigma_1^2\sigma_2^2}{\sigma_1^2+\sigma_2^2}(\mu_1^2+z^2+\mu_2^2-2z\mu_2-2z\mu_1+2\mu_1\mu_2)=\frac{\sigma_1^2\sigma_2^2}{\sigma_1^2+\sigma_2^2}(z-\mu_1-\mu_2)^2.
\end{multline*}
Таким образом,
$$p_{\xi_1+\xi_2}(z)=\frac1{\sqrt{2\pi}\sqrt{\sigma_1^2+\sigma_2^2}}e^{-(z-(\mu_1+\mu_2))^2/(2(\sigma_1^2+\sigma_2^2))}\sim{N}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2).$$
Теорема 4.12: О замене переменной в интеграле Лебега.
Пусть случайная величина $\xi$ задана на $(\Omega,\mathfrak{A},P)$, тогда
для любой борелевской функции $g(x):\mathbb{R}\to\mathbb{R}$, для любого $B\in\mathbb{B}$
$$\int\limits_Bg(x)dP_\xi=\int\limits_{\xi^{-1}(B)}g(\xi(x))dP$$
Доказательство:
Заметим, что интеграл Лебега стоящий в правой части доказываемого равенства определен на измеримом прострастве $(\Omega,\mathfrak{A},P)$,
а интеграл стоящий слева на измеримом пространстве $(\mathbb{R},\mathcal{B},P_{\xi})$, где для любого $B\in\mathcal{B}$ $P_\xi(B)=P(\xi^{-1}(B))$.
Теорема 4.13: Пусть $a,b\in\mathbb{R}$ $g(x)$ непрерывна на $[a,b]$, тогда $$(L-S)\int\limits_a^bg(x)dF_{\xi}(x)=(R-S)\int\limits_a^bg(x)dF_{\xi}(x).$$ Если $a,b\in\overline{\mathbb{R}}$, то для выполнения равенства необходимо еще потребовать $$(R-S)\int\limits_{-\infty}^{\infty}|g(x)|dF_{\xi}(x)<\infty.$$
Доказательство:
Здесь в левой части равенсва стоит интеграл Лебега, а в правой интеграл Стилтьеса (8.2.1 MA).
Доказательство, например, в Ширяев А. Н. 2004 г. "Вероятность - 1" стр. 253.
Далее везде при использовании интеграла по порождающей функции имеется ввиду интеграл Стилтьеса при этом обозначиние $(R-S)$ опускается.
Таким образом, если функция $g(x)$ непрерывна и $\int_{-\infty}^{\infty}|g(x)|dF_{\xi}(x)<\infty$ то математическое ожидание от случайной величины $g(\xi)$
можно вычислить как
$$E(g(\xi))=(R-S)\int\limits_{-\infty}^{\infty}g(x)dF_{\xi}(x).$$
При этом если $\xi$ абсолютно непрерывна, то по утверждению 8.2.10 MA
$$E(g(x))=\int\limits_{-\infty}^{\infty}g(x)p_{\xi}(x)dx.$$
При подстановке в данные равенства $g(x)\equiv{x}$ получаются соответствующие формулы для вычисления математического ожидания $E\xi$ случайной величины $\xi$.
В случае дискретной случайной величины.
$$\xi\sim\begin{pmatrix}x_1, & \ldots, & x_n, & \ldots \\ p_1, & \ldots, & p_n, & \ldots \end{pmatrix}$$
Для любого $k\in\mathbb{N}$ $p_k=F_{\xi}(x_k+0)-F_{\xi}(x_k)$, следовательно, при условии $\sum_{k=1}^{\infty}|x_k|p_k<\infty$ существует математическое ожидание
$$E\xi=\int\limits_{-\infty}^{\infty}xdF_{\xi}(x)=\sum_{k=1}^{\infty}x_kp_k.$$
Пример 4.2:
Задача 4.2: Для всех распределений введенных в разделах 2.3, 2.4 и не рассмотренных в примере 4.2 вычислить математическое ожидание или доказать, что оно не определено.
Теорема 4.14: Неравенства Чебышева.
Доказательство:
Теорема 4.15: Неравенство Коши-Буняковского.
Пусть случайные величины $\xi$ и $\eta$ такие, что $E|\xi|<\infty$, $E|\eta|<\infty$, тогда $E|\xi\eta|<\infty$ и
$$E|\xi\eta|\leq\sqrt{E(\xi^2)E(\eta^2)}.$$
Доказательство:
Пусть $E(\xi^2)=0$, тогда, так как случайная величина $\xi^2$ неотрицательна, то по п. п. 3, 1 теоремы 4.5
$$\xi^2=0(P_{\text{пн.}})\Rightarrow\xi=0(P_{\text{пн.}})\Rightarrow\xi\eta=0(P_{\text{пн.}})\Rightarrow{E}|\xi\eta|=0.$$
Аналогично рассматривается случай $E(\eta^2)=0$.
Пусть $E(\xi^2)>0$ и $E(\eta^2)>0$, тогда можно определить случайные величины
$$\tilde\xi:=\frac{\xi}{\sqrt{E(\xi^2)}},\,\tilde\eta:=\frac{\eta}{\sqrt{E(\eta^2)}}.$$
Тогда
$$E(\tilde\xi^2)=E\frac{\xi^2}{E(\xi^2)}=1,\,E(\tilde\eta^2)=1,$$
следовательно, по п. 4 теоремы 4.4
$$
\begin{cases}
\forall\omega\in\Omega(\tilde\xi(\omega)+\tilde\eta(\omega))^2\geq0 \\
\forall\omega\in\Omega(\tilde\xi(\omega)-\tilde\eta(\omega))^2\geq0
\end{cases}\Rightarrow\forall\omega\in\Omega(2|\tilde\xi\tilde\eta|\leq\tilde\xi^2+\tilde\eta^2)\Rightarrow
{E}|\tilde\xi\tilde\eta|\leq1\Rightarrow{E}\left|\frac{\xi\eta}{\sqrt{E(\xi^2)E(\eta^2)}}\right|\leq1\Rightarrow{E}|\xi\eta|\leq\sqrt{E(\xi^2)E(\eta^2)}.
$$
Утверждение 4.1: $$E|\xi\eta|=\sqrt{E(\xi^2)E(\eta^2)}\Leftrightarrow\exists{c}\in\mathbb{R}:\xi=c\eta(P_{\text{пн.}})$$ (Вероятно ошибка в условии. Возможно в левой части эквивалентности должно стоять $(E(\xi\eta))^2=E(\xi^2)E(\eta^2)$)
Доказательство:
$\Rightarrow)$ Пусть $u,v\in\mathbb{R}$ такие, что $u\sqrt{E(\xi^2)}+v\sqrt{E(\eta^2)}=0$, тогда
$$
E((u|\xi|+v|\eta|)^2)=u^2E(\xi^2)+2uvE|\xi\eta|+v^2E(\eta^2)=
u^2+2uv\sqrt{E(\xi^2)E(\eta^2)}+v^2E\eta^2=\left(u\sqrt{E(\xi^2)}+v\sqrt{E(\eta^2)}\right)^2=0.
$$
Тогда по п. 3 теоремы 4.5 $u|\xi|+v|\eta|=0(P_{\text{пн.}})$, следовательно, $\xi$ и $\eta$ линейно связаны.
(Последнее утверждение не верно, так как функция модуля не линейна, например, если $f(0)=f(1)=1,g(0)=-1,g(1)=1$, то $|f|-|g|=0$, однако,
очевидно не существует такого $c\in\mathbb{R}$, что $f=cg$)
$\Leftarrow)$
$$\sqrt{E(\xi^2)E(\eta^2)}=\sqrt{c^2E(\eta^2)E(\eta^2)}=|c|E(\eta^2)=E(|c||\eta^2|)=E|\xi\eta|.$$
Теорема 4.16: Неравенство Гёльдера.
Пусть $p,q\in\mathbb{R}$ такие, что $p>1$, $q>1$, $\frac1{p}+\frac1{q}=1$, $E|\xi|^p<\infty$, $E|\eta|^q<\infty$, тогда
$$E|\xi\eta|\leq\left(E(|\xi|^p)\right)^{1/p}\left(E(|\eta|^q)\right)^{1/q}.$$
Доказательство:
Доказательство, например, в Ширяев А. Н. 2004 г. "Вероятность - 1" стр. 240.
Теорема 4.17: Пусть $p\in\mathbb{R}$ такое, что $p\geq1$, $E(|\xi|^p)<\infty$, $E(|\eta|^p)<\infty$, тогда $$\left(E((\xi+\eta)^p)\right)^{1/p}\leq\left(E(|\xi|^p)\right)^{1/p}+\left(E(|\eta|^p)\right)^{1/p}.$$
Доказательство:
Доказательство, например, в Ширяев А. Н. 2004 г. "Вероятность - 1" стр. 240.
Теорема 4.18: Неравенство Иенсена.
Пусть $E|\xi|<\infty$, $g(x)$ борелевская выпуклая книзу функция, тогда
$$E(g(\xi))\geq{g}(E\xi).$$
Доказательство:
Так как $g(x)$ выпукла книзу, то (см. 6.6.2 MA,
здесь наблюдается расхождение в терминологии с курсом математического анализа,
там такая функция называется выпуклой вверх) для любого $x_0\in\mathbb{R}$ существует $k(x_0):=g'(x_0)\in\mathbb{R}$ такое, что
$$g(x)\geq{g}(x_0)+(x-x_0)k(x_0).$$
Подставляя $x_0:=E\xi$, $x:=\xi$ для любого $\omega\in\Omega$ получим
$$g(\xi(\omega))\geq{g}(E\xi)+(\xi(\omega)-E\xi)k(E\xi).$$
Взяв матожидание от обоих частей неравенства получим
$$E(g(\xi))\geq{E}(g(E\xi))+k(E\xi)(E\xi-E\xi)=g(E\xi).$$
Теорема 4.19: Неравенство Ляпунова для мометнов.
Для любой случайной величины $\xi$ и любых $s,t\in\mathbb{R}$ таких, что $0<s<t$
$$\bigl(E(|\xi|^s)\bigr)^{\frac1{s}}\leq\bigl(E(|\xi|^t)\bigr)^{\frac1{t}}.$$
Доказательство:
Так как для любого $r>1$ функция $g(x):=|x|^r$ выпукла книзу, то по теореме 4.18
$$E(g(\xi))\geq{g}(E\xi)\Rightarrow{E}(|\xi|^{\frac{t}{s}})\geq|E\xi|^{\frac{t}{s}}.$$
Подставив $|\xi|^s$ вместо $\xi$ получим
$$E\left(\bigl||\xi|^s\bigr|^{\frac{t}{s}}\right)\geq|E(|\xi|^{s})|^{\frac{t}{s}}\Rightarrow{E}(|\xi|^t)\geq(E(|\xi|^s))^{\frac{t}{s}}\Rightarrow
(E(|\xi|^t))^{\frac1{t}}\geq(E(|\xi|^s))^{\frac1{s}}.$$
Из неравенств Иенсена и Ляпунова вытекает следующая цепочка неравенств
$$E|\xi|\leq(E(|\xi|^2))^{\frac12}\leq(E(|\xi|^3))^{\frac13}\leq\ldots\leq(E(|\xi|^n))^\frac1{n}\leq\ldots$$
previous contents next