Определение 7.8: Схемой последовательно возрастающих серий случайных величин называется последовательность случайных величин $\{\xi_{kn}\}$ такая, что $n\in\mathbb{N}$ и для любого $n\in\mathbb{N}$ $k\in\overline{1,n}$: $$ \begin{matrix} \xi_{11} & & & \\ \xi_{12} & \xi_{22} & & \\ \xi_{13} & \xi_{23} & \xi_{33} & \\ \cdots & \cdots & \cdots & \cdots \\ \xi_{1n} & \xi_{2n} & \cdots & \xi_{nn} \\ \cdots & \cdots & \cdots & \cdots \\ \end{matrix} $$ Схема серий называется стандартной, если
Теорема 7.16: Если в стандартной схеме серий выполнено условие Линденберга, т. е. $$\forall\tau>0\,(L_n(\tau)\xrightarrow[n\to\infty]{}0),$$ то $$P(S_n<x)\UniformConv\Phi(x).$$
Доказательство:
Так как при доказательстве теоремы 7.14
не используется вид функции распределения случайных величин $\{\xi_k\}$,
а используется только их матожидания $\mu_k$, сумма дисперссий $B_n^2$ и независимость случайных величин входящих в сумму $S_n$,
то стандартную схему серий можно рассматривать как последовательность случайных величин,
в которой случайные величины $\xi_{1n},\ldots,\xi_{nn}$ входящие в сумму $S_n$ с ростом $n$ меняются сохраняя при этом необходимые ($\mu_{kn}=0$, $B_n^2=1$,
независимость $\xi_{1n},\ldots,\xi_{nn}$) характеристики.
Тогда доказательство теоремы аналогично доказательству теоремы 7.14.
Доказательство, например, в Боровков А. А.1999 г. "Теория вероятностей" стр. 164.
Утверждение 7.4: В стандартной схеме последовательно возрастающих серий случайных величин $\{\xi_{kn}\}$ $$\forall\tau>0\,(L_n(\tau)\xrightarrow[n\to\infty]{}0)\Rightarrow\max_{1\leq{k}\leq{n}}D\xi_{kn}\xrightarrow[n\to\infty]{}0.$$
Доказательство:
Фиксируем $\varepsilon>0$.
$$
\max_{1\leq{k}\leq{n}}D\xi_{kn}=\max_{1\leq{k}\leq{n}}\int\limits_{-\infty}^{\infty}x^2dF_{kn}(x)=
\max_{1\leq{k}\leq{n}}\left(\int\limits_{|x|\leq\sqrt\varepsilon/2}^{\infty}x^2dF_{kn}(x)+\int\limits_{|x|>\sqrt\varepsilon/2}x^2dF_{kn}(x)\right)\leq
\max_{1\leq{k}\leq{n}}\left(\frac{\varepsilon}{4}+\int\limits_{|x|>\sqrt\varepsilon/2}x^2dF_{kn}(x)\right)\leq\frac{\varepsilon}{4}+L_n\left(\frac{\sqrt\varepsilon}{2}\right).
$$
Так как $L_n(\sqrt\varepsilon/2)\to0$ при $n\to\infty$, то существует $n_0\in\mathbb{N}$ такое, что $L_n(\sqrt\varepsilon/2)<\varepsilon/2$, тогда
$$\forall{n}>n_0\left(\max_{1\leq{k}\leq{n}}D\xi_{kn}<\frac{\varepsilon}{4}+\frac{\varepsilon}{2}<\varepsilon\right).$$
Как было показано ранее для произвольной последовательности независимых случайных величин $\{\xi_k\}$
$$L_n(\tau)\xrightarrow[n\to\infty]{}0\Rightarrow{P}(\max_{1\leq{k}\leq{n}}|\xi_k-\mu_k|>\tau{B}_n)\xrightarrow[n\to\infty]{}0.$$
В случае стандартной схемы серий ($\mu_k=0$, $B_n=1$)
$$L_n(\tau)=\sum_{k=1}^n\int\limits_{|x|>\tau}x^2dF_{kn}(x)\xrightarrow[n\to\infty]{}0\Rightarrow{P(\max_{1\leq{k}\leq{n}}|\xi_{kn}|>\tau)}\xrightarrow[n\to\infty]{}0.$$
Определение 7.9:
Случайные величины $\{\xi_{kn}\}$ в стандартной схеме серий называются ассимптотически малыми, если
$$\forall\varepsilon>0\,\left(\max_{1\leq{k}\leq{n}}P(|\xi_{kn}|>\varepsilon)\xrightarrow[n\to\infty]{}0\right).$$
Утверждение 7.5: Если в стандартной схеме серий $\{\xi_{kn}\}$ для любого ${\tau>0}$ $L_n(\tau)\to0$ при $n\to\infty$, то случайные величины $\{\xi_{kn}\}$ ассимптотическии малы.
Доказательство:
Так как по утверждению 7.4
$$\forall\tau>0\,(L_n(\tau)\xrightarrow[n\to\infty]{}0)\Rightarrow\max_{1\leq{k}\leq{n}}D\xi_{kn}\xrightarrow[n\to\infty]{}0$$
и по п. 3 теоремы 4.14
$$\max_{1\leq{k}\leq{n}}P(|\xi_{kn}|>\varepsilon)\leq\max_{1\leq{k}\leq{n}}\frac{D\xi_{kn}}{\varepsilon^2},$$
то $\max\limits_{1\leq{k}\leq{n}}P(|\xi_{kn}|>\varepsilon)\to0$ при $n\to\infty$.
Условие Линденберга не является необходимым для сходимости
${P(S_n<x)\UniformConv\Phi(x)}$.
Пример 7.3:
Пусть в стандартной схеме последовательно возрастающих серий для любого $n\in\mathbb{N}$ $\xi_{1n}=\eta\sim{N}(0,1)$ и
для любого $k\in\overline{2,n}$ $\xi_{kn}\equiv0$. Тогда $S_n:=\sum_{k=1}^n\xi_{kn}=\xi_{1n}=\eta\sim{N}(0,1)$, то есть
$$P(S_n<x)\UniformConv\Phi(x),$$
но условие Линденберга не выполняется так как
$$\max_{1\leq{k}\leq{n}}P(|\xi_{kn}|>\varepsilon)=P(|\eta|>\varepsilon)$$
не стремится к нулю при $n\to\infty$.
Теорема 7.17: Теорема Линденберга-Феллера.
Пусть $\{\xi_{kn}\}$ стандартная схема серий такая, что
Доказательство:
Доказательство, напремер, в Боровков А. А.1999 г. "Теория вероятностей" стр. 167.
Замечание 7.4:
Центральная предельная теорема в стандартной схеме серий используется для оценки вероятностей вида $P(A\leq{S}_n\leq{B})$ при достаточно больших $n$.
Введем некоторые обозначения: пусть $\{\xi_{kn}\}$ схема последовательно возрастающих серий такая, что для любых $n\in\mathbb{N}$ $k\in\overline{1,n}$
$$\xi_{kn}\sim\begin{pmatrix}1, & 0 \\ p_n, & q_n\end{pmatrix},$$
где $q_n:=1-p_n$.
Для любого $n\in\mathbb{N}$ обозначим $\mu_n:=\sum_{k=1}^n\xi_{kn}$ число успехов в $n$-той серии, $F_n(x)$ - функция распределения $\mu_n$.
Тогда для любого $n\in\mathbb{N}$, $k\in\overline{1,n}$
$$P(\mu_n=k)=\binom{n}{k}p_n^kq_n^{n-k},$$
$$F_n(x)=\sum_{k<x}\binom{n}{k}p_n^kq_n^{n-k}.$$
Зафиксируем $\lambda>0$ и обозначим функцию распределения Пуассона с параметром $\lambda$ (2.4 п. 5) как
$$\Pi(x):=\sum_{k<x}\frac{\lambda^ke^{-\lambda}}{k!}$$
Теорема 7.18: Если $p_n\to0$, $np_n\to\lambda$ при $n\to\infty$, то $\{F_n(x)\}$ сходится в основном к $\Pi(x)$, то есть $$\forall{k}\in\overline{1,n}\left(P(\mu_n=k)\xrightarrow[n\to\infty]{}\frac{\lambda^ke^{-\lambda}}{k!}\right).$$ Доказательство теоремы не имеет отношения к ЦПТ. Возожно теорема более уместна в конце 6 главы.
Доказательство:
Для любого $z\in\mathbb{C}$ такого, что $|z|<1/2$ докажем вспомогательное неравенство $|\ln(1+z)-z|\leq|z|^2$.
\begin{multline*}
\ln(1+z)=\sum_{k=1}^{\infty}\frac{z^k}{k}(-1)^{k-1}\Rightarrow|\ln(1+z)-z|=\left|\sum_{k=2}^{\infty}\frac{z^k}{k}(-1)^{k-1}\right|\leq\sum_{k=1}^{\infty}\frac{|z|^k}{k}=\\=
\frac{|z|^2}{2}\sum_{k=2}^{\infty}2\frac{|z|^{k-2}}{k}\leq\frac{|z|^2}{2}\sum_{k=2}^{\infty}|z|^{k-2}=\frac{|z|^2}{2}\frac1{1-|z|}\leq|z|^2,
\end{multline*}
где в последнем неравенстве использована формула для суммы геометрической прогрессии
(пример 7.1.1 MA).
Для любого $n\in\mathbb{N}$ обозначим $\varphi_n(t)$ - характеристическая функция $\mu_n$. Для любого $n\in\mathbb{N}$ $\mu_n\sim{B}(n,p)$
(2.4 п. 6), тогда по п. 2 примера 6.2
$$\varphi_n(t)=\bigl(q_n+p_ne^{it}\bigr)^n.$$
Обозначим $\varphi(t)$ - характеристическая функция $\Pi(x)$, тогда по п. 4 примера 6.2
$$\varphi(t)=\exp{\bigl(\lambda(e^{it}-1)\bigr)}.$$
Так как $p_n\to0$ при $n\to\infty$, то существуте $n_0\in\mathbb{N}$ такое, что для любого $n>n_0$ $|p_n(e^{it}-1)|<1/2$. Тогда для любого $n>n_0$
\begin{multline*}
|\ln\varphi_n(t)-\ln\varphi(t)|=|n\ln{\bigl(q_n+p_ne^{it}\bigr)}-\lambda(e^{it}-1)|=
|n\ln{\bigl(1+p_n(e^{it}-1)\bigr)}-np_n(e^{it}-1)+np_n(e^{it}-1)-\lambda(e^{it}-1)|\leq\\\leq
{n}|\ln{\bigl(1+p_n(e^{it}-1)\bigr)}-p_n(e^{it}-1)|+|e^{it}-1||np_n-\lambda|\leq
{n}p_n^2|e^{it}-1|^2+|e^{it}-1||np_n-\lambda|.
\end{multline*}
Так как $p_n\to0$, $np_n\to\lambda$ при $n\to\infty$, то последнее выражение стермится к нулю при $n\to\infty$, то есть
$$\ln{\varphi_n(t)}\xrightarrow[n\to\infty]{}\ln{\varphi(t)}\Rightarrow\varphi_n(t)\xrightarrow[n\to\infty]{}\varphi(t),$$
тогда по теореме 6.14 $\{F_n(x)\}$ сходится в основном к $\Pi(x)$. Следовательно,
$$
P(\mu_n=k)=F_n(k+0)-F_n(k)\xrightarrow[n\to\infty]{}\Pi(k+0)-\Pi(k)=\frac{\lambda^ke^{-\lambda}}{k!}.
$$
Определение 7.10:
Распределение дискретной случайной величины $\xi$ называется решётчатым, если
$$\exists{a}\in\mathbb{R},\,\exists{h}>0:\stackrel{\circ}{\forall}\omega\in\mathbb{R}\,\exists{k}\in\mathbb{Z}:\xi(\omega)=a+kh.$$
При этом $h$ называется шагом решётчатого распределения.
Шаг распределения $h$ называется максимальным, если для любого другого шага $h_1$ $h_1<h$.
Здесь $\stackrel{\circ}{\forall}$ означает "почти для всех".
Пример 7.4:
Распределение Пуассона является решётчатым ($a=0$, $k=1$), так как для любой случайной величины $\xi\sim\Pi(\lambda)$, $\xi(\mathbb{R})=\mathbb{N}_0$.
Теорема 7.19: Распределение дискретной случайной величины $\xi$ решётчато тогда и только тогда, когда существует $t_0\in\mathbb{R}\backslash\{0\}$ такое, что $|\varphi_{\xi}(t_0)|=1$.
Доказательство:
Обозначим $F(x)$ - функция распределения, $\varphi(t)$ - характеристическая функция случайной величины $\xi$.
$\Rightarrow)$ Пусть распределение дискретной случайной величины $\xi$ решётчато, то есть
$$\exists{a}\in\mathbb{R},\,\exists{h}>0:\stackrel{\circ}{\forall}\omega\in\mathbb{R}(\exists{k}\in\mathbb{Z}:\xi(\omega)=a+kh).$$
Обозначим для любого $k\in\mathbb{Z}$ $p_k:=P(\xi=a+kh)$, тогда
$$\varphi(t)=Ee^{it\xi}=\sum_{k=-\infty}^{\infty}p_ke^{it(a+kh)}=e^{ita}\sum_{k=-\infty}^{\infty}p_ke^{itkh}.$$
Положим $t_0:=2\pi/h$, тогда
$$
\varphi(t_0)=e^{i\frac{2\pi}{h}a}\sum_{k=-\infty}^{\infty}e^{2\pi{k}i}=e^{i\frac{2\pi}{h}a}\sum_{k=-\infty}^{\infty}p_k=e^{i\frac{2\pi}{h}a}\Rightarrow
|\varphi(t_0)|=\left|e^{i\frac{2\pi}{h}a}\right|=1.
$$
$\Leftarrow)$
Пусть существует $t_0\in\mathbb{R}\backslash\{0\}$ такое, что $|\varphi(t_0)|=1$. Тогда существует $\theta\in\mathbb{R}$ такое, что $\varphi(t_0)=e^{i\theta}$,
следовательно,
\begin{multline*}
\int\limits_{-\infty}^{\infty}e^{it_0x}dF=e^{i\theta}\Rightarrow\int\limits_{-\infty}^{\infty}e^{i(t_0x-\theta)}dF(x)=
\int\limits_{-\infty}^{\infty}\cos{(t_0x-\theta)}dF(x)+i\int\limits_{-\infty}^{\infty}\sin{(t_0x-\theta)}dF(x)=1\Rightarrow
\int\limits_{-\infty}^{\infty}\cos{(t_0x-\theta)}dF(x)=1=\int\limits_{-\infty}^{\infty}dF(x)\Rightarrow\\\Rightarrow
\int\limits_{-\infty}^{\infty}(1-\cos{(t_0x-\theta)})dF(x)=2\int\limits_{-\infty}^{\infty}\sin^2{\frac{t_0x-\theta}{2}}dF(x)=
2\sum_{s\in\xi(\mathbb{R})}\left(\sin^2{\frac{t_0s-\theta}{2}}P(\xi=s)\right)=0,
\end{multline*}
где множество $\xi(\mathbb{R})$ всех значений случайной величины $\xi$ счётно.
Тогда для любого $s\in\xi(\mathbb{R})$ либо $P(\xi=s)=0$, либо
$$\sin\frac{t_0s-\theta}{2}=0\Rightarrow\exists{k}\in\mathbb{Z}:\frac{t_0s-\theta}{2}=\pi{k}\Rightarrow{s}=\frac{\theta}{t_0}+\frac{2\pi}{t_0}k.$$
Таким образом, почти для всех $\omega\in\mathbb{R}$ $\xi(\omega)=a+kh$, где $a:=\theta/t_0$, ${h:=2\pi/t_0}$.
Теорема 7.20: Пусть $h$ - шаг распределения случайной величины $\xi$, тогда $h$ максимальный шаг распределения тогда и только тогда, когда $$\forall{t}\in\mathbb{R}\left(0<|t|<\frac{2\pi}{h}\Rightarrow|\varphi(t)|<1\right).$$
Доказательство:
Обозначим $\varphi(t)$ - характеристическая функция случайной величины $\xi$.
$\Rightarrow)$ Докажем от противного. Предположим что существует $t_1\in\mathbb{R}$ такое, что $0<t_1<2\pi/h$ и $|\varphi(t_1)|=1$.
Тогда из доказательства теоремы 7.19 следует, что $2\pi/t_1$ шаг распределения при этом
$h<2\pi/t_1$, то есть $h$ не максимальный шаг. Получено противоречие.
$\Leftarrow)$ Докажем от противного пусть существует шаг распределения $h_1$ такой, что $h<h_1$.
Тогда $0<2\pi/h_1<2\pi/h$ и по теореме 7.19 $|\varphi(2\pi/h_1)|=1$. Получено противоречие.
Следствие 7.4: $$\forall\varepsilon>0\,\exists{c}>0:\forall{t}\in\mathbb{R}\left(\varepsilon\leq|t|\leq\frac{2\pi}{h}-\varepsilon\Rightarrow|\varphi_{\xi}(t)|\leq{e}^{-c}\right).$$
Доказательство:
Следует из непрерывности функции $e^x$.
Введём некоторые обозначения.
$\{\xi_n\}$ - последовательность независимых одинаково распределённых случайных величин с решётчатым распределением.
Для любого $n\in\mathbb{N}$ $F(x)$ - функция распределения $\xi_n$, $\mu:=E\xi_n$, $\sigma^2:=D\xi_n$,
$S_n:=\sum_{k=1}^n\xi_n$, тогда $ES_n=n\mu$, $B_n^2:=DS_n=n\sigma^2$. Если $a$, $h$ параметры решётчатого распределения $\xi_n$,
то $S_n$ имеет решётчатое распределение с параметрами $an$, $h$. Для любого $n\in\mathbb{N}$,
$k\in\mathbb{Z}$ обозначим
$$z_{nk}:=\frac{an+kh-n\mu}{\sigma\sqrt{n}},\,P_n(k):=P(S_n=an+kh).$$
Теорема 7.21: Локальная предельная теорема.
Пусть $\{\xi_n\}$ последовательность одинаково распределённых случайных величин с решётчатым распределеним, $h$ - максимальный шаг, $0<\sigma^2<\infty$, тогда
$$\frac{B_n}{h}P_n(k)-\frac1{\sqrt{2\pi}}e^{-z_{nk}^2/2}\xrightarrow[n\to\infty]{}0,$$
причём сходимость равномерна по $k\in\mathbb{Z}$.
Доказательство:
Теорема 7.22: Теорема Муавра-Лапласа.
Если в схеме Бернулли $n$ независимых испытаний в вероятностью успеха $p$ выполняется $0<p<1$, то
$$\sqrt{npq}P_n(k)-\frac1{\sqrt{2\pi}}e^{-x^2/2}\xrightarrow[n\to\infty]{}0,$$
где $x=(k-np)/\sqrt{npq}$. При этом сходимость равномерна по $k\in\overline{1,n}$.
Доказательство:
Так как $0<p<1$, то $0<\sigma^2:=B_n^2=pq<\infty$. В обозначениях теоремы 7.21 при $a=0$, $h=1$, $\mu=p$, $\sigma=pq$
$$z_{nk}:=\frac{an-kh-n\mu}{\sigma\sqrt{n}}=\frac{k-np}{\sqrt{npq}}=x.$$
Следовательно, утверждение теоремы следует из теоремы 7.21.
Следствие 7.5: Если в схеме Бернулли $n$ независимых испытаний в вероятностью успеха $p$ выполняется $0<p<1$, то $$\frac{\sqrt{npq}P_n(k)\sqrt{2\pi}}{e^{-x^2/2}}\xrightarrow[n\to\infty]{}1,$$ где $x=(k-np)/\sqrt{npq}$. При этом сходимость равномерна по $k$, для которых $x$ находится в каком-либо интервале.
Доказательство:
Следует из теоремы 7.22.
previous contents next