Основные определения и теоремы теории вероятностей и математической статистики.

Элементарное событие
события, которые нельзя разделить на составные части, также являющиеся событиями.
Пространство элементарных событий $\Omega$
объединение элементарных событий.
Полная группа событий
система множеств $A_1,A_2,\ldots,A_m$ удовлетворяющая следующим условиям:
  • пересечение любых двух различных множеств является пустым множеством: $A_i \cap A_j = \emptyset $ для всех $i,j: i \ne j$.
  • объединение всех множеств $A_1 \cup A_2 \cup \ldots \cup A_m$ совпадает с множеством $\Omega$
Алгебра $\mathcal {A} $
совокупность подмножеств (не обязательно всех!) множества $\Omega$ такая, что выполнены следующие условия:
  • $\Omega \in \mathcal {A}$
  • если множества $A,B \in \mathcal {A}$, тогда их объединение $A \cup B \in \mathcal {A}$
  • для любого множества $A$ из $\mathcal{A}$ его дополнение $\overline{A} = \Omega \setminus A$ также принадлежит $\mathcal {A}$
Примеры:
  1. $\mathcal {A}_0 = \left \{ \emptyset , \Omega \right \} $
  2. $\mathcal {A}_1 = 2^{\Omega} $
Сигма-алгебра ($\sigma$-алгебра) $\mathcal{F}$
алгебра, у котрой второе свойство выполняется для счетной системы множеств.
Алгебра $\alpha (B)$ порожденная множеством $B \in \Omega$
система подмножеств $\left \{ B, \overline{B}, \emptyset, \Omega \right \} $
Мера $\mu$
вещественная, неотрицательная, счетно-аддитивная функция: $\mu(\emptyset)=0$
Вероятность $p$
конечная мера, заданная на $\mathcal {A}$ над множеством $\Omega$, причем $p(\Omega) = 1$
Вероятностное пространство
тройка $ \left \{ \Omega, \mathcal{F}, p \right \} $. Здесь $\Omega$ - множество элементарных событий, $\mathcal{F}$ - сигма-алгебра над множеством $\Omega$ и $p$ вероятность.
Классическое определение вероятности
Пусть $\Omega = \left \{ \omega_1, \omega_2, \ldots, \omega_m \right \}$ - множество элементарных событий. Все элементарные события равновероятны $p(\omega_i) = p(\omega_j) = p = \frac {1}{|\Omega|}$ для любых индексов $i$ и $j$. Алгебра $\mathcal{A}=2^{\Omega}$. Событие $A= \left \{ \omega_{i_1}, \omega_{i_2}, \ldots, \omega_{i_k} \right \}$. $$p(A) = \frac{|A|}{|\Omega|}$$
Геометрическая вероятность
$\Omega$ - вероятностное пространство. $\mathcal{F}$ - сигма-алгебра подмножеств $\Omega$, измеримых по Лебегу. Для любого $A \in \mathcal{F}$ зададим вероятностную меру $P(A)$.
$$P(A) = \frac {\mu(A)}{\mu(\Omega)} $$ Здесь $\mu(A)$ - мера Лебега множества $A$.
Вероятность события $A$ при условии, что произошло событие $B$. $P(A/B)$.
Вероятностное пространство $ \left \{ \Omega, \mathcal{F}, P \right \}$. Выбираем событие $B: P(B)>0$. $$P(A/B) = \frac {P(A \cap B)}{ P(B)}$$
Независимые события
два события $A$ и $B$, если $$P(A \cap B) = P(A)P(B)$$
События незвасимые в совокупности
события $A_1, A_2, ... , A_n$, если для любых $m$ событий $A_{i_{1}}, ... , A_{i_{m}}, m = 2,...,n$ выполнено: $$ P(A_{i_{1}} \cap A_{i_{2}} \cap ... \cap A_{i_{m}}) = P(A_{i_{1}}) \cdot P(A_{i_{2}}) \cdot ... \cdot A_{i_{m}} $$ Из независимости в совокупности следует попарная независимость. Обратное не верно.
Независимые алгебры
Вероятностное пространство $ \left \{ \Omega, \mathcal{F}, P \right \}$. Алгебры $\mathcal{A}_{1}, ... , \mathcal{A}_{n}$ являются подалгебрами сигма-алгебры $\mathcal{F}$. Если для любых событий $ A_{1} \in \mathcal{A_{1}}, ..., A_{n} \in mathcal{A_{n}}$ имеет место равенство: $$ P(A_{i_{1}} \cap A_{i_{2}} \cap ... \cap A_{i_{n}}) = P(A_{i_{1}}) \cdot P(A_{i_{2}}) \cdot ... \cdot A_{i_{n}} $$
Формула полной вероятности
Вероятностное пространство $ \left \{ \Omega, \mathcal{F}, P \right \}$. Задано разбиение множества $\Omega$ на попарно-независимые события $B_1, ... , B_m$ принадлежащих $\mathcal{F}$ таких что $P(B_i) >0$ для любого $i$ и $\Omega = B_1 \cup B_2 \cup ... \cup B_n$. Рассмотрим любое собsтие $A \in \mathcal{F}$. $$P(A) = \sum_{i=1}^{m} P(B)P(A/B_i)$$
Формулы Байеса
В условиях полной вероятности, положим $P(A) >0$. Пересчитаем вероятности событий $B_j$, при условии, что произошло событие $A$. $$P(B_j/A) = \frac {P(B_j) P(A/B_j)} { \sum_{i=1}^{m} P(B_i) P(A/B_i)}, \text{ } j=1,2,...,m $$
Схема Бернулли
Проводятся $n$ независимых испытаний, в каждом из которых возможно два исхода: "1" - успех и "0" - неудача. $p$ - вероятность успеха, $q=1-p$ - вероятность неудачи.
Вероятностное пространство $\Omega$ множество элементарных событий $\omega = (a_1,a_2, ... , a_n)$, где $a_i = 1 $ или $0$. Зададим на $\Omega$ сигма-алгебру $\mathcal{F} = 2^{\Omega}$. Вероятность элементарного события $\omega$ вычисляем по формуле $$p(\omega) = p^{\sum_{i=1}^{n} a_i}q^{n- \sum_{i=1}^{n} a_i}$$
Биномиальное распределение
дискретное распределение случайной величины $ \mu $, равной количеству успехов в серии из $n$ независимых испытаний $$ P(\mu = m) = C_{n}^{m} p^{m} q^{n-m} $$ Здесь $p$ - вероятность успеха, $q=1-p$ - вероятность нейдачи.
Полиномиальное распределение
дискретное распределение определяемое формулой: $$ P_n (m_1,m_2, ... , m_r) = \frac {n!}{m_1! m_2!... m_r! }p_{1}^{m_{1}} ... p_{r}^{m_{r}}$$
Теорема Пуассона
Пусть в схеме Бернулли число испытаний $n \rightarrow \infty $ и $np \rightarrow \lambda > 0$. Тогда для любого $m = 0,1,2, ... $ выполнено: $$ P(\mu = m) = C_{n}^{m} p^{m} q^{n-m} \rightarrow \frac {\lambda^{m}}{m!}e^{-\lambda} $$ при $n \rightarrow \infty$
Случайная величина
Любая числовая функция $\xi: \Omega \rightarrow \mathcal{R}$. Важно! При условии, что множество $\Omega$ конечно.
Дискретное распределение
конечный или бесконечный набор вероятностей несовместных событий, которые в сумме дают единицу.
Плотность распределения
функция $\phi(x)$ обладающая следующими свойствами:
  • $\phi(x) \le 0$ для всех $x \in \mathcal{R}$
  • $\int_{-\infty}^{\infty} \phi(x)dx = 1 $
Локальная теорема Муавра-Лапласса.
Пусть $\sigma = \sqrt(npq)$, тогда для любой константы $c>0$ равномерно по $x = \frac {m-np}{\sigma}$ таким, что $|x| \le c $, выполняется $$ P(\mu = m) = C_{n}^{m} p^{m} q^{n-m} = \frac {1}{\sqrt(2 \pi \sigma)} e^{\frac{x^2}{2}} (1 + o(1)) $$ где $o(1) \rightarrow 0 $ при $n \rightarrow \infty$
Интегральная теорема Муавра-Лапласса
Пусть $\sigma = \sqrt(npq)$, тогда при $n \rightarrow \infty $ равномерно по парам $(a,b)$ имеет место сходимость: $$ P(a \le \frac {\mu - np}{\sqrt(npq)} \le b) \rightarrow \frac {1}{\sqrt(2\pi)} \int_{a}^{b} e^{\frac{x^2}{2}}dx = \int_{a}^{b} \phi(x) dx $$
Закон больших чисел для схемы Бернулли
Пусть число испытаний в схеме Бернулли $n \rightarrow \infty$, тогда для любого $\epsilon > 0$ имеет место следующая сходимость $$ P(|\frac{\mu}{n} - p| > \epsilon) \rightarrow 0 $$
Полуалгебра
система подмножеств $S$ множества $\Omega$, если выполнены следующие условия:
  • $\Omega \in S $
  • Если $A \in S$ и $B \in S$, то $A \cap B \in S$
  • Если $A \in S$, то множество $ \overline{A} $ можно представить в виде объединения попарно-дизъюнктных множеств $B_1, B_2, ..., B_m \in S$.
  • Здесь и далее объединение $B_1, B_2, ... , B_m$ попарно-дизъюнктных множеств будем обозначать $\sum_{i=1}^{m} B_i$

Конечно-аддитивная мера
неотрицательная числовая функция $\mu:~S \rightarrow [0, \infty]$, если:
  • $\mu( \emptyset)=0$
  • $\mu (\sum_{i=1}^{m} B_i) = \sum_{i=1}^{m} \mu (B_i) $
Конечно-аддитивная вероятностная мера
если $\mu$ конечно-аддитивная мера и $\mu(\Omega)=1$
Счетно-аддитивная мера
конечно-аддитивная мера, у которой второй свойство выполняется для счетной совокупности множеств.
Теорема.
Пусть $S$ - полуалгебра подмножеств множества $\Omega$. Семейство $\mathcal{A}$, состоящее из всевозможных конечных объединений непересекающихся элементов полуалгебры $S$ представляет собой алгебру, поражденную полуалгеброй $S$, $\mathcal{A}=\alpha (S)$.

Теоремы о продолжимости меры.

Теорема о продолжении конечно-аддитивной меры с полуалгебры на алгебру.
Пусть $S$ - полуалгебра подмножеств множества $\Omega$. Пусть на $S$ задана конечно-аддитивная мера $/mu$, тогда существует и единственна конечно-аддитивная мера $\nu$ определенная на $\alpha (S)$ и такая, что для любого множества $E \in S~: \nu(E) = \mu(E)$.
Теорема о продолжении счетно-аддитивной сигма-конечной меры с полуалгебры на алгебру.
Пусть $S$ - полуалгебра подмножеств множества $\Omega$. Пусть на $S$ задана счетно-аддитивная сигма-конечная мера $/mu$. Тогда существует и единственна счетно-аддитивная сигма-конечная мера $\nu$ определенная на $\alpha (S)$ такая, что для любого множества $E \in S$ имеет место равенство: $\nu(E) = \mu(E)$.
Теорема о пролжении сигма-конечной счетно-аддитивной меры с алгебры на сигма-алгебру.
Пусть $\mathcal{A}$ - алгебра подмножеств множества $\Omega$. Пусть на $\mathcal{A}$ задана сигма-конечная счетно-аддитивная мера $\mu$. Тогда существует и единственна счетно-аддитивная сигма-конечная мера $\nu$, определенная на сигма-алгебре, порожденной алгеброй $\mathcal{A}$ такая, что для любого множества $E \in $\mathcal{A}$ имеет место равенство $\nu(E) = \mu(E)$.
Измеримое пространство
пара $(\Omega, \mathcal{F})$. Здесь $\mathcal{F}$ сигма-алгебра порожденная полуалгеброй $S$.

Пропущены цепи Маркова. До стр. 56

К списку предметов
На главную