Сравнение выборочной средней с математическим ожиданием
Вымборочное (эмпиримческое) сремднее -- это приближение теоретического среднего распределения, основанное на выборке из него.
Определение
Пусть -- выборка из распределения вероятности, определённая на некотором вероятностном пространстве . Тогда её выборочным средним называется случайная величина
Свойства выборочного среднего
Пусть F(x) -- выборочная функция распределения данной выборки. Тогда для любого фиксированного функция F(w;x) является (неслучайной) функцией дискретного распределения. Тогда математическое ожидание этого распределения равно X(w). Выборочное среднее -- несмещённая оценка теоретического среднего:
Выборочное среднее -- сильно состоятельная оценка теоретического среднего: почти наверное при . Выборочное среднее -- асимптотически нормальная оценка. Пусть дисперсия случайных величин Xi конечна и ненулевая, то есть . Тогда
по распределению при , где N(0,у2) -- нормальное распределение со средним 0 и дисперсией у2.
Выборочное среднее из нормальной выборки -- эффективная оценка её среднего.
Математимческое ожидамние -- мера среднего значения случайной величины в теории вероятностей. В англоязычной литературе и в математическом сообществе Санкт-Петербурга обозначается через E[X](например, от англ. Expected value или нем. Erwartungswert), в русской -- M[X] (возможно, от англ. Mean value, а возможно от русск. Математическое ожидание). В статистике часто используют обозначение м.
Определение
Пусть задано вероятностное пространство и определённая на нём случайная величина X. То есть, по определению, -- измеримая функция. Если существует интеграл Лебега от X по пространству Щ, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается M[X] или E[X].
Основные формулы для математического ожидания
Если FX(x) -- функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега -- Стилтьеса:
.
Математическое ожидание дискретного распределения
Если X -- дискретная случайная величина, имеющая распределение , то прямо из определения интеграла Лебега следует, что . Математическое ожидание целочисленной величины
Если X -- положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей
то её математическое ожидание может быть выражено через производящую функцию последовательности {pi} как значение первой производной в единице: M[X] = P'(1). Если математическое ожидание X бесконечно, то и мы будем писать
Теперь возьмём производящую функцию Q(s) последовательности «хвостов» распределения {qk}
Эта производящая функция связана с определённой ранее функцией P(s) свойством: при | s | < 1. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:
M[X] = P'(1) = Q(1)
Математическое ожидание абсолютно непрерывного распределения
Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью fX(x), равно . Математическое ожидание случайного вектора
Пусть -- случайный вектор. Тогда по определению , то есть математическое ожидание вектора определяется покомпонентно.
Пусть -- борелевская функция, такая что случайная величина Y = g(X) имеет конечное математическое ожидание. Тогда для него справедлива формула:
,
если X имеет дискретное распределение;
,
если X имеет абсолютно непрерывное распределение.
Если распределение Pxслучайной величины X общего вида, то . В специальном случае, когда g(X) = Xk, Математическое ожидание называется k-тым моментом случайной величины.
Простейшие свойства математического ожидания
Математическое ожидание числа есть само число.
M[a] = a -- константа;
Математическое ожидание линейно, то есть
M[aX + bY] = aM[X] + bM[Y],
где X,Y -- случайные величины с конечным математическим ожиданием, а -- произвольные константы;
Математическое ожидание сохраняет неравенства, то есть если почти наверное, и Y -- случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины X также конечно, и более того
;
Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если X = Y почти наверное, то
M[X] = M[Y].
Математическое ожидание произведения двух независимых случайных величин X,Y равно произведению их математических ожиданий
