С одной стороны, это равно

с другой стороны,

Отсюда

Следовательно, искомый коэффициент корреляции равен

Интересно, что полученный коэффициент корреляции не зависит от n.

. Откуда, наконец, вытекает то удивительное, по-видимому, следствие, что, если бы наблюдения над всеми событиями продолжать всю вечность, причем вероятность, наконец, перешла бы в полную достоверность, то было бы замечено, что в мире все управляется точными отношениями и постоянным законом изменений, так что даже в вещах, в высшей степени случайных, мы принуждены были бы признать как бы некоторую необходимость и, скажу я, рок.

Я к о б Б е р н у л л и, Ars conjectandi (1713)

Раздел 13. Куда и как сходятся последовательности случайных величин

13.1 Сходимость «почти наверное» и «по вероятности»

Напомню, что случайная величина есть (измеримая) функция из некоторого абстрактного множества Ω в множество действительных чисел. Последовательность случайных величин есть, тем самым, последовательность функций (определенных на одном и том же пространстве элементарных исходов Ω). И если мы хотим говорить о сходимости последовательности случайных величин {ξn }¥n=1 , не будем забывать, что мы имеем дело не с последовательностью чисел, а с последовательностью функций. Существуют разные виды сходимости последовательности функций. Всякий раз давать определение какой-либо сходимости мы будем, опираясь на сходимость числовых последовательностей, как на уже известное основное понятие.

В частности, при каждом новом ω Î Ω мы имеем новую числовую последовательность {ξn (ω )}¥n=1 . Поэтому, во-первых, можно говорить о знакомой из математического анализа (почти) поточечной сходимости последовательностей функций: о сходимости «почти всюду», которую в теории вероятностей называют сходимостью «почти наверное».

Определение 46. Говорят, что последовательность с. в. {ξn } сходится почти наверное к с. в. ξ при n ® ¥ , и пишут: ξn ® ξ п. н., если P{ ω: ξn (ω ) ® ξ при n ® ¥} = 1.

Иначе говоря, если ξn (ω ) ® ξ при n ® ¥ для всех ω Î Ω, кроме, возможно, ω Î A, где множество (событие) A имеет нулевую вероятность.

Заметим сразу: чтобы говорить о сходимости «почти наверное», требуется (по крайней мере, по определению) знать, как устроены отображения ω ® ξn (ω ). В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишь их распределения. Известно, то есть, какова вероятность тех элементарных исходов ω, для которых ξn (ω ) принимает значения в заданном множестве. Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин {ξn } к с. в. ξ?

Можно, например, потребовать, чтобы вероятность («доля») тех элементарных исходов ω, для которых ξn (ω ) не попадает в «ε-окрестность» числа ξ (ω ), уменьшалась до нуля с ростом n. Такая сходимость в функциональном анализе называется сходимостью «по мере», а в теории вероятностей — сходимостью «по вероятности».

Определение 47. Говорят, что последовательность с. в. { ξn } сходятся по вероятности к с. в. ξ при n ® ¥, и пишут:

если для любого ε > 0

Пример 45. Рассмотрим последовательность с. в. ξ1 , ξ2, …, в которой все величины имеют разные распределения: с. в. ξn, n > 0, принимает значения и 0 и n7 с вероятностями . Докажем, что эта последовательность сходится по вероятности к случайной величине, равной нулю п. н. (к нулю, проще говоря).

Действительно, зафиксируем произвольное ε > 0. Для всех n начиная с некоторого n0 такого, что n07 > ε верно равенство (*) ниже

Итак, случайные величины ξn с ростом n могут принимать все большие и большие значения, но со все меньшей и меньшей вероятностью.

Замечание 18. Сходимость по вероятности не обязательно сопровождается сходимостью математических ожиданий или моментов других порядков: из не следует, что

Действительно, в примере 45 имеет место сходимость , но неверно, что

Если вместо значения n7 взять, скажем, n (с той же вероятностью 1/ n), получим

А если ξn принимает значения 0 и с теми же вероятностями, что и в примере 45, то , но уже вторые моменты сходиться ко второму моменту ξ не будут:

Сходимость по вероятности обладает обычными для сходимостей свойствами. Например, такими.

Свойство 13. Если , то

1. ;

2. .

Свойство 14.

Если , и g – непрерывная функция, то

Если , и g – непрерывна в точке с, то

Чтобы доказывать сходимость по вероятности, можно просто уметь вычислять при больших n. Но для этого нужно знать распределение ξn, что не всегда возможно. Скажем, ξn может быть суммой нескольких других с. в., распределения которых не устойчивы по суммированию, и вычислить распределение их суммы по формуле свертки или как-то еще бывает слишком сложно.

Если бы мы имели неравенства, позволяющие оценить сверху чем-либо, что мы умеем устремлять к нулю и что проще вычисляется, то сходимость по вероятности мы получили бы по лемме о двух милиционерах: . Итак, неравенства П. Л. Чебышёва.