acultatea de Matematică Teoria robabilităților, Semestrul IV Lector dr. Lucia MATICIUC Cursurile 1 13 LSNM, LTNM, TLC V.1 Tipuri de covergețe ie v.a. X și u șir N de v.a. defiite pe același spațiu de probabilitate Ω,,. Defiiţia V.1.1 Dacă X : Ω R este o v.a. defiim, petru p 0,, Defiiţia V.1. etru p 0, defiim care este spațiu vectorial. 1 def X p == E X p 1 p = X p p d. Ω L p Ω,, def == {X : Ω R : X v.a. astfel îcât X p < }, Remarca V.1.3 Să observăm că p devie o semiormă pe spațiul L p Ω,, doar dacă p [1,. Î plus, X p = 0 X p d = 0 X = 0,. etru a devei o ormă trebuie să lucrăm pe spațiul Ω L p Ω,, def == { X = X + N : X L p Ω,, }, ude N = {X : Ω R : X v.a. astfel îcât X = 0, }. etru X L p Ω,,, defiim X p = X p și X d = X d, petru orice X X. Ω Ω Evidet, X p și Ω X d u depid de alegerea reprezetatului X X deoarece lucrăm cu itegrale Lebesgue. Astfel L p Ω,, coție, de fapt, clase de echivaleță de v.a. X adică v.a. egale cu X astfel îcât X p <. Vom idetifica o v.a. cu clasa ei de echivaleță. Remarca V.1.4 Dacă p [1, ], atuci L p Ω,, este spațiu vectorial, ormat și complet, adică L p Ω,, este spațiu Baach. Defiiţia V.1.5 ie p [1, și X L p Ω,,, N L p Ω,,. Spuem că șirul N coverge î L p la X, și scriem L p X, petru, dacă lim X p = 0 sau, echivalet, lim E X p = 0. 1
Remarca V.1.6 olosid iegalitatea lui Hölder se obție iegalitatea lui Liapuov: E X p 1 p E X q 1 q, petru orice 0 < p < q, adică X p X q, petru orice 0 < p < q. Remarca V.1.7 Ca o coseciță a iegalității lui Liapuov obțiem și iegalitatea ditre mometele absolute: E X E X 1... E X 1, petru orice N. ri urmare, dacă o v.a. admite momet absolut de ordi, i.e. E X <, atuci admite și medie sau, echivalet, dacă o v.a. u admite medie, atuci u admite ici momet absolut de ordi. Mai precis, se poate arăta că mometul E X de ordi al uei v.a. X există și este fiit dacă și umai dacă media E X și dispersia D X există și sut fiite. L Remarca V.1.8 Î cazul particular î care X X, petru, obțiem covergeța î medie pătratică. Defiiţia V.1.9 Spuem că șirul N coverge aproape sigur la X, și scriem dacă X, petru, {ω : lim ω = X ω} = 1, adică mulțimea puctelor ω petru care u are loc covergeța puctuală ω X ω este o mulțime eglijabilă. Remarca V.1.10 Există exemple î care N sut v.a., X, petru, dar totuși limita u este v.a. etru a evita această problemă, și deci a asigura că limita oricărui șir de v.a. este tot o v.a., trebuie impus ca spațiul pe care se lucrează să fie spațiu de probabilitate complet 1. Orice spațiu de probabilitate se poate completa pri adaugarea la σ algebra a tuturor submulțimilor mulțimilor eglijabile și să impuem ca aceste submulțimi să fie tot eglijabile, mai precis, lucrâd cu σ algebra geerată de N, ude N este mulțimea tuturor eveimetelor eglijabile. Evidet, măsura poate fi extisă ușor astfel îcât să fie defiită pe σ algebra σ N. Defiiţia V.1.11 Spuem că șirul N coverge î probabilitate la X, și scriem X, petru, dacă, petru orice ɛ > 0, lim X > ɛ = 0. ropoziţia V.1.1 Limita î probabilitate a uui șir de v.a. N este uică, i.e. X, Y = X = Y,. 1 Remarca V.1.13 olosid defiiția, se poate arăta că limita î L p și limita aproape sigură a uui șir de v.a. sut și ele uice, î sesul dat de 1. 1 Spuem că spațiul de probabilitate Ω,, este spațiu de probabilitate complet dacă orice submulțime a uui eveimet ul este tot eveimet. Mai precis, dacă N este u eveimet eglijabil, i.e. N = 0, atuci orice M N este, de asemeea, eveimet, i.e. M pri urmare, se obție și M = 0.
Au loc și următoarele proprietăți de stabilitate ale covergeței î probabilitate î raport cu diverse operații. ropoziţia V.1.14 Dacă X și Y Y, petru, atuci i + Y X + Y, petru ; ii Y X Y, petru. Remarca V.1.15 Se poate arăta că proprietatea i, de stabilitate î raport cu suma, este adevărată și î cazul covergeței î L p precum și î cazul covergeței aproape sigure. Defiiţia V.1.16 ie X o v.a. defiită pe spațiul de probabilitate Ω,, și u șir N de v.a. astfel îcât fiecare v.a. este defiită pe spațiul de probabilitate Ω,,. Spuem că șirul N coverge î fucția de repartiție la X, și scriem X, petru, dacă petru orice x R î care X este cotiuă. lim X x = X x, Remarca V.1.17 Așa cum am văzut deja î ropoziția V.1.1 și î Remarca V.1.13, limita î L p, limita aproape sigură precum și limita î probabilitate sut uice. Acest lucru u mai este adevărat î cazul limitei î fucția de repartiție; î acest caz are loc doar uicitatea î lege a limitei, mai precis X, Y = X = d Y. Remarca V.1.18 Covergeța puctuală doar î puctele de cotiuitate petru X este suficietă petru a obție faptul că limita, î sesul fucției de repartiție, este uică î lege. Remarca V.1.19 Î cazul covergeței î fucția de repartiție fiecare v.a. poate fi defiită evetual, u obligatoriu pe u alt de spațiu de probabilitate Ω,,, ude N. Evidet, fucțiile de repartiție vor fi defiite pe același spațiu X, X : R [0, 1]. Mețioăm că î cazul covergeței î probabilitate, a covergeței aproape sigure precum și a covergeței î L p este esețial ca v.a. X și să fie defiite pe același spațiu de probabilitate Ω,, petru orice N. Remarca V.1.0 Covergeța î fucția de repartiție se mai umește și covergeța î distribuție, otată d lege L X, sau covergeța î lege, otată X sau X, sau covergeța slabă, otată weak X. Defiiţia V.1.1 ie v.a. defiite pe spațiul de probabilitate Ω,, și v.a. X defiită pe spațiul Ω,,. Spuem că șirul N coverge î fucția caracteristică la X, și scriem ϕ X, petru, dacă lim ϕ X t = ϕ X t, petru orice t R. Remarca V.1. Î cazul covergeței î fucția caracteristică ca și î cazul covergeței î fucția de repartiție fiecare v.a. poate fi defiită pe u alt de spațiu de probabilitate Ω,,. Evidet, fucțiile caracteristice sut defiite pe același spațiu ϕ X, ϕ X : R C. Următoarele rezultate stabilesc legăturile ditre diversele tipuri de covergețe. 3
Teorema V.1.3 i X = X. ii X = există k k N astfel îcât k Teorema V.1.4 Aplicâd iegalitatea lui Markov, obțiem L p X = X. Teorema V.1.5 Teorema Covergeței Domiate a lui Lebesgue Î codiții suplimetare, L X = X p X. k + X. Mai precis, dacă X, petru și dacă există v.a. Y L p Ω,, astfel îcât Y, petru orice N L, atuci X p X, petru. Teorema V.1.6 X = X v.a. X, sut defiite pe același spațiu de probabilitate Ω,,. Teorema V.1.7 ude c este o v.a. costată. c = c, Remarca V.1.8 ie v.a. defiite pe Ω,, și v.a. X defiită pe Ω,,. Aplicâd teorema lui Lévy obțiem ϕ X X. V. Legea Numerelor Mari Î următoarele două secțiui vom folosi următoarele otații. Dacă X k k N este u șir de v.a., atuci Defiiţia V..1 Dacă u șir X k k N de v.a. satisface def == X def k și X == k=1, ude N. E S 0, petru sau, echivalet, E X 0, petru atuci spuem că șirul dat satisface legea slabă a umerelor mari LSNM. Corolarul V.. ie X k k N u șir de v.a. de pătrat itegrabil astfel îcât Atuci șirul X k k N satisface LSNM. lim D S = 0. 3 4
Remarca V..3 Î cazul particular î care v.a. sut de pătrat itegrabil și idepedete două câte două astfel îcât șirul D X k este mărgiit, codiția 3 este satisfăcută. k N Remarca V..4 Î cazul particular î care v.a. sut de pătrat itegrabil și de tip i.i.d. idepedeța este două câte două, atuci codiția 3 este satisfăcută deoarece 1 k=1 D X k = 1 D X 1. Astfel, dacă E X k = µ < + și D X k = σ < +, petru orice k N, atuci șirul X k k N satisface LSNM, mai precis, se obție µ, petru. 4 Remarca V..5 Să observăm că 4 poate fi obțiută și direct, folosid iegalitatea lui Cebâșev. Avem E E X = = µ și dispersia D X = D S k=1 = D X k = σ. Utilizâd iegalitatea lui Cebâșev obțiem deci adică X µ 0, petru. X µ < ɛ 1 σ ɛ, lim X µ < ɛ = 1, Exemplul V..6 ie X k k N u șir de v.a. de tip i.i.d., cu X k Beroulli p = B 1, p, k N. utem vedea X k ca v.a. care desemează umărul de apariții ale uui eveimet A umit Succes la îcercarea k, cu probabilitatea p de apariție a Succesului: 0 1 X k :, k N. q p V.a. f def == k=1 X k se umește frecveța absolută de apariție a Succesului î cele probe și are drept valori umărul de apariții ale Succesului î cele observații. ri urmare f urmează o distribuție de tip biomial cu f B, p. V.a. f se umește frecveța relativă de apariție a Succesului. Avem E X k = p și D X k = pq 1 4, petru orice k N. Coform Remarcii V..3 obțiem sau, echivalet, f k=1 p f = f p 0, petru p, petru, 5 5
adică șirul fecvețelor relative de apariție a Succesului coverge î probabilitate la p care este probabilitatea, teoretică, de apariție a Succesului la o sigură îcercare. Cu alte cuvite, dacă f este frecveța absolută de apariție a uui eveimet A î probe idepedete și p este probabilitatea de apariție a lui A idiferet de probă, atuci frecveța relativă f de apariție a eveimetului A î cele probe tide î probabilitate la p, i.e. limita 5: f p, petru. Î toate rezultatele de mai sus s-a cerut ca v.a. să fie de pătrat itegrabil. Se poate arăta că șirul X k k N satisface LSNM presupuâd doar itegrabilitatea v.a.. Demostrația se face pri truchierea v.a., luâd, mai îtâi, Xk = X k 1 { Xk k}. Teorema V..7 ie X k k N u șir de v.a. itegrabile și de tip i.i.d. idepedeța este două câte două astfel îcât E X k = µ < +, petru orice k N. Atuci șirul X k k N satisface LSNM, mai precis, se obție µ, petru. Ne iteresează î cotiuare ca codițiile ca limita să aibă loc aproape sigur. Defiiţia V..8 Dacă u șir X k k N de v.a. satisface E S 0, petru sau, echivalet, E X 0, petru atuci spuem că șirul dat satisface legea tare a umerelor mari LTNM. Teorema V..9 ie X k k N u șir de v.a. de tip i.i.d. idepedeța este două câte două astfel îcât E X k = µ există fiită sau ifiită, petru orice k N. Atuci șirul X k k N satisface LTNM, mai precis, se obție µ, petru. ropoziţia V..10 ie X k k N u șir de v.a. idepedete î asamblu și de pătrat itegrabil astfel îcât Atuci șirul X k k N satisface LTNM. + k=1 D X k k < +. Remarca V..11 Î cazul particular î care X k k N este u șir de v.a. idepedete î asamblu și de pătrat itegrabil astfel îcât șirul D X k este mărgiit, X k N k k N satisface LTNM. 6
Remarca V..1 Aplicâd Remarca V..11 obțiem, utilizâd otațiile și cadrul de lucru di Exemplul V..6, f p, petru, 6 adică șirul fecvețelor relative de apariție a Succesului coverge aproape sigur la p care este probabilitatea, teoretică, de apariție a Succesului la o sigură îcercare. Cu alte cuvite, dacă f este frecveța absolută de apariție a uui eveimet A î probe idepedete și p este probabilitatea de apariție a lui A idiferet de probă, atuci frecveța relativă f de apariție a eveimetului A î cele probe tide aproape sigur la p, i.e. limita 6. V.3 Teorema Limită Cetrală ie șirul X k k N de v.a. de tip i.i.d. idepedeța este î asamblu astfel îcât au dispersie fiită și să otăm E X k = µ și D X k = σ, petru orice k N. Studiem î cotiuare problema covergeței î repartiție a șirului sumelor = k=1 X k stadardizate, i.e. a șirului de v.a. date de E D, ude N. Să observăm că deoarece E D = µ σ = µ σ/ = X E X D, X E = µ, E X = µ, D = σ, D X = 1 σ. 7 Deci v.a. S µ σ este stadardizarea v.a. iar v.a. µ σ/ este stadardizarea v.a. X, ude N. Teorema V.3.1 Teorema Limită Cetrală ie șirul X k k N de v.a. de tip i.i.d. idepedeța este î asamblu astfel îcât Atuci are loc covergeța E X k = µ < + și D X k = σ < +, petru orice k N. E D Z N0, 1, petru. 8 ri urmare, șirul de v.a. stadardizate ormală stadard. S ES are drept limită î sesul fucției de repartiție o v.a. D Remarca V.3. olosid 7 deducem că relația 8 poate fi scrisă și sub forma E D = µ σ Z N0, 1, petru 9 sau, echivalet, E X D X = µ σ/ Z N0, 1, petru, 10 7
adică lim S µ z = lim X µ z = Z z == ot Φz, σ σ/ petru orice z R, 11 ude Φ este fucția de repartiție asociată v.a. Z N0, 1, i.e. Φ z ot == Z z = z f Z t dt = 1 π z e t dt, z R, petru care există tabele cu valori ale ei. Să reamitim faptul că fucția de repartiție Φ z = z f Z t dt reprezită și aria domeiului pla cupris ître x = z, axa Ox și curba y = f Z x. Remarca V.3.3 ri urmare, petru suficiet de mare, S µ z = S µ z Φ z, σ σ z R 1 sau, echivalet, Deci, petru orice a < b +, a < S µ b σ X µ σ/ z = X µ z Φ z, z R. 13 σ/ = S µ σ b S µ σ a sau, echivalet, a < X µ σ/ b = X µ b σ/ X µ a σ/ și astfel, folosid 1 și 13, obțiem că, petru suficiet de mare, a < S µ b = a < X µ σ σ/ b Φ b Φ a, petru orice a < b +. 14 Astfel am obțiut următoarele estimări petru ca, sau respectiv, să fie ître aumite limite: a σ + µ < b σ + µ Φ b Φ a sau, echivalet, a σ + µ < b σ + µ Φ b Φ a. Remarca V.3.4 Dacă X este o caracteristică cercetată și X 1,..., este o selecție de volum, atuci, pri defiiție, v.a. X k, k = 1,, sut de tip i.i.d., urmâd distribuția v.a. X, deci obțiem că E X k = E X = µ iar D X k = D X = σ, petru k = 1,. Atuci, petru suficiet de mare > 30, media de selecție def == X 1 +... + urmează o distribuție ormală de tip N µ, σ, oricare ar fi legea de repartiție a lui X. Îtr-adevăr, aplicâd Teorema Limită Cetrală, Z = µ σ/ Z N0, 1, petru. 8
Astfel obțiem = σ Z + µ σ Z + µ N µ, σ. Aplicâd Teorema Limită Cetrală obțiem că distribuția ormală este cazul limită al multor distribuții. Deci petru valori mari ale lui putem folosi doar tabele distribuției ormale. Î cazul particular al șirului X k k N de v.a. de tip i.i.d. idepedeța este î asamblu, urmâd o distribuție Beroulli, X k B 1, p, petru k N, se obție B, p, ude N. Î acest caz are semificația de frecveța absolută de apariție a Succesului la îcercări iar are semificația de frecveța relativă de apariție a Succesului la îcercări. Coform formulelor de calcul petru media și dispersia uei v.a. distribuite biomial, avem Obțiem astfel următorul rezultat. E = p și D = pq. Teorema V.3.5 Teorema lui Moivre-Laplace ie șirul X k k N asamblu și distribuite Beroulli X k B 1, p. Atuci are loc covergeța de v.a. de tip i.i.d. idepedeța este î p pq Z N0, 1, petru. Remarca V.3.6 Avem faptul că, petru suficiet de mare, S µ σ Z z, pri urmare vezi și 14, folosid a S p b = S µ b S µ a, pq σ σ obțiem că petru orice a < b + și, petru suficiet de mare, z este aproximativ egal cu Φ z def == a S p b = a < X p b Φ b Φ a. 15 pq pq/ Deci am obțiut următoarele estimări petru ca frecveța absolută sau respectiv frecveța relativă, să fie ître aumite limite: a pq + p < b pq pq + p = a + p < X pq b + p Φ b Φ a. 9