Nezávislost (pravděpodobnosti)
Nezávislost je pravděpodobnostní koncepce popisující intuitivně náhodné jevy nemají vliv na sebe navzájem. Toto je velmi důležitý koncept ve statistice a teorii pravděpodobnosti .
Například hodnota prvního hodu kostkou nemá žádný vliv na hodnotu druhého hodu. Podobně, pro v hodu, skutečnost, že získání hodnoty menší než nebo roven čtyřem nemá žádný vliv na pravděpodobnost , že výsledek je sudé nebo liché : tyto dvě události se říká, že je nezávislý .
Zda jsou dvě události nezávislé, není vždy snadné určit.
Nezávislost dvou událostí
Matematická definice nezávislosti dvou událostí je následující:
Definice - A a B jsou nezávislé⇔P(NA∩B)=P(NA)⋅P(B).{\ displaystyle \ Leftrightarrow \ mathbb {P} (A \ cap B) = \ mathbb {P} (A) \ cdot \ mathbb {P} (B).}
Výše uvedená matematická definice není příliš smysluplná. Souvislost mezi intuitivním konceptem nezávislosti a výše uvedeným „produktovým vzorcem“ je jasnější, pokud zavedeme pojem podmíněné pravděpodobnosti :
Definice - Pokud podmíněná pravděpodobnost of vědět , označil je definována vztahem níže:
P(B)≠0,{\ displaystyle \ mathbb {P} (B) \ neq 0,}NA{\ displaystyle A}B{\ displaystyle B}P(NA∣B),{\ displaystyle \ mathbb {P} (A \ střední B),}
P(NA∣B)=P(NA∩B)P(B).{\ displaystyle \ mathbb {P} (A \ mid B) = {\ mathbb {P} (A \ cap B) \ over \ mathbb {P} (B)}.}
Vyloučením nezajímavých zvláštních případů, kdy je nepravděpodobné , tj. V případě, kdy a kde je téměř jisté , tj. V případě, kdy můžeme definici nezávislosti přeformulovat takto
B{\ displaystyle B}P(B)=0,{\ displaystyle \ mathbb {P} (B) = 0,}B{\ displaystyle B}P(B)=1,{\ displaystyle \ mathbb {P} (B) = 1,}
Definice - Pokud je pravděpodobnost je ani nulový, ani rovná , a jsou nezávislé, pokud je splněna jedna z těchto podmínek, veškeré ekvivalent:
B{\ displaystyle B}1{\ displaystyle 1}NA{\ displaystyle A}B{\ displaystyle B}
P(NA∣B) = P(NA),P(NA∣B¯) = P(NA),P(NA∣B) = P(NA∣B¯).{\ displaystyle {\ begin {aligned} \ mathbb {P} (A \ mid B) \ & = \ \ mathbb {P} (A), \\\ mathbb {P} (A \ mid {\ overline {B} }) \ & = \ \ mathbb {P} (A), \\\ mathbb {P} (A \ mid B) \ & = \ \ mathbb {P} (A \ mid {\ overline {B}}). \ end {zarovnáno}}}
Tak události a jsou řekl, aby byl nezávislý, pokud naše prognóza na akci je stejný:
NA{\ displaystyle A}B{\ displaystyle B}NA{\ displaystyle A}
- pokud víme, že k události došlo (prognóza ),B{\ displaystyle B}P(NA∣B){\ displaystyle \ mathbb {P} (A \ střední B)}
- pokud víme, že k události nedošlo (prognóza ),B{\ displaystyle B}P(NA∣B¯){\ displaystyle \ mathbb {P} (A \ mid {\ overline {B}})}
- pokud není nic známo o stavu události (prognóza ).B{\ displaystyle B}P(NA){\ displaystyle \ mathbb {P} (A)}
Jinými slovy se říká, že je nezávislý na tom, zda naše prognóza události není ovlivněna žádnými informacemi týkajícími se , ani neexistencí informací týkajících se . Můžeme si vyměnit role a v definici pomocí podmíněných pravděpodobností, samozřejmě za podmínky vyloučení nezajímavých zvláštních případů, kdy je to nemožné a kde je to jisté .
NA{\ displaystyle A}B{\ displaystyle B}NA{\ displaystyle A}B{\ displaystyle B}B{\ displaystyle B}NA{\ displaystyle A}B{\ displaystyle B}NA{\ displaystyle A}NA{\ displaystyle A}
Ačkoli definice používající podmíněné pravděpodobnosti je intuitivnější, má tu nevýhodu, že je méně obecná a neprovede tyto dvě události a hraje symetrickou roli .
NA{\ displaystyle A}B{\ displaystyle B}
Pamatujte také, že určitá událost je nezávislá na jakékoli události . Nemožná událost je také nezávislá na jakékoli jiné události. Událost je zejména nezávislá na sobě pod podmínkou, že je jistá nebo nemožná. Pokud je událost nezávislá na sobě, můžeme napsat:
NA{\ displaystyle A}B{\ displaystyle B}NA{\ displaystyle A}NA{\ displaystyle A}NA{\ displaystyle A}
P(NA)=P(NA∩NA)=P(NA)P(NA),{\ displaystyle \ mathbb {P} (A) = \ mathbb {P} (A \ cap A) = \ mathbb {P} (A) \ mathbb {P} (A), \,}
a odvodíme, že pravděpodobnost události je buď nebo .
NA{\ displaystyle A}0{\ displaystyle 0}1{\ displaystyle 1}
Nezávislost událostíne{\ displaystyle n}
Pojem nezávislosti lze rozšířit na události prostřednictvím pojmu kmenové nezávislosti , ale zde uvedeme spíše dvě čitelnější kritéria:
ne{\ displaystyle n}
Kritérium 1 - o událostech se říká, že jsou nezávislé právě tehdy, pokud pro jakoukoli část, kterou máme
ne{\ displaystyle n}NA1,NA2,...,NAne{\ displaystyle A_ {1}, A_ {2}, \ tečky, A_ {n}}Já⊂{1,2,...,ne},{\ displaystyle I \ podmnožina \ {1,2, \ tečky, n \},}
P(⋂i∈Já NAi) = ∏i∈Já P(NAi).{\ displaystyle \ mathbb {P} \ left (\ bigcap _ {i \ in I} \ A_ {i} \ right) \ = \ \ prod _ {i \ in I} \ \ mathbb {P} (A_ {i }).}
Celkový počet podmínek, které mají být zkontrolovány, je tedy počet částí, které mají alespoň dva prvky, a to:
Já⊂{1,2,...,ne}{\ displaystyle I \ podmnožina \ {1,2, \ tečky, n \}}
(ne2)+(ne3)+⋯+(nene)=2ne-(ne+1).{\ displaystyle {n \ zvolit 2} + {n \ zvolit 3} + \ cdots + {n \ zvolit n} = 2 ^ {n} - (n + 1).}
Nezávislost n událostí z toho vyplývá
NA1,NA2,...,NAne{\ displaystyle A_ {1}, A_ {2}, \ tečky, A_ {n}}
P(NA1∩⋯∩NAne)=P(NA1)⋯P(NAne),{\ displaystyle \ mathbb {P} (A_ {1} \ cap \ cdots \ cap A_ {n}) = \ mathbb {P} (A_ {1}) \, \ cdots \, \ mathbb {P} (A_ { ne}),}
což odpovídá konkrétní volbě, ale je to vlastnost mnohem slabší než nezávislost. Ve stejném duchu, jak vidíme v níže uvedeném příkladu, mohou být události nezávislé dva po druhém, což odpovídá kontrole vlastnosti pro všechny části se 2 prvky , aniž by byly nezávislé:
Já ={1,2,...,ne},{\ displaystyle I \ = \ {1,2, \ tečky, n \},}ne{\ displaystyle n}Já ⊂{1,2,...,ne}{\ displaystyle I \ \ podmnožina \ {1,2, \ tečky, n \}}
Příklad:
Hodíme dvě kostky a dáme
-
NA1{\ displaystyle A_ {1}} : výsledek hodu kostkou n o 1 je sudý,
-
NA2{\ displaystyle A_ {2}} : výsledek hodu kostkou n o 2 je sudý,
-
NA3{\ displaystyle A_ {3}} : součet výsledků 2 hodů je lichý.
My máme
P(NA1∩NA2∩NA3) = 0 ≠ 18 = P(NA1)P(NA2)P(NA3),{\ displaystyle \ mathbb {P} (A_ {1} \ cap A_ {2} \ cap A_ {3}) \ = \ 0 \ \ neq \ {\ tfrac {1} {8}} \ = \ \ mathbb { P} (A_ {1}) \ mathbb {P} (A_ {2}) \ mathbb {P} (A_ {3}),}
zatímco pro libovolně zvolené,
i≠j{\ Displaystyle i \ neq j}
P(NAi)=P(NAj)=12aP(NAi∩NAj)=14.{\ displaystyle \ mathbb {P} (A_ {i}) = \ mathbb {P} (A_ {j}) = {\ tfrac {1} {2}} \ quad {\ text {a}} \ quad \ mathbb {P} (A_ {i} \ cap A_ {j}) = {\ tfrac {1} {4}}.}
Kritérium 2 - o událostech se říká, že jsou nezávislé právě tehdy, pokud pro jakoukoli naši
volbune{\ displaystyle n}NA1,NA2,...,NAne{\ displaystyle A_ {1}, A_ {2}, \ tečky, A_ {n}}ε∈{0,1}ne,{\ displaystyle \ varepsilon \ in \ {0,1 \} ^ {n},}
P(⋂i=1ne NAiεi) = ∏i=1ne P(NAiεi),{\ displaystyle \ mathbb {P} \ left (\ bigcap _ {i = 1} ^ {n} \ A_ {i} ^ {\ varepsilon _ {i}} \ right) \ = \ \ prod _ {i = 1 } ^ {n} \ \ mathbb {P} (A_ {i} ^ {\ varepsilon _ {i}}),}
kde podle konvence aNAi0=NAi¯,{\ displaystyle A_ {i} ^ {0} = {\ overline {A_ {i}}},}NAi1=NAi.{\ displaystyle A_ {i} ^ {1} = A_ {i}.}
Nezávislost náhodných proměnných
Definice
Existuje několik ekvivalentních definic nezávislosti konečné rodiny náhodných proměnných. Zejména můžeme definovat nezávislost rodiny kmenů a poté považovat nezávislost událostí a nezávislost náhodných proměnných za konkrétní případy kmenové nezávislosti. To umožňuje prokázat určité obecné výsledky nezávislosti pouze jednou, pro kmeny, a poté z tohoto obecného výsledku okamžitě odvodit verzi „událostí“ a verzi „náhodných proměnných“ (příkladem je seskupovací lemma). Může však být lepší nejprve uvést dvě definice nezávislosti náhodných proměnných, které jsou pro aplikace účinné, a některá vhodná kritéria.
V následujícím textu uvažujeme o rodině náhodných proměnných definovaných ve stejném prostoru pravděpodobnosti , ale pravděpodobně s hodnotami v různých prostorech:(X1,X2,...,Xne){\ displaystyle (X_ {1}, X_ {2}, \ tečky, X_ {n})}(Ω,NA,P){\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P})}Xi : (Ω,NA,P) → (Ei,Ei),1≤i≤ne.{\ displaystyle X_ {i} \: \ (\ Omega, {\ mathcal {A}}, \ mathbb {P}) \ \ rightarrow \ (E_ {i}, {\ mathcal {E}} _ {i}) , \ quad 1 \ leq i \ leq n.}
Definice - je skupina nezávislých náhodných proměnných, pokud je splněna jedna z následujících dvou podmínek:
(X1,X2,...,Xne){\ displaystyle (X_ {1}, X_ {2}, \ tečky, X_ {n})}
-
∀(NA1,...,NAne)∈E1×⋯×Ene{\ displaystyle \ forall (A_ {1}, \ dots, A_ {n}) \ in {\ mathcal {E}} _ {1} \ times \ dots \ times {\ mathcal {E}} _ {n}},P(X1∈NA1 a X2∈NA2... a Xne∈NAne) = ∏i=1neP(Xi∈NAi),{\ displaystyle \ quad \ mathbb {P} (X_ {1} \ v A_ {1} {\ text {a}} X_ {2} \ v A_ {2} \ dots {\ text {a}} X_ {n } \ v A_ {n}) \ = \ \ prod _ {i = 1} ^ {n} \ mathbb {P} (X_ {i} \ v A_ {i}),}
- máme rovnostE[∏i=1ne φi(Xi)] = ∏i=1neE[φi(Xi)],{\ displaystyle \ mathbb {E} \ left [\ prod _ {i = 1} ^ {n} \ \ varphi _ {i} (X_ {i}) \ right] \ = \ \ prod _ {i = 1} ^ {n} \ mathbb {E} \ left [\ varphi _ {i} (X_ {i}) \ right],}pro jakoukoli posloupnost funkcí definovaných na hodnoty, jakmile výše uvedená očekávání dávají smysl.φi{\ displaystyle \ varphi _ {i}}(Ei,Ei),{\ displaystyle (E_ {i}, {\ mathcal {E}} _ {i}),}R,{\ displaystyle \ mathbb {R},}
Výše uvedená očekávání mají smysl, pokud jsou měřitelné a pokud jsou integrovatelné, nebo pokud jsou měřitelné a pozitivní nebo nulové. Typicky v aplikacích, V případě dvou skutečných náhodných proměnných to dává:
φi{\ displaystyle \ varphi _ {i}}∏i=1ne φi(Xi){\ displaystyle \ prod _ {i = 1} ^ {n} \ \ varphi _ {i} (X_ {i})}φi{\ displaystyle \ varphi _ {i}}(Ei,Ei)=(Rdi,B(Rdi)).{\ displaystyle (E_ {i}, {\ mathcal {E}} _ {i}) = (\ mathbb {R} ^ {d_ {i}}, {\ mathcal {B}} (\ mathbb {R} ^ {d_ {i}}))}}
Definice - Dvě skutečné náhodné proměnné a jsou nezávislé, pokud je splněna jedna z následujících dvou podmínek:
X{\ displaystyle X}Y{\ displaystyle Y}
- ∀(NA,B)∈B(R)2,P(X∈NA a Y∈B) = P(X∈NA) P(Y∈B),{\ displaystyle \ forall (A, B) \ v {\ mathcal {B}} (\ mathbb {R}) ^ {2}, \ quad \ mathbb {P} (X \ v A {\ textu {a}} Y \ v B) \ = \ \ mathbb {P} (X \ v A) \ \ mathbb {P} (Y \ v B),}
- pro jakoukoli dvojici borelianských funkcí a jakmile mají níže uvedená očekávání smysl, mámeG{\ displaystyle g}h,{\ displaystyle h,}E[G(X)⋅h(Y)]=E[G(X)]⋅E[h(Y)].{\ displaystyle \ mathbb {E} \ left [g (X) \ cdot h (Y) \ right] = \ mathbb {E} [g (X)] \ cdot \ mathbb {E} [h (Y)]. }
V uvedených definicích se zabývají konečných rodiny náhodných veličin, číslovaných od do pro pohodlí, aniž by to omezení obecnosti prohlášení: skutečně, můžeme vždy číslo od do prvků konečné rodiny náhodných proměnných. Kromě toho definice hrají symetrické role pro každý prvek rodiny, takže výběr jednoho nebo jiného číslování nemá žádný vliv na ověření definice.
1{\ displaystyle 1}ne{\ displaystyle n}1{\ displaystyle 1}ne{\ displaystyle n}
Nezávislost jakékoli (možná nekonečné) rodiny náhodných proměnných je následující:
Definition - rodina nějaké náhodné veličiny jsou definovány v je řada náhodných veličin nezávislé právě tehdy, když všechny dílčí konečný family of je řada nezávislých náhodných proměnných (tj tehdy a jen tehdy, pokud pro každou část Finite části , je rodina nezávislé náhodné proměnné).
(Xj)j∈J{\ displaystyle (X_ {j}) _ {j \ v J}}(Ω,NA,P){\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P})}(Xj)j∈J{\ displaystyle (X_ {j}) _ {j \ v J}}Já{\ displaystyle I}J{\ displaystyle J}(Xi)i∈Já{\ displaystyle (X_ {i}) _ {i \ v I}}
Případ náhodných proměnných hustoty
Dovolit být série skutečných náhodných proměnných definovaných na stejném prostoru pravděpodobnostiX=(X1,X2,...,Xne){\ displaystyle X = (X_ {1}, X_ {2}, \ tečky, X_ {n})}(Ω,NA,P).{\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P}).}
Věta -
- Pokud má hustotu pravděpodobnosti, která je zapsána ve tvaru "produkt":X{\ displaystyle X} F:Rne→[0,+∞[{\ displaystyle f: \ mathbb {R} ^ {n} \ rightarrow [0, + \ infty [}
∀X=(X1,...,Xne)∈Rne,F(X) = ∏i=1neGi(Xi),{\ displaystyle \ forall x = (x_ {1}, \ tečky, x_ {n}) \ in \ mathbb {R} ^ {n}, \ qquad f (x) \ = \ \ prod _ {i = 1} ^ {n} g_ {i} (x_ {i}),}
kde jsou funkce borelianské a kladné nebo nulové, pak jde o posloupnost nezávislých proměnných. Kromě toho funkce definovaná pomocíGi{\ displaystyle g_ {i}}X{\ displaystyle X}Fi{\ displaystyle f_ {i}}
Fi(X) = Gi(X)∫RGi(u)du{\ displaystyle f_ {i} (x) \ = \ {\ frac {g_ {i} (x)} {\ int _ {\ mathbb {R}} g_ {i} (u) du}}}
je hustota pravděpodobnosti náhodné proměnné Xi.{\ displaystyle X_ {i}.}
- Naopak, pokud je posloupnost nezávislých reálných náhodných proměnných příslušných hustot pravděpodobnosti, pak má hustotu pravděpodobnosti a funkci definovanouX{\ displaystyle X}Fi,{\ displaystyle f_ {i},}X{\ displaystyle X}F{\ displaystyle f}
∀(X1,...,Xne)∈Rne,F(X1,...,Xne) = ∏i=1neFi(Xi),{\ displaystyle \ forall (x_ {1}, \ dots, x_ {n}) \ in \ mathbb {R} ^ {n}, \ qquad f (x_ {1}, \ dots, x_ {n}) \ = \ \ prod _ {i = 1} ^ {n} f_ {i} (x_ {i}),}
je hustota pravděpodobnosti X.{\ displaystyle X.}
Důkaz v případě dvou proměnných
Význam přímého.
Protože hustota je ve formě produktu, máme
F{\ displaystyle f}
1=∫R2F(X1,X2)dX1dX2=(∫G1(X1)dX1)(∫G2(X2)dX2){\ displaystyle {\ begin {aligned} 1 & = \ int _ {\ mathbb {R} ^ {2}} f (x_ {1}, x_ {2}) \, dx_ {1} \, dx_ {2} \ \ & = \ left (\ int g_ {1} (x_ {1}) \, dx_ {1} \ right) \, \ left (\ int g_ {2} (x_ {2}) \, dx_ {2 } \ vpravo) \ konec {zarovnáno}}}
a následně
F(X1,X2)=G1(X1)G2(X2)=G1(X1)∫RG1(u)du G2(X2)∫RG2(proti)dproti=F1(X1)F2(X2).{\ displaystyle {\ begin {aligned} f (x_ {1}, x_ {2}) & = g_ {1} (x_ {1}) \, g_ {2} (x_ {2}) \\ & = { \ frac {g_ {1} (x_ {1})} {\ int _ {\ mathbb {R}} g_ {1} (u) du}} \ {\ frac {g_ {2} (x_ {2}) } {\ int _ {\ mathbb {R}} g_ {2} (v) dv}} \\ & = f_ {1} (x_ {1}) \, f_ {2} (x_ {2}). \ konec {zarovnáno}}}
Konstrukcí jsou funkce integrální 1, takže
Fi{\ displaystyle f_ {i}}
∫RF(X1,X2)dX2=F1(X1),∫RF(X1,X2)dX1=F2(X2).{\ displaystyle {\ begin {aligned} \ int _ {\ mathbb {R}} f (x_ {1}, x_ {2}) dx_ {2} & = f_ {1} (x_ {1}), \\ \ int _ {\ mathbb {R}} f (x_ {1}, x_ {2}) dx_ {1} & = f_ {2} (x_ {2}). \ end {zarovnáno}}}
Funkce jsou tedy hraniční hustoty pravděpodobnosti dvou složek Hence, tedy pro jakoukoli dvojici funkcí a takové, že první člen níže má význam, máme
Fi{\ displaystyle f_ {i}}X.{\ displaystyle X.}φ{\ displaystyle \ varphi}ψ{\ displaystyle \ psi}
E[φ(X1)ψ(X2)]=∫∫φ(X1)ψ(X2)F(X1,X2)dX1dX2=∫∫φ(X1)F1(X1)ψ(X2)F2(X2)dX1dX2=∫φ(X1)F1(X1)dX1∫ψ(X2)F2(X2)dX2=E[φ(X1)]E[ψ(X2)]{\ displaystyle {\ begin {seřazeno} \ operatorname {E} [\ varphi (X_ {1}) \ psi (X_ {2})] & = \ int \ int \ varphi (x_ {1}) \ psi (x_ {2}) f (x_ {1}, x_ {2}) \, dx_ {1} \, dx_ {2} \\ & = \ int \ int \ varphi (x_ {1}) f_ {1} (x_ {1}) \ psi (x_ {2}) f_ {2} (x_ {2}) \, dx_ {1} \, dx_ {2} \\ & = \ int \ varphi (x_ {1}) f_ { 1} (x_ {1}) \, dx_ {1} \ int \ psi (x_ {2}) f_ {2} (x_ {2}) \, dx_ {2} \\ & = \ operatorname {E} [ \ varphi (X_ {1})] \ operatorname {E} [\ psi (X_ {2})] \ end {zarovnáno}}}
což vede k nezávislosti proměnných a X1{\ displaystyle X_ {1}}X2.{\ displaystyle X_ {2}.}
Význam vzájemnosti.
Jen to ukaž
∀NA∈B(R2),PX(NA)=μ(NA),{\ displaystyle \ forall A \ in {\ mathcal {B}} (\ mathbb {R} ^ {2}), \ quad \ mathbb {P} _ {X} (A) = \ mu (A),}
kde je zákon a kde je míra hustoty Or
PX{\ displaystyle \ mathbb {P} _ {X}}X,{\ displaystyle X,}μ{\ displaystyle \ mu}(X1,X2)→F1(X1)F2(X2).{\ displaystyle (x_ {1}, x_ {2}) \ rightarrow f_ {1} (x_ {1}) f_ {2} (x_ {2}).}
∀NA∈VS,PX(NA)=μ(NA),{\ displaystyle \ forall A \ in {\ mathcal {C}}, \ quad \ mathbb {P} _ {X} (A) = \ mu (A),}
kde je třída borelianských dlažebních kamenů:
VS{\ displaystyle {\ mathcal {C}}}
VS = {NA1×NA2 | NAi∈B(R),i∈{1,2}}.{\ displaystyle {\ mathcal {C}} \ = \ \ {A_ {1} \ krát A_ {2} \ | \ A_ {i} \ v {\ mathcal {B}} (\ mathbb {R}), i \ v \ {1,2 \} \}.}
Vskutku
PX(NA1×NA2)=P(X1∈NA1 a X2∈NA2)=P(X1∈NA1)P(X2∈NA2)=(∫R1NA1(X1)F1(X1)dX1)(∫R1NA2(X2)F2(X2)dX2)=∫R21NA1×NA2(X1,X2)F1(X1)F2(X2)dX1dX2=μ(NA1×NA2).{\ displaystyle {\ begin {aligned} \ mathbb {P} _ {X} (A_ {1} \ krát A_ {2}) & = \ mathbb {P} (X_ {1} \ v A_ {1} {\ text {et}} X_ {2} \ v A_ {2}) \\ & = \ mathbb {P} (X_ {1} \ v A_ {1}) \ mathbb {P} (X_ {2} \ v A_ {2}) \\ & = \ left (\ int _ {\ mathbb {R}} 1_ {A_ {1}} (x_ {1}) f_ {1} (x_ {1}) \, dx_ {1} \ right) \ left (\ int _ {\ mathbb {R}} 1_ {A_ {2}} (x_ {2}) f_ {2} (x_ {2}) \, dx_ {2} \ right) \\ & = \ int _ {\ mathbb {R} ^ {2}} 1_ {A_ {1} \ krát A_ {2}} (x_ {1}, x_ {2}) f_ {1} (x_ {1}) f_ {2} (x_ {2}) \, dx_ {1} \, dx_ {2} \\ & = \ mu (A_ {1} \ krát A_ {2}) \ end {zarovnáno}}.}
Všimli jsme si tedy, že se jedná o π-systém a že kmen, který generuje, je tedy na základě lemmatu jedinečnosti pravděpodobnostních měr ,
VS{\ displaystyle {\ mathcal {C}}}VS{\ displaystyle {\ mathcal {C}}}B(R2),{\ displaystyle {\ mathcal {B}} (\ mathbb {R} ^ {2}),}
∀NA∈B(R2),PX(NA)=μ(NA).{\ displaystyle \ forall A \ in {\ mathcal {B}} (\ mathbb {R} ^ {2}), \ quad \ mathbb {P} _ {X} (A) = \ mu (A).}
Případ diskrétních proměnných
V případě diskrétních proměnných je užitečným kritériem nezávislosti toto:
Diskrétní případ - Dovolit je posloupnost diskrétních náhodných veličin, a to buď posloupnost konečných nebo spočetné množiny tak, že pro všechny , pak rodina je posloupnost nezávislých náhodných proměnných, pokud pro všechnyX=(X1,X2,...,Xne){\ displaystyle X = (X_ {1}, X_ {2}, \ tečky, X_ {n})}(S1,S2,...,Sne){\ displaystyle (S_ {1}, S_ {2}, \ tečky, S_ {n})}i≤ne{\ Displaystyle i \ leq n}P(Xi∈Si)=1.{\ displaystyle \ mathbb {P} (X_ {i} \ v S_ {i}) = 1.}(X1,X2,...,Xne){\ displaystyle (X_ {1}, X_ {2}, \ tečky, X_ {n})}X=(X1,X2,...,Xne)∈∏i=1neSi,{\ displaystyle x = (x_ {1}, x_ {2}, \ dots, x_ {n}) \ in \ prod _ {i = 1} ^ {n} \, S_ {i},}
P(X=X) = ∏i=1neP(Xi=Xi).{\ displaystyle \ mathbb {P} \ vlevo (X = x \ vpravo) \ = \ \ prod _ {i = 1} ^ {n} \, \ mathbb {P} \ vlevo (X_ {i} = x_ {i } \ že jo).}
Jednotný zákon o karteziánském produktu:
- Dovolit být posloupnost konečných množin příslušných kardinálů a nechat být jednotná náhodná proměnná s hodnotami v kartézském součinu :(E1,E2,...,Ene){\ displaystyle (E_ {1}, E_ {2}, \ tečky, E_ {n})}#Ei{\ displaystyle \ #E_ {i}}X=(X1,X2,...,Xne){\ displaystyle X = (X_ {1}, X_ {2}, \ tečky, X_ {n})}
E = E1×E2×E3× ... ×Ene.{\ displaystyle E \ = \ E_ {1} \ krát E_ {2} \ krát E_ {3} \ krát \ \ tečky \ \ krát E_ {n}.}
Tato sekvence je sekvence nezávisle proměnné, a pro každý je náhodná proměnná sleduje jednotné zákon o . Uvažujme skutečně o sérii nezávislých náhodných proměnných, z nichž každá je na odpovídající množině stejná . Takže v případě jakéhokoli prvku z ,X{\ displaystyle X}i{\ displaystyle i}Xi{\ displaystyle X_ {i}}Ei{\ displaystyle E_ {i}}Y=(Yi)i≤i≤ne{\ displaystyle Y = (Y_ {i}) _ {i \ leq i \ leq n}}Yi{\ displaystyle Y_ {i}}Ei{\ displaystyle E_ {i}}X=(Xi)1≤i≤ne{\ displaystyle x = (x_ {i}) _ {1 \ leq i \ leq n}}E{\ displaystyle E}
P(X=X)=1#E=∏i=1ne1#Ei=∏i=1neP(Yi=Xi)=P(Y=X),{\ displaystyle {\ begin {aligned} \ mathbb {P} \ left (X = x \ right) & = {\ frac {1} {\ # E}} \\ & = \ prod _ {i = 1} ^ {n} {\ frac {1} {\ # E_ {i}}} \\ & = \ prod _ {i = 1} ^ {n} \, \ mathbb {P} \ vlevo (Y_ {i} = x_ {i} \ right) \\ & = \ mathbb {P} \ left (Y = x \ right), \ end {aligned}}}
druhá rovnost je výsledkem vzorce dává počet prvků kartézský součin množin, na 4 th nezávislosti , dalších rovností vyplývající z definice jednotné právní předpisy . Proto sekvence a mají stejný zákon, který znamená, že je sekvence nezávisle proměnné, jejichž komponenty následovat jednotné zákony.Yi{\ displaystyle Y_ {i}}X{\ displaystyle X}Y{\ displaystyle Y}X{\ displaystyle X}
Další kritéria nezávislosti
Například,
Kritéria - Let a dvě skutečné náhodné proměnné definované v prostoru pravděpodobnostiX{\ displaystyle X}Y{\ displaystyle Y} (Ω,NA,P).{\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P}).}
- Pokud pro jakoukoli dvojici reálných čísel(X,y){\ displaystyle (x, y)}
P(X≤X a Y≤y) = P(X≤X)×P(Y≤y),{\ displaystyle \ mathbb {P} \ vlevo (X \ leq x {\ text {et}} Y \ leq y \ vpravo) \ = \ \ mathbb {P} \ vlevo (X \ leq x \ vpravo) \ krát \ mathbb {P} \ doleva (Y \ leq y \ doprava),}
pak a jsou nezávislí .X{\ displaystyle X}Y{\ displaystyle Y}
- Pokud má hodnoty va pokud, pro jakýkoli párY{\ displaystyle Y}NE,{\ displaystyle \ mathbb {N},}(X,ne)∈R×NE,{\ displaystyle (x, n) \ v \ mathbb {R} \ krát \ mathbb {N},}
P(X≤X a Y=ne) = P(X≤X)×P(Y=ne),{\ displaystyle \ mathbb {P} \ vlevo (X \ leq x {\ text {et}} Y = n \ vpravo) \ = \ \ mathbb {P} \ vlevo (X \ leq x \ vpravo) \ krát \ mathbb {P} \ vlevo (Y = n \ vpravo),}
pak a jsou nezávislí.X{\ displaystyle X}Y{\ displaystyle Y}
- Samozřejmě, zda a jsou s hodnotami va pokud, pro jakýkoli párX{\ displaystyle X}Y{\ displaystyle Y}NE{\ displaystyle \ mathbb {N}}(m,ne)∈NE2,{\ displaystyle (m, n) \ v \ mathbb {N} ^ {2},}
P(X=m a Y=ne) = P(X=m)×P(Y=ne),{\ displaystyle \ mathbb {P} \ vlevo (X = m {\ text {a}} Y = n \ vpravo) \ = \ \ mathbb {P} \ vlevo (X = m \ vpravo) \ krát \ mathbb {P } \ vlevo (Y = n \ vpravo),}
pak X a Y jsou nezávislé.
Například druhé kritérium lze použít k prokázání, že v metodě odmítnutí je počet iterací nezávislý na náhodném objektu (často náhodném čísle) vygenerovaném na konci těchto iterací.
Tato kritéria nezávislosti lze zobecnit na jakékoli konečné rodiny skutečných náhodných proměnných, z nichž některé jsou případně diskrétní proměnné, přičemž hodnoty v konečných nebo spočetných částech ℝ se mohou lišit od . Důkaz těchto kritérií lze nalézt na stránce „ Monotónní lemma třídy “.
NE{\ displaystyle \ mathbb {N}}
Nezávislost a korelace
Nezávislost znamená, že kovariance , a tedy korelace , mezi dvěma proměnnými je nula:
Věta - X a Y jsou nezávislé⇒Cov(X,Y)=Corr(X,Y)=0{\ displaystyle \ Rightarrow \ operatorname {Cov} (X, Y) = \ operatorname {Corr} (X, Y) = 0}
Demonstrace
Tato vlastnost je odvozeno velmi snadno, pokud jedna vyjadřuje kovariance jako: . Jak jsme viděli, nezávislost a to tedy znamená .
cov(X,Y)=E(XY)-E(X)E(Y){\ displaystyle \ operatorname {cov} (X, Y) = \ operatorname {E} (XY) - \ operatorname {E} (X) \ operatorname {E} (Y)}X{\ displaystyle X}Y{\ displaystyle Y}E(XY)=E(X)E(Y){\ displaystyle \ operatorname {E} (XY) = \ operatorname {E} (X) \ operatorname {E} (Y)}cov(X,Y)=E(XY)-E(X)E(Y)=E(X)E(Y)-E(X)E(Y)=0{\ displaystyle \ operatorname {cov} (X, Y) = \ operatorname {E} (XY) - \ operatorname {E} (X) \ operatorname {E} (Y) = \ operatorname {E} (X) E ( Y) - \ operatorname {E} (X) \ operatorname {E} (Y) = 0}
Konverze věty je nepravdivá, jak ukazuje následující příklad:
Příklad:
Tento příklad je převzat z Rosse (2004, s. 306)
- Nechť X je diskrétní náhodná proměnná taková .P(X=0)=P(X=1)=P(X=-1)=13{\ displaystyle \ mathbb {P} (X = 0) = \ mathbb {P} (X = 1) = \ mathbb {P} (X = -1) = {\ frac {1} {3}}}
- Pojďme definovat Y ve vztahu k X :{0-li X≠01-li X=0{\ displaystyle {\ begin {cases} 0 & {\ text {si}} X \ neq 0 \\ 1 & {\ text {si}} X = 0 \\\ end {cases}}}
- Počítáme .E[XY]=13(0⋅1)+13(1⋅0)+13(-1⋅0)=0{\ displaystyle \ operatorname {E} [XY] = {\ frac {1} {3}} (0 \ cdot 1) + {\ frac {1} {3}} (1 \ cdot 0) + {\ frac { 1} {3}} (- 1 \ cdot 0) = 0}
- To také vidíme .E[X]=13(0)+13(1)+13(-1)=0+1-1=0{\ displaystyle \ operatorname {E} [X] = {\ frac {1} {3}} (0) + {\ frac {1} {3}} (1) + {\ frac {1} {3}} (-1) = 0 + 1-1 = 0}
- Z tohoto důvodu: .cov(X,Y)=E(XY)-E(X)E(Y)=0-0=0{\ displaystyle \ operatorname {cov} (X, Y) = \ operatorname {E} (XY) - \ operatorname {E} (X) \ operatorname {E} (Y) = 0-0 = 0}
- Tyto dvě proměnné však zjevně nejsou nezávislé!
Nekorelace mezi a je slabší vlastností než nezávislost. Ve skutečnosti je nezávislost mezi a je ekvivalentní k zákazu korelace části a pro každou volbu a (tak, že kovariance s je definována ...).
X{\ displaystyle X}Y{\ displaystyle Y}X{\ displaystyle X}Y{\ displaystyle Y}φ(X){\ displaystyle \ varphi (X)}ψ(Y){\ displaystyle \ psi (Y)}φ{\ displaystyle \ varphi}ψ{\ displaystyle \ psi}φ(X){\ displaystyle \ varphi (X)}ψ(X){\ displaystyle \ psi (x)}
Nezávislost kmenů
Definice - V prostoru pravděpodobnosti (Ω,NA,P),{\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P}),}
- konečná rodina kmenů zahrnutá do je rodina nezávislých kmenů právě tehdy(NAi)i∈Já{\ displaystyle ({\ mathcal {A}} _ {i}) _ {i \ v I}}NA{\ displaystyle {\ mathcal {A}}}
∀(NAi)i∈Já∈∏i∈JáNAi,P(⋂i∈JáNAi)= ∏i∈Já P(NAi).{\ displaystyle \ forall (A_ {i}) _ {i \ v I} \ v \ prod _ {i \ v I} {\ mathcal {A}} _ {i}, \ qquad \ mathbb {P} \ vlevo (\ bigcap _ {i \ in I} A_ {i} \ right) = \ \ prod _ {i \ in I} \ \ mathbb {P} (A_ {i}).}
- jakýkoli rodina kmenů zahrnutých v je řada samostatných kmenů tehdy a jen tehdy, pokud některý konečný podčeleď z je rodina nezávislých kmenů (tj., a to pouze v případě, pro nějakou konečnou část I o J , je rodina nezávislých kmenů).(NAj)j∈J{\ displaystyle ({\ mathcal {A}} _ {j}) _ {j \ v J}}NA{\ displaystyle {\ mathcal {A}}}(NAj)j∈J{\ displaystyle ({\ mathcal {A}} _ {j}) _ {j \ v J}}(NAi)i∈Já{\ displaystyle ({\ mathcal {A}} _ {i}) _ {i \ v I}}
Souvislost s nezávislostí událostí
Definice -
Rodina událostí (tj. Jejich prvky ) je rodina nezávislých událostí právě tehdy, je-li rodinou nezávislých kmenů.
(NAj)j∈J{\ displaystyle (A_ {j}) _ {j \ v J}}NA{\ displaystyle {\ mathcal {A}}}(σ(NAj))j∈J{\ displaystyle \ left (\ sigma (A_ {j}) \ right) _ {j \ v J}}
Jak kmen, který zplodil, popisuje:
σ(NA){\ displaystyle \ sigma ({A})}NA{\ displaystyle A}
σ(NA) = {NA,NA¯,Ω,∅},{\ displaystyle \ sigma (A) \ = \ \ vlevo \ {A, {\ overline {A}}, \ Omega, \ emptyset \ right \},}
definice uvedená v této části pro jakoukoli skupinu událostí, jakmile je specifikována pro skupinu událostí, se zdá být silnější než dvě výše uvedená kritéria . Ve skutečnosti pro vhodný výběr událostí v definici
ne{\ displaystyle n}Bi{\ displaystyle B_ {i}}
{∀(Bi)1≤i≤ne∈∏i=1neσ(NAi),P(⋂i=1neBi)= ∏i=1ne P(Bi)},{\ displaystyle \ left \ {\ forall (B_ {i}) _ {1 \ leq i \ leq n} \ in \ prod _ {i = 1} ^ {n} \ sigma ({A} _ {i}) , \ qquad \ mathbb {P} \ left (\ bigcap _ {i = 1} ^ {n} B_ {i} \ right) = \ \ prod _ {i = 1} ^ {n} \ \ mathbb {P} (B_ {i}) \ doprava \},}
vzhledem k tomu, že v této části najdeme kritérium 1 (vyberte někdy někdy v ) a kritérium 2 (vyberte někdy někdy v ). Kritéria 1 a 2 jsou skutečně ekvivalentní definici prostřednictvím kmenů uvedené v této části, ale to si zaslouží demonstraci.
Ω,{\ displaystyle \ Omega,}NAi{\ displaystyle A_ {i}}σ(NAi){\ displaystyle \ sigma ({A} _ {i})}NAi,{\ displaystyle A_ {i},}NAi¯{\ displaystyle {\ overline {A_ {i}}}}σ(NAi){\ displaystyle \ sigma ({A} _ {i})}
Souvislost s nezávislostí náhodných proměnných
Definition -
rodina z náhodných proměnných definovaných na je řada nezávislých náhodných proměnných, právě tehdy, když je řada samostatných kmenů.
(Xj)j∈J{\ displaystyle (X_ {j}) _ {j \ v J}}(Ω,NA,P){\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P})}(σ(Xj))j∈J{\ displaystyle \ left (\ sigma (X_ {j}) \ right) _ {j \ v J}}
Protože kmen generovaný náhodnou proměnnou definovanou z v je definován:
σ(X){\ displaystyle \ sigma (X)}X,{\ displaystyle X,}(Ω,NA,P){\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P})}(E,E),{\ displaystyle (E, {\ mathcal {E}}),}
σ(X) = {X-1(B) | B∈E},{\ displaystyle \ sigma (X) \ = \ \ vlevo \ {X ^ {- 1} (B) \ \ vlevo | \ B \ v {\ mathcal {E}} \ vpravo. \ vpravo \},}
definice uvedená v této části pro jakoukoli rodinu náhodných proměnných, jakmile je specifikována na rodinu náhodných proměnných, je jasně ekvivalentní definici v části Nezávislost náhodných proměnných . Vskutku
ne{\ displaystyle n}
P(X1∈NA1 a X2∈NA2 a ... a Xne∈NAne){\ displaystyle \ mathbb {P} \ vlevo (X_ {1} \ v A_ {1} {\ textu {a}} X_ {2} \ v A_ {2} {\ textu {a}} \ teček {\ textu {and}} X_ {n} \ v A_ {n} \ vpravo)}
je zneužití hodnocení pro
P(⋂i=1neXi-1(NAi)),{\ displaystyle \ mathbb {P} \ left (\ bigcap _ {i = 1} ^ {n} X_ {i} ^ {- 1} (A_ {i}) \ right),}
a
P(Xi∈NAi){\ displaystyle \ mathbb {P} \ vlevo (X_ {i} \ v A_ {i} \ doprava)}
je zneužití hodnocení pro
P(Xi-1(NAi)).{\ displaystyle \ mathbb {P} \ vlevo (X_ {i} ^ {- 1} (A_ {i}) \ vpravo).}
Základní vlastnosti
Vlastnosti -
- Podrodina rodiny nezávislých kmenů je rodina nezávislých kmenů: pokud je rodina rodinou nezávislých kmenů a pokud je potom rodinou nezávislých kmenů.(NAj)j∈J{\ displaystyle ({\ mathcal {A}} _ {j}) _ {j \ v J}}Já⊂J,{\ displaystyle I \ podmnožina J,}(NAi)i∈Já{\ displaystyle ({\ mathcal {A}} _ {i}) _ {i \ v I}}
- Pokud je do kmene zahrnut celý kmen a pokud je rodina rodinou nezávislých kmenů , pak je rodina rodinou nezávislých kmenů .j∈J,{\ displaystyle j \ v J,}Bj{\ displaystyle {\ mathcal {B}} _ {j}}NAj,{\ displaystyle {\ mathcal {A}} _ {j},}(NAj)j∈J{\ displaystyle ({\ mathcal {A}} _ {j}) _ {j \ v J}}(Bj)j∈J{\ displaystyle ({\ mathcal {B}} _ {j}) _ {j \ v J}}
K prokázání prvního bodu použijeme definici nezávislosti na rodinu tím, že se specializujeme na rodinu událostí, jako je Druhý bod je okamžitý: stačí napsat definici rodinné nezávislosti(NAj)j∈J{\ displaystyle ({\ mathcal {A}} _ {j}) _ {j \ v J}}(NAj)j∈J{\ displaystyle (A_ {j}) _ {j \ v J}}∀j∈J∖Já,NAj=Ω.{\ displaystyle \ forall j \ in J \ zpětné lomítko I, \ quad A_ {j} = \ Omega.}(Bj)j∈J.{\ displaystyle ({\ mathcal {B}} _ {j}) _ {j \ v J}.}
Seskupení lemmatu
Seskupení lemma - V probabilized prostoru buď libovolný rodina z nezávislých kmenů zahrnuty buď na oddíl o Notons
(Ω,NA,P),{\ displaystyle (\ Omega, {\ mathcal {A}}, \ mathbb {P}),} (NAj)j∈J{\ displaystyle ({\ mathcal {A}} _ {j}) _ {j \ v J}}NA.{\ displaystyle {\ mathcal {A}}.} P=(Pi)i∈Já{\ displaystyle {\ mathcal {P}} = (P_ {i}) _ {i \ v I}}J.{\ displaystyle J.}
Bi=∨j∈Pi NAj{\ displaystyle {\ mathcal {B}} _ {i} = \ mathop {\ vee} _ {j \ v P_ {i}} \ {\ mathcal {A}} _ {j}}
kmen generovaný
⋃j∈Pi NAj.{\ displaystyle \ bigcup _ {j \ v P_ {i}} ^ {} \ {\ mathcal {A}} _ {j}.}
Rodina je tedy rodinou nezávislých kmenů .
(Bi)i∈Já{\ displaystyle ({\ mathcal {B}} _ {i}) _ {i \ v I}}
Aplikace:
Seskupovací lemma se používá s největší pravděpodobností velmi často a téměř nevědomě. Uveďme několik příkladů:
Základnějším způsobem
- v konečném případě, pokud je rodina nezávislých proměnných, a v případě, a jsou jakékoli dvě (měřitelné) funkce, pak, podle použití seskupení lemmatu, a dva nezávislé proměnné, protože a tvoří oddíl o .(X1,X2,X3,X4,X5){\ displaystyle (X_ {1}, X_ {2}, X_ {3}, X_ {4}, X_ {5})}F{\ displaystyle f}G{\ displaystyle g}F(X2,X3,X5){\ displaystyle f (X_ {2}, X_ {3}, X_ {5})}G(X1,X4){\ displaystyle g (X_ {1}, X_ {4})}{2,3,5}{\ displaystyle \ {2,3,5 \}}{1,4}{\ displaystyle \ {1,4 \}}{1,2,3,4,5}{\ displaystyle \ {1,2,3,4,5 \}}
Nezávislost a informace
Dalším způsobem, jak pochopit tento pojem nezávislosti mezi dvěma událostmi, je projít informacemi (ve smyslu teorie informací ): dvě události jsou nezávislé, pokud informace poskytnuté první událostí neposkytují žádné informace o druhé události.
Nebo nakreslit dvě koule (červené a bílé) z urny. Provedeme-li experiment bez vložení nakreslené koule zpět do urny a první nakreslená koule je červená, můžeme z této informace odvodit, že druhá nakreslená koule bude bílá. Tyto dvě události proto nejsou nezávislé.
Na druhou stranu, pokud dáme první míč zpět do urny před druhou remízou, informace o první události (míč je červený) nám neposkytne žádné informace o barvě druhého míče. Tyto dvě události jsou proto nezávislé.
Tento přístup se používá zejména při analýze nezávislých komponent .
Poznámky a odkazy
-
SkutečněP(Xmod2=0|X∈{1,2,3,4})=12=P(Xmod2=0|X∈{1,2,3,4,5,6}){\ displaystyle \ mathbb {P} (x \ mod 2 = 0 | x \ in \ {1,2,3,4 \}) = {\ frac {1} {2}} = \ mathbb {P} (x \ mod 2 = 0 | x \ in \ {1,2,3,4,5,6 \})}
Podívejte se také
Bibliografie
- VAŠE. Banh, Calcul des probencies, Ed. ULg, 1995.
- A. Hyvärinen, E. Oja, Independent Component Analysis, Neural Networks, 13 (4-5): 411-430, 2000.
- Sheldon M Ross , Initiation Aux Probencies , Lausanne, Presses polytechniques et universitaire romandes ,2004, Trad. 4. vydání Americký vyd. , str. 458
- (en) Olav Kallenberg, Základy moderní pravděpodobnosti , New York, Springer, kol. "Pravděpodobnost a její aplikace",1997( dotisk 2001), 638 s. ( ISBN 0-387-95313-2 , číst online )
Související články