חוק המספרים הגדולים

מתוך ויקיפדיה, האנציקלופדיה החופשית
קפיצה אל: ניווט, חיפוש

בתורת ההסתברות ובסטטיסטיקה, חוק המספרים הגדולים הוא שמם המשותף של שני משפטים העוסקים בהתנהגות הממוצע במדגמים גדולים, הנקראים החוק החלש והחוק החזק. משפט הגבול המרכזי מספק תיאור מדויק יותר של התנהגות הממוצע, אבל חוקי המספרים הגדולים חלים במקרים כלליים יותר.

החוק החלש[עריכת קוד מקור | עריכה]

החוק החלש של המספרים הגדולים קובע סדרת הממוצעים מתכנסת בהסתברות אל התוחלת, כלומר, הסיכוי של הממוצע להיות רחוק מן התוחלת שואף לאפס כאשר גודל המדגם שואף לאינסוף.

גרסא חזקה[עריכת קוד מקור | עריכה]

תהי \ X_1,X_2,\dots סדרה של משתנים מקריים בלתי מתואמים, בעלי אותה תוחלת סופית \ \mu ואותה שונות סופית \sigma^2. נסמן \ \bar{X}_n=\frac{X_1+\dots+X_n}{n}.

החוק החלש של המספרים הגדולים קובע שלכל \ \varepsilon>0 מתקיים \ \lim_{n\rightarrow \infty} {P(|\bar{X}_n-\mu|<\varepsilon)}=1.

ניתן להוכיח את הגרסא החזקה מאי-שוויון צ'בישב:

P(|\bar { X } _{ n }-\mu |>\varepsilon )\le \frac { { Var }(\bar { X } _{ n }) }{ \varepsilon ^{ 2 } } =\frac { \sigma ^{ 2 }/n }{ \varepsilon ^{ 2 } } =\frac { \sigma ^{ 2 } }{ n\varepsilon ^{ 2 } } \to 0

גרסא חלשה[עריכת קוד מקור | עריכה]

ניתן להחליש את תנאי המשפט - אין צורך להניח כי למשתנים המקריים יש שונות סופית. הוכחת גרסא זו מסובכת יותר.

ראשית נוכיח כי יש התכנסות של הממוצע אל התוחלת בהתפלגות. ידוע כי טענה זו שקולה לכך שיש התכנסות של הפונקצייה האופיינית: \varphi_{\bar{X}_n} \to \varphi_{\mu}. בנוסף, ידוע ש-\varphi_{X_i}(t)=1+i t \mu +o(t), t \to 0, ולכן:

\varphi_{\bar{X}_n}(t)= E[e^{it \bar{X}_n}]=E[e^{\frac{it}{n}(X_1+\dots+X_n)}]=\prod_{j=1}^{n}{E[e^{\frac{it}{n} X_j}]}=(\varphi_{X_1}(t))^n=(1+\frac{it \mu}{n}+o(\frac{t}{n}))^n=e^{n \ln{(1+\frac{it \mu}{n}+o(\frac{t}{n})}}) \to e^{i t \mu}

וזו אכן הפונקצייה האופיינית של המ"מ הקבוע \mu.

כעת, ניתן להוכיח את טענת המשפט. מתקיים:

P(|\bar{X}_n-\mu|>\varepsilon) = P(\bar{X}_n-\mu>\varepsilon) +P(\bar{X}_n-\mu<-\varepsilon)  \le P(\bar{X}_n-\mu >\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) =

 =1-P(\bar{X}_n-\mu <\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) =1-F_{\bar{X}_n}(\mu+\frac{\varepsilon}{2})+F_{\bar{X}_n}(\mu-\varepsilon)

כעת, לפי החלק הראשון, מתקיים F_{ \bar { X } _{ n } }(x)\to { F }_{ \mu  }(x)=\begin{cases} 1\quad \quad x\ge \mu  \\ 0\quad \quad x<\mu  \end{cases}, ולכן

P(|\bar{X}_n-\mu|>\varepsilon) \le 1-F_{\bar{X}_n}(\mu+\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) \to 1-1+0 =0

מש"ל

החוק החזק[עריכת קוד מקור | עריכה]

החוק החזק של המספרים הגדולים קובע שסדרת הממוצעים מתכנסת כמעט בוודאות, ושגבולה הוא התוחלת. מהתכנסות כמעט בוודאות הנובעת מהחוק החזק אפשר להסיק את החוק החלש; מצד שני, ההתכנסות בהתפלגות של \ \frac{1}{\sqrt{n}}(X_1+\cdots+X_n) שאותה מבטיח משפט הגבול המרכזי, גוררת התכנסות כמעט בוודאות של הממוצעים.

תהי \ X_1,X_2,\dots,X_n סדרה של משתנים מקריים בלתי תלויים בעלי אותה התפלגות, שיש לה תוחלת \ \mu סופית ואינטגרבילית לבג (שונות סופית אינה נדרשת).

נסמן \ \bar{X}_n=(X_1+\dots+X_n)/n. החוק החזק של המספרים הגדולים קובע שבהסתברות 1, מתקיים \ \lim_{n\rightarrow \infty} \bar{X}_n=\mu.

המתמטיקאי אנדריי קולמוגורוב הראה שהמשפט מתקיים גם אם המשתנים אינם שווי התפלגות, ובלבד שיש להם אותה תוחלת, ושסדרת השונויות מקיימת את תנאי קולמוגורוב: הטור \ \sum\frac{V(X_n)}{n^2} מתכנס.

מקרים בהם החוק החזק אינו תקף אך החלש כן תקף[עריכת קוד מקור | עריכה]

ייתכנו מקרים בהם החוק החזק אינו תקף מכיוון שערך התוחלת של המשתנה המקרי בערך מוחלט אינו סופי (לא אינטגרבילי לבג) ואילו החוק החלש כן תקף (הפניה [[1]])

כלומר מתקיים EX^+=EX^-=\infty

  1. עבור הטרנספורמציה של x המתפלג מעריכית עם פרמטר 1 בעלת התוחלת :E\left(\frac{sin(x)e^x}{x}\right) =\ \int_{0}^{\infty}\frac{sin(x)e^x}{x}e^{-x}dx = \frac{\pi}{2}
  2. עבור הטרנספורמציה של x המתפלג גאומטרית עם הסתברות 0.5 בעלת התוחלת : E\left(\frac{2^x(-1)^x}{x}\right) =\ \sum_{1}^{\infty}\frac{2^x(-1)^x}{x}2^{-x}=-ln(2)
  3. עבור ההתפלגות

 1-F(x)=\frac{e}{2x\ln(x)},x \ge e

  F(x)=\frac{e}{-2x\ln(-x)},x \le -e הפניה [[2]]

יישומים[עריכת קוד מקור | עריכה]

חוק המספרים הוא משפט חשוב בתורת המספרים, לו יישומים בתורה עצמה ומחוצה שלה.

בתורת ההסתברות[עריכת קוד מקור | עריכה]

ראשית, בעזרת החוק החלש מוכיחים את החוק החזק.

מחוץ להסתברות[עריכת קוד מקור | עריכה]

באנליזה[עריכת קוד מקור | עריכה]

בעזרת החוק החלש ניתן לחשב גבולות של אינטגרלים. למשל, נציג דרך לחישוב הגבול L=\lim_{n\to\infty}\int_{0}^{1}\dots\int_{0}^{1}\sin\left(\frac{x_1+\dots+x_n}{n}\right)dx_{1}\dots dx_{n} .

כדי לעשות זאת, ניקח משתנים מקריים בלתי תלויים X_1,\dots,X_n מתפלגים אחיד על [0,1] (עם מידת לבג). למשתנים אלו תוחלת \frac{1}{2}, ובפרט סופית. כעת, המשתנים x_1,\dots,x_n במרחב האוקלידי הם בלתי תלויים, ולכן האינטגרל הוא E[\sin(\frac{X_1+\dots X_n}{n})]. כעת, לפי חוק המספרים החלש יש התכנסות \frac{X_1+\dots+X_n}{n} \overset{d}{\to} \mu; התכנסות בהתפלגות שקולה להתכנסות חלשה, ולכן מתקיים

L=E[\sin(\frac{1}{2})]=sin(\frac{1}{2}).

בתורת המספרים[עריכת קוד מקור | עריכה]

Postscript-viewer-shaded.png ערך מורחב – מספר נורמלי

בעזרת החוק החזק ניתן להוכיח טענה מתורת המספרים - בהינתן מספר x \in [0,1] בעלת ייצוג בבסיס b מהצורה =\sum_{i=1}^{\infty}\frac{x_{i}}{b^{i}}=0.x_{1}x_{2}\dots_{_{b}}, ניתן לברר את ההתפלגות של x_i - אלו הם משתנים בלתי תלויים. בהינתן סדרה (a_1,\dots ,a_n), חוק המספרים הגדולים קובע כי \sum_{i=1}^{n}\frac{1_{\{x_{i}=a_{i}\}}}{n}\overset{a.s.}{\to}\frac{1}{b} . על ידי הפעלת אותה הטענה על בסיס b^m והזזה מתאימה מקבלים כי \sum_{i=1}^{n}\frac{1_{\{x_{mi+1}=a_{1},\dots,x_{mi+m}=a_{m}\}}}{n}\overset{a.s.}{\to}\frac{1}{b^{m}} - זוהי ההסתברות שהסדרה (a_1,\dots ,a_n) תופיע ברצף אינסופי בלי רווחים. על ידי עוד הזזה אפשר גם להוכיח שההסתברות שהסדרה תופיע גם עם רווחים אולי היא עדיין שואפת כמעט תמיד ל-\frac{1}{b^m}.

למעשה, הוכחנו שכמעט כל המספרים הם מספרים נורמליים - אך בפועל לא פשוט למצוא מספרים כאלה (למשל, כל מספר רציונלי איננו נורמלי).

ראו גם[עריכת קוד מקור | עריכה]

קישורים חיצוניים[עריכת קוד מקור | עריכה]

הערות שוליים[עריכת קוד מקור | עריכה]

http://www.mathnet.or.kr/mathnet/kms_tex/31810.pdf^ 1: גירסה עדכנית לחוק החלש

http://www.isds.duke.edu/courses/Fall09/sta205/lec/lln.pdf^ 2: מאמר הכולל הבדלים בין החוק החזק לחלש