התכנסות (הסתברות)

מתוך ויקיפדיה, האנציקלופדיה החופשית
קפיצה אל: ניווט, חיפוש

בתורת ההסתברות יש כמה משמעויות שונות למושג ההתכנסות של סדרת משתנים מקריים, שכולן מכלילות את המושג המתמטי הפשוט יותר, גבול של סדרה. כמו בענפים אחרים באנליזה, ההתכנסות של סדרה לגבול היא רעיון מרכזי בתורת ההסתברות, ויש לו השלכות חשובות בסטטיסטיקה ובתהליכים סטוכסטיים.

לדוגמה, נניח ש-\ X_n סדרה של משתנים מקריים בלתי תלויים בעלי תוחלת \ \mu ושונות \ \sigma^2, ותהי \ Y_n = \frac{X_1+\dots+X_n}{n} סדרת הממוצעים. לפי החוק החלש של המספרים הגדולים, הסדרה \ Y_n מתכנסת בהסתברות אל התוחלת; לפי החוק החזק של המספרים הגדולים, אותה סדרה מתכנסת כמעט בוודאות; ואילו לפי משפט הגבול המרכזי, הסדרה המתוקננת \ \frac{Y_n-\mu}{\sigma/\sqrt{n}} מתכנסת בהתפלגות אל ההתפלגות הנורמלית הסטנדרטית.

להלן, \ X הוא משתנה מקרי ו-\ X_1,X_2,\dots,X_n,\dots היא סדרה של משתנים מקריים, המוגדרים כולם על אותו מרחב הסתברות (למעט התכנסות בהתפלגות המוגדרת גם ללא הדרישה למרחב משותף).

התכנסות בהתפלגות[עריכת קוד מקור | עריכה]

נניח ש- \ F_n הן פונקציות ההסתברות המצטברת של המשתנים המקריים \ X_n, וש- \ F היא פונקציית ההסתברות המצטברת של \ X. הסדרה \ X_n מתכנסת בהתפלגות ל- X, אם לכל x שבו F רציפה, \ F_n(x) \rightarrow F(x), כלומר, סדרת הפונקציות \ F_n מתכנסת נקודתית לפונקציה F לכל נקודת רציפות של F. מכיוון ש- \ F(x) = P(X \leq x), משמעותה של התכנסות כזו היא שהסיכוי של \ X_n ליפול בקטע מסוים, כאשר n גדול מספיק, קרוב לסיכוי של X ליפול באותו קטע. מקובל לסמן התכנסות בהתפלגות ב- \ X_n \xrightarrow{\mathcal D} X.

התכנסות בהתפלגות היא הצורה החלשה ביותר של התכנסות, והיא נקראת לפעמים התכנסות חלשה, בדומה להתכנסות חלשה של מידות. התכנסות בהתפלגות שקולה להתכנסות נקודתית של סדרת הפונקציות המציינות אל הפונקציה המציינת של המשתנה בגבול. סוג זה של התכנסות נובע מכל אחד מן הסוגים האחרים שיוצגו להלן, ומכאן שהוא השכיח ביותר. אם המשתנה המקרי X הוא קבוע, אז התכנסות בהתפלגות שקולה להתכנסות בהסתברות, החזקה ממנה בדרך כלל.

התכנסות בהתפלגות נשמרת תחת פונקציות רציפות: אם \ X_n \xrightarrow{\mathcal D} X אז \ f(X_n) \xrightarrow{\mathcal D} f(X) לכל פונקציה רציפה \ f: \mathbb{R} \rightarrow \mathbb{R}.

התכונה "\ F_n(x) \rightarrow F(x) לכל x" (ללא המגבלה על הרציפות של F) חזקה ממש מהתכנסות בהתפלגות.

התכנסות בהסתברות[עריכת קוד מקור | עריכה]

הסדרה \ X_1,\dots,X_n,\dots מתכנסת בהסתברות אל המשתנה המקרי X, אם לכל \ 0 < \delta, סדרת ההסתברויות \ P(|X_n - X|<\delta) מתכנסת ל-1. במלים אחרות, הסיכוי לכך שאברי הסדרה יהיו רחוקים מ- X, שואף לאפס. מקובל לסמן התכנסות בהסתברות ב- \ X_n \xrightarrow{P} X. כל סדרה המתכנסת בהסתברות, מתכנסת גם בהתפלגות.

התכנסות כמעט בוודאות[עריכת קוד מקור | עריכה]

הסדרה \ X_1,\dots,X_n,\dots מתכנסת כמעט בוודאות (Almost surely) אל המשתנה המקרי X, אם הסיכוי לכך ש- \ \lim_{n\rightarrow \infty} X_n = X שווה ל-1. במקרה כזה מסמנים \ X_n \xrightarrow{a.s.} X. התכנסות כמעט בוודאות נקראת לפעמים התכנסות בהסתברות 1, התכנסות כמעט בכל מקום, או התכנסות במובן החזק.

כל סדרה המתכנסת כמעט בוודאות מתכנסת גם בהסתברות, ולכן גם בהתפלגות. מאידך, התכנסות כמעט בוודאות אינה שכיחה במיוחד. למשל, אם המשתנים \ X_n בלתי תלויים, אז הסדרה אינה יכולה להתכנס כמעט בוודאות, אלא אם המשתנה X שאליו היא מתכנסת הוא קבוע. אם למשתנים תוחלת אפס והטור \ \sum V(X_n) מתכנס, אז הסדרה מתכנסת לאפס כמעט בוודאות.

התכנסות כמעט תמיד[עריכת קוד מקור | עריכה]

הסדרה \ X_1,\dots,X_n,\dots מתכנסת כמעט תמיד אל X, אם לכל \ \delta>0, ההסתברויות \ p_n = P(\forall k>n: |X_k - X| < \delta) שואפות ל- 1. תופעה זו שקולה להתכנסות כמעט בוודאות.

התכנסות בוודאות[עריכת קוד מקור | עריכה]

אם הגבול \ \lim_{n\rightarrow \infty} X_n קיים ושווה ל- X בוודאות (ולא רק בהסתברות 1), אז הסדרה מתכנסת בוודאות ל-X. זוהי התכנסות חזקה יותר מהתכנסות כמעט בוודאות, אך מבחינת תורת ההסתברות ההבדל בין השתיים זניח, ולכן ההתכנסות בוודאות אינה שימושית במיוחד.

התכנסות בתוחלת[עריכת קוד מקור | עריכה]

הסדרה \ X_1,\dots,X_n,\dots מתכנסת בתוחלת אל X, אם לכל המשתנים המקריים \ |X_n| יש תוחלת סופית, והסדרה \ E(|X_n-X|) שואפת לאפס. באופן כללי יותר, הסדרה מתכנסת במומנט ה-r-י אם לכל המשתנים כנ"ל יש מומנט r-י סופי, והסדרה הסדרה \ E(|X_n-X|^r) שואפת לאפס. (התכנסות בתוחלת הינה התכנסות במומנט הראשון). זוהי למעשה התכנסות במרחב הפונקציות Lp.

התכנסות במומנט ה-r-י חזקה יותר ככל ש-r גדול יותר (בתנאי ש- \ r\geq 1), ותמיד (לכל 0 < r) נובעת ממנה התכנסות בהסתברות (לפי אי-שוויון צ'ביצ'ב). מאידך, אם המשתנים \ X_n חסומים, אז התכנסות בהסתברות גוררת גם התכנסות במומנט ה-r-י לכל \ r \geq 1.

הגדרות פורמליות של טיפוסי ההתכנסות[עריכת קוד מקור | עריכה]

הסדרה \ X_1,\dots,X_n,\dots מתכנסת בהסתברות ל-\ X אם

  • \ \forall \epsilon > 0: \forall \delta > 0: \exists N\!: \forall n>N\!: P(|X_n-X|<\delta) > 1-\epsilon;

מתכנסת כמעט תמיד אם

  • \ \forall \epsilon > 0: \forall \delta > 0: \exists N\!: P(\forall n>N\!: |X_n-X|<\delta) > 1-\epsilon;

ומתכנסת כמעט בוודאות אם

  • \ P(\forall \delta > 0: \exists N\!: \forall n>N\!: |X_n-X|<\delta) = 1.

ראו גם[עריכת קוד מקור | עריכה]

לקריאה נוספת[עריכת קוד מקור | עריכה]