התכנסות (הסתברות)

בתורת ההסתברות יש כמה משמעויות שונות למושג ההתכנסות של סדרת משתנים מקריים, שכולן מכלילות את המושג המתמטי הפשוט יותר, גבול של סדרה. כמו בענפים אחרים באנליזה, ההתכנסות של סדרה לגבול היא רעיון מרכזי בתורת ההסתברות, ויש לו השלכות חשובות בסטטיסטיקה ובתהליכים סטוכסטיים.

לדוגמה, נניח ש-$\ X_n$ סדרה של משתנים מקריים בלתי תלויים בעלי תוחלת $\ \mu$ ושונות $\ \sigma^2$, ותהי $\ Y_n = \frac{X_1+\dots+X_n}{n}$ סדרת הממוצעים. לפי החוק החלש של המספרים הגדולים, הסדרה $\ Y_n$ מתכנסת בהסתברות אל התוחלת; לפי החוק החזק של המספרים הגדולים, אותה סדרה מתכנסת כמעט בוודאות; ואילו לפי משפט הגבול המרכזי, הסדרה המתוקננת $\ \frac{Y_n-\mu}{\sigma/\sqrt{n}}$ מתכנסת בהתפלגות אל ההתפלגות הנורמלית.

להלן, $\ X$ הוא משתנה מקרי ו-$\ X_1,X_2,\dots,X_n,\dots$ היא סדרה של משתנים מקריים, המוגדרים כולם על אותו מרחב הסתברות.

התכנסות בהתפלגות

נניח ש- $\ F_n$ הן פונקציות ההסתברות המצטברת של המשתנים המקריים $\ X_n$, וש- $\ F$ היא פונקציית ההסתברות המצטברת של $\ X$. הסדרה $\ X_n$ מתכנסת בהתפלגות ל- X, אם לכל x שבו F רציפה, $\ F_n(x) \rightarrow F(x)$, כלומר, סדרת הפונקציות $\ F_n$ מתכנסת נקודתית לפונקציה F לכל נקודת רציפות של F. מכיוון ש- $\ F(x) = P(X \leq x)$, משמעותה של התכנסות כזו היא שהסיכוי של $\ X_n$ ליפול בקטע מסוים, כאשר n גדול מספיק, קרוב לסיכוי של X ליפול באותו קטע. מקובל לסמן התכנסות בהתפלגות ב- $\ X_n \xrightarrow{\mathcal D} X$.

התכנסות בהתפלגות היא הצורה החלשה ביותר של התכנסות, והיא נקראת לפעמים התכנסות חלשה, בדומה להתכנסות חלשה של מידות. סוג זה של התכנסות נובע מכל אחד מן הסוגים האחרים שיוצגו להלן, ומכאן שהוא השכיח ביותר. אם המשתנה המקרי X הוא קבוע, אז התכנסות בהתפלגות שקולה להתכנסות בהסתברות, החזקה ממנה בדרך כלל.

התכנסות בהתפלגות נשמרת תחת פונקציות רציפות: אם $\ X_n \xrightarrow{\mathcal D} X$ אז $\ f(X_n) \xrightarrow{\mathcal D} f(X)$ לכל פונקציה רציפה $\ f: \mathbb{R} \rightarrow \mathbb{R}$.

התכנסות בהסתברות

הסדרה $\ X_1,\dots,X_n,\dots$ מתכנסת בהסתברות אל המשתנה המקרי X, אם לכל $\ 0 < \delta$, סדרת ההסתברויות $\ P(|X_n - X|<\delta)$ מתכנסת ל-1. במלים אחרות, הסיכוי לכך שאברי הסדרה יהיו רחוקים מ- X, שואף לאפס. מקובל לסמן התכנסות בהסתברות ב- $\ X_n \xrightarrow{P} X$. כל סדרה המתכנסת בהסתברות, מתכנסת גם בהתפלגות.

התכנסות כמעט בוודאות

הסדרה $\ X_1,\dots,X_n,\dots$ מתכנסת כמעט בוודאות אל המשתנה המקרי X, אם הסיכוי לכך ש- $\ \lim_{n\rightarrow \infty} X_n = X$ שווה ל-1. במקרה כזה מסמנים $\ X_n \xrightarrow{a.s.} X$. התכנסות כמעט בוודאות נקראת לפעמים התכנסות בהסתברות 1, התכנסות כמעט בכל מקום, או התכנסות במובן החזק.

כל סדרה המתכנסת כמעט בוודאות מתכנסת גם בהסתברות, ולכן גם בהתפלגות. מאידך, התכנסות כמעט בוודאות אינה שכיחה במיוחד. למשל, אם המשתנים $\ X_n$ בלתי תלויים, אז הסדרה אינה יכולה להתכנס כמעט בוודאות, אלא אם המשתנה X שאליו היא מתכנסת הוא קבוע. אם למשתנים תוחלת אפס והטור $\ \sum V(X_n)$ מתכנס, אז הסדרה מתכנסת לאפס כמעט בוודאות.

התכנסות כמעט תמיד

הסדרה $\ X_1,\dots,X_n,\dots$ מתכנסת כמעט תמיד אל X, אם לכל $\ \delta>0$, ההסתברויות $\ p_n = P(\forall k>n: |X_k - X| < \delta)$ שואפות ל- 1. תופעה זו שקולה להתכנסות כמעט בוודאות.

התכנסות בוודאות

אם הגבול $\ \lim_{n\rightarrow \infty} X_n$ קיים ושווה ל- X בוודאות (ולא רק בהסתברות 1), אז הסדרה מתכנסת בוודאות ל-X. זוהי התכנסות חזקה יותר מהתכנסות כמעט בוודאות, אך מבחינת תורת ההסתברות ההבדל בין השתיים זניח, ולכן ההתכנסות בוודאות אינה שימושית במיוחד.

התכנסות בתוחלת

הסדרה $\ X_1,\dots,X_n,\dots$ מתכנסת בתוחלת אל X, אם לכל המשתנים המקריים $\ |X_n|$יש תוחלת סופית, והסדרה $\ E(|X_n-X|)$ שואפת לאפס. באופן כללי יותר, הסדרה מתכנסת במומנט ה-r-י אם לכל המשתנים כנ"ל יש מומנט r-י סופי, והסדרה הסדרה $\ E(|X_n-X|^r)$ שואפת לאפס. (התכנסות בתוחלת הינה התכנסות במומנט הראשון). זוהי למעשה התכנסות במרחב הפונקציות Lp.

התכנסות במומנט ה-r-י חזקה יותר ככל ש-r גדול יותר (בתנאי ש- $\ r\geq 1$), ותמיד (לכל 0<r) נובעת ממנה התכנסות בהסתברות (לפי אי-שוויון צ'ביצ'ב). מאידך, אם המשתנים $\ X_n$ חסומים, אז התכנסות בהסתברות גוררת גם התכנסות במומנט ה-r-י לכל $\ r \geq 1$.

הגדרות פורמליות של טיפוסי ההתכנסות

הסדרה $\ X_1,\dots,X_n,\dots$ מתכנסת בהתפלגות ל-$\ X$ אם

• $\ \forall x\in \mathbb{R}: \forall \epsilon > 0: \exists N\!: \forall n>N\!: |P(X_n\leq x)-P(X\leq x)|<\epsilon$;

מתכנסת בהסתברות אם

• $\ \forall \epsilon > 0: \forall \delta > 0: \exists N\!: \forall n>N\!: P(|X_n-X|<\delta) > 1-\epsilon$;

מתכנסת כמעט תמיד אם

• $\ \forall \epsilon > 0: \forall \delta > 0: \exists N\!: P(\forall n>N\!: |X_n-X|<\delta) > 1-\epsilon$;

ומתכנסת כמעט בוודאות אם

• $\ P(\forall \delta > 0: \exists N\!: \forall n>N\!: |X_n-X|<\delta) = 1$.

ראו גם

• התכנסות של סדרת פונקציות

לקריאה נוספת

• תורת ההסתברות, עלי מרצבך ואברהם שמרון, הוצאת אקדמון, 1994.