משפט התוחלת השלמה

משפט התוחלת השלמה או משפט ההחלקה הוא משפט בתורת ההסתברות, לפיו התוחלת של התוחלת המותנית של משתנה מקרי כלשהו שווה לתוחלת של אותו משתנה מקרי.

בלשון מתמטית, אם $X$ הוא משתנה מקרי אינטגרבילי (כלומר $\operatorname {E} (|X|)<\infty$), ואם $Y$ הוא משתנה אקראי אחר (לאו דווקא אינטגרבילי), אזי מתקיים $\operatorname {E} [X]=\operatorname {E} [\operatorname {E} [X\mid Y]]$.

בהגדרה המודרנית של התוחלת המותנית, משפט ההחלקה הוא התכונה העיקרית המגדירה את התוחלת המותנית, וככזה הוא נובע ישירות מבניית התוחלת המותנית, למשל על ידי משפט רדון־ניקודים.

שימושים

משפט ההחלקה שימושי כאשר נדרשים לטפל בתוחלת או בפונקציה הסתברותית אחרת של משתנה מקרי המוגדר בתורו על ידי מספר משתנים מקריים. חישוב התוחלת במקרה זה עשוי לדרוש חישוב של פונקציית צפיפות או הסתברות הכוללת מספר משתנים מקריים. השימוש בהתניה מפרק את חישוב התוחלת לשני חישובים המתבצעים באופן סדרתי: בחישוב התוחלת המותנית (הפנימית) אנו נדרשים לחשב תוחלת לפי הסתברות מותנית חד-ממדית, ולאחר מכן, התוחלת החיצונית מתבצעת על פונקציה של המשתנה $Y$ בלבד, גם היא לפי פונקציית הסתברות חד-ממדית.

דוגמה

יהי $X$ משתנה מקרי המקבל את הערכים $\pm 1$ בהסתברות שווה, ויהי $Y$ משתנה מקרי המקבל את הערכים $0,1$ בהסתברות שווה ובלתי תלוי ב-$X$. נרצה לחשב את התוחלת של המשתנה $Z=X^{Y}$, וחישוב ישיר יצריך מציאת פונקציית ההסתברות $\mathbb {P} \{Z=z\}=\mathbb {P} \{X^{Y}=z\}$. בשימוש במשפט ההחלקה נקבל: ${\mbox{E}}(Z)={\mbox{E}}({\mbox{E}}(X^{Y}|Y))$. נחשב תחילה את התוחלת הפנימית: ${\mbox{E}}(X^{Y}|Y)={\frac {1}{2}}(1+(-1)^{Y})$, מכיוון שכאשר ערכו של $Y$ ידוע (מותנה), ישנם שני ערכים המתקבלים בהסתברות שווה. כעת נחשב את התוחלת החיצונית:

	${\mbox{E}}(Z)={\mbox{E}}\left({\frac {1}{2}}(1+(-1)^{Y})\right)$
	$={\frac {1}{2}}+{\frac {1}{2}}{\mbox{E}}\left((-1)^{Y}\right)$
	$={\frac {1}{2}}+{\frac {1}{2}}\left({\frac {1}{2}}\cdot (1+(-1))\right)$
	$={\frac {1}{2}}$

ללא צורך לחשב את ההתפלגות של המשתנה המקרי $Z$.

הרחבות

בהנדסה, מושג ההחלקה מתייחס להוספת התניה במשתנה העזר וביצוע התוחלת לסילוק המשתנה לאחר החישוב (כלומר: "החלקתו"). אי לכך, ניתן להשתמש בעקרון ההחלקה גם לחישוב של פונקציות הסתברותיות שונות, לדוגמה: אם נניח כי קיימות פונקציות הצפיפות $f_{X}(x),f_{X,Y}(x,y)$, אזי לפי נוסחת ההסתברות השלמה נקבל כי: $f_{X}(x)=\int _{\Omega }f_{X,Y}(x,y)dy=\int _{\Omega }f_{X|Y}(x,y)f_{Y}(y)dy={\mbox{E}}(f_{X|Y}(x,Y))$, כאשר התוחלת האחרונה היא לפי כלל ההסתברות של $Y$.

ניתן לנסח גרסה מוכללת עבור משפט ההחלקה למשתנים מקריים מותנים: יהיו $X,Y,Z$ שלושה משתנים מקריים, אזי התוחלת המותנית של $X$ בהינתן $Z$ ניתנת לביטוי על ידי התניה נוספת במשתנה $Y$, כלומר: ${\mbox{E}}(X|Z)={\mbox{E}}({\mbox{E}}(X|Y,Z)|Z)$. במקרה זה, התוחלת המותנית היא פונקציה של המשתנה המקרי $Z$. גרסה מוכללת זו שימושית במיוחד באמידת פרמטרים באופן אופטימלי (במובן של מזעור הטעות הריבועית הממוצעת, שכן אומד למשתנה מקרי $X$ על-סמך משתנה אחר, $Y$, נתון במקרה זה על ידי התוחלת המותנית, ${\mbox{E}}(X|Y)$. במקרה זה, התניות נוספות לצורך חישוב האומד ידרשו שימוש במשפט ההחלקה המוכלל.

הוכחה

מובאת כאן ההוכחה עבור משתנים מקריים בדידים:

			$=\sum _{y}\operatorname {E} (X|Y=y)\cdot \operatorname {P} (Y=y)\,$	$\operatorname {E} \left(\operatorname {E} (X|Y)\right)$
			$=\sum _{y}\left(\sum _{x}x\cdot \operatorname {P} (X=x|Y=y)\right)\cdot \operatorname {P} (Y=y)\,$
			$=\sum _{y}\sum _{x}x\cdot \operatorname {P} (X=x|Y=y)\cdot \operatorname {P} (Y=y)\,$
	(לפי חוק בייס)		$=\sum _{y}\sum _{x}x\cdot \operatorname {P} (Y=y|X=x)\cdot \operatorname {P} (X=x)\,$
			$=\sum _{x}x\cdot \operatorname {P} (X=x)\cdot \left(\sum _{y}\operatorname {P} (Y=y|X=x)\right).$

סכום ההסתברויות של המשתנה המקרי המותנה, $Y|X=x$ שווה לפי הגדרה ל-1, כלומר, $\sum _{y}\operatorname {P} (Y=y|X=x)=1$, ולכן,

	$=\sum _{x}x\cdot \operatorname {P} (X=x)\,$	$\sum _{x}x\cdot \operatorname {P} (X=x)\cdot \left(\sum _{y}\operatorname {P} (Y=y|X=x)\right)\,$
	$=\operatorname {E} (X)\,$

ההוכחה דומה עבור משתנים רציפים, אם מחליפים את ההסתברויות בצפיפויות, ואת הסכומים באינטגרלים.

ראו גם

• משפט השונות השלמה
• משפט ההסתברות השלמה

לקריאה נוספת

• Papoulis, A., & Pillai, S. U. (2002). Probability, random variables, and stochastic processes. Tata McGraw-Hill Education.