חסם צ'פמן-רובינס

בתורת האמידה ובסטטיסטיקה, חסם צ'פמן-רובינס (Chapman-Robbins Bound; לעתים חסם המרסלי-צ'פמן-רובינס) הוא חסם תחתון על השונות של אומדים של פרמטרים דטרמיניסטיים. חסם זה הינו הכללה של חסם קרמר-ראו, ובהשוואה אליו - הוא הדוק יותר ומתאים למגוון רחב יותר של בעיות. עם זאת, חישובו לרוב מסובך יותר.

החסם נגזר לראשונה ובאופן בלתי-תלוי על ידי ג'ון המרסלי ב-1950 ועל ידי דאגלס צ'פמן והרברט רובינס ב-1951. זהו מקרה פרטי של חסם ברנקין (Barankin) המורכב יותר.

החסם

יהי $\ \theta$ פרמטר דטרמיניסטי לא-ידוע, ויהיה $\ T(X)$ אומד של פונקציה כלשהי של הפרמטר, $\ \psi(\theta)$. יהי $\ p(x;\theta)$. הפילוג של $\ X$ (שתלוי ב-$\ \theta$), ונניח כי הוא מוגדר היטב וחיובי לכל $\ x$ ולכל $\ \theta$.

אם $\ T(X)$ הוא אומד חסר-הטיה של $\ \psi(\theta)$, כלומר:

$\ \mathrm{E}\left[T(X)\right]=\psi(\theta) \, \, \forall \theta$

אז לפי חסם צ'פמן-רובינס:

$\ Var(T(X)) \ge \sup_h \frac{\left[ \psi(\theta+h) - \psi(\theta) \right]^2}{E \left[ \tfrac{p(x;\theta+h)}{p(x;\theta)} - 1 \right]^2}$.

למעשה, אי השוויון (ללא הוצאת הסופרמום) מתקיים לכל $\ h$, ולכן החסם ההדוק ביותר הוא כאשר הביטוי מקבל את הסופרמום שלו לפי $\ h$. התנאי לקיומו של החסם הוא שהתומך של $\ p(x;\theta+h)$ יהיה מוכל בתומך של $\ p(x;\theta)$.

הקשר לחסם קרמר-ראו

חסם צ'פמן-רובינס (הביטוי ללא הסופרמום) מתכנס לחסם קרמר-ראו כאשר $\ h \to 0$, בהנחה שהתנאים הרגולריים הדרושים מתקיימים (ראו בערך). מתוך כך, חסם צ'פמן-רובינס הוא תמיד הדוק לכל הפחות כמו קרמר-ראו. יתר על-כן, חסם צ'פמן-רובינס קיים תחת תנאים רגולריים חלשים משמעותית מאלו של חסם קרמר-ראו. כך למשל, להוכחת החסם לא נדרש כי הפילוג $\ p(x;\theta)$ יהיה גזיר. במקרים כאלו, האינפורמציה של פישר לא מוגדרת, ולכן חסם קרמר-ראו לא קיים.

הוכחת החסם

$\ T(X)$ הוא משערך חסר-הטיה, ולכן מתקיים:

$\ \int T(x)\cdot p(x;\theta) \, dx = \psi(\theta)$

$\ \int T(x)\cdot p(x;\theta+h) \, dx = \psi(\theta+h)$

חיסור המשוואות:

$\ \int T(x) \cdot (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta+h)-\psi(\theta)$

בנוסף מתקיים:

$\ \int \psi(\theta) \cdot (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta) \cdot \int (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta) \cdot (1-1)=0$

נחסיר בין שתי המשוואות האחרונות, לקבלת:

$\ \int (T(x)-\psi(\theta)) \cdot \frac{p(x;\theta+h)-p(x;\theta)}{p(x;\theta)} \cdot p(x;\theta) \, dx=\psi(\theta+h)-\psi(\theta)$

כלומר:

$\ \mathrm{E} \left[(T(X)-\psi(\theta)) \cdot (\frac{p(x;\theta+h)}{p(x;\theta)}-1) \right]=\psi(\theta+h)-\psi(\theta)$

העלאת המשוואה בריבוע ואי-שוויון קושי-שוורץ יניבו:

$\ (\psi(\theta+h)-\psi(\theta))^2 = \mathrm{E} \left[(T(X)-\psi(\theta)) \cdot (\frac{p(x;\theta+h)}{p(x;\theta)}-1) \right] ^2 \le \mathrm{E} \left[(T(X)-\psi(\theta))^2 \right] \cdot \mathrm{E} \left[(\frac{p(x;\theta+h)}{p(x;\theta)}-1)^2\right]$

ומכאן:

$\ Var(T(X)) \ge \frac{\left[\psi(\theta+h)-\psi(\theta)\right]^2}{(\tfrac{p(x;\theta+h)}{p(x;\theta)} - 1)^2}$

שזהו החסם המבוקש.

ראו גם

• חסם קרמר-ראו
• תורת האמידה

לקריאה נוספת

• Hammersley, J. M. (1950), "On estimating restricted parameters", Journal of the Royal Statistical Society, Series B 12 (2): 192–240.
• Chapman, D. G.; Robbins, H. (1951), "Minimum variance estimation without regularity assumptions", Annals of Mathematical Statistics 22 (4): 581–586.
• Lehmann, E. L.; Casella, G. (1998), Theory of Point Estimation (2nd ed.), Springer.