נראות מקסימלית

מתוך ויקיפדיה, האנציקלופדיה החופשית
קפיצה אל: ניווט, חיפוש

שיטת הנראות המקסימלית (או הנראות המרבית) היא שיטה נפוצה בסטטיסטיקה להתאמת מודל סטטיסטי לנתונים, כלומר היא משמשת במסגרת אמידה פרמטרית למציאת אומד לפרמטר המאפיין את המודל. למשל, במקרה שבו נתון שמשתנה מקרי הוא בעל התפלגות נורמלית אלא שהתוחלת שלו אינה ידועה, גישה זו מספקת דרך למציאת אומדן לתוחלת.

באופן אינטואיטיבי הגישה אומרת שכדי לנבא היטב את הפרמטר האמיתי על-סמך מדגם מקרי מסוים, יש לבדוק איזה פרמטר מתוך כל האפשרויות הוא זה ש"יסביר" בצורה הטובה ביותר את המדגם. כלומר אומד הנראות המרבית הוא הפרמטר שאילו היינו מציבים בפונקציית ההתפלגות מראש, הוא היה נותן את ההסתברות הגבוהה ביותר לקבל את המדגם שאכן התקבל, ובכך ממקסם את פונקציית הנראות.

בשפה המתמטית מקובל לסמן את הנראות המקסימלית באותיות MLE, ראשי תיבות של Maximum Likelihood Estimation.

פונקציית הנראות[עריכת קוד מקור | עריכה]

Postscript-viewer-shaded.png ערך מורחב – פונקציית נראות

נניח כי מדגם המפולג עם פונקציית הצפיפות (כל הדוגמאות שוות התפלגות), ונניח שהדוגמאות בלתי תלויות. פונקציית הנראות (likelihood; מסומנת לעיתים כ-) של המדגם היא הצפיפות המשותפת:

הוא פרמטר (או פרמטרים) של המודל או של פונקציית הצפיפות.

לעיתים נעשה שימוש בנראות הממוצעת המציינת את תוחלת הנראות לדוגמה יחידה.

אומד הנראות המרבית[עריכת קוד מקור | עריכה]

נרצה למצוא את הערך שממקסם את פונקציית הנראות (), הנקרא אומד הנראות המרבית. נהוג להשתמש בלוגריתם שאיתו בדרך כלל נוח יותר לעבוד (הודות לגזירה פשוטה יותר וליציבות נומרית), ומאחר שהלוגריתם הוא פונקציה מונוטונית עולה, הערך שימקסם את לוג הנראות (log-likelihood) ימקסם גם את הנראות. למציאת הערך המרבי נשתמש ב-, נגזור ונשווה לאפס:

מתוך המשוואה המתקבלת מחלצים את ערך הנעלם , והוא זה שממקסם את פונקציית הנראות. ערך זה הוא אומד הנראות המרבית לפרמטר הנאמד .

דוגמאות[עריכת קוד מקור | עריכה]

התפלגות נורמלית[עריכת קוד מקור | עריכה]

בהנחה שגובהן של ג'ירפות מתפלג נורמלית, ניתן לאמוד את ערך התוחלת והשונות באמצעות נראות מקסימלית על מדגם הג'ירפות שבגן החיות, שכן אין באפשרותנו למדוד את גובהן של כל הג'ירפות בעולם. אם נניח כי הג'ירפות בגן החיות מהוות מדגם מקרי של n ג'ירפות מאוכלוסיית הג'ירפות בעולם, , נוכל לאמוד את הפרמטרים ו- (התוחלת והשונות) של ההתפלגות באמצעות אומדי נראות מקסימליים כלהלן.

עבור התוחלת:

ועבור השונות:

כאשר הוא ממוצע המדגם.

התפלגות אחידה[עריכת קוד מקור | עריכה]

Postscript-viewer-shaded.png ערך מורחב – בעיית הטנק הגרמני

במקרה שבו קלפים ממוספרים 1 עד n מוכנסים לתיבה ואחד נבחר בהתפלגות אחידה; ובהתאם גודל הדגימה הוא 1. אם n אינו ידוע, אומד הנראות המקסימלית שלו הוא המספר m הכתוב על הקלף שנבחר (ההסתברות ש-n הוא קטן מ־m היא אפס, עבור ההסתברות היא , והיא הגבוהה ביותר כאשר ). התוחלת של הוצאת הקלף m, ובהתאם התוחלת של היא . מסיבה זו עבור דגימה בגודל 1, אומד הנראות המרבית ל-n יעריך (בתוחלת) את n פחות ממה שהוא ב.

תכונות אומד נראות מקסימלית[עריכת קוד מקור | עריכה]

  • עקיבות: תחת תנאי רגולריות מסוימים, כאשר גודל המדגם שואף לאינסוף, האומד מתכנס בהסתברות לערכו האמיתי של הפרמטר. זוהי תכונה חשובה שמאפשרת לנו למעשה לאמוד את הפרמטר בכל רמת דיוק שנרצה.
  • אינווריאנטיות פונקציונאלית: אם הוא אומד נראות מקסימלית של פרמטר , ו- היא פונקציה חד-חד-ערכית, אז הוא אומד נראות מקסימלית לפרמטר .

יישומים[עריכת קוד מקור | עריכה]

אומד נראות מקסימלית משמש למגוון רחב של מודלים סטטיסטיים, כולל:

שימושים אלה עולים במגוון רחב של תחומים, כגון:

ראו גם[עריכת קוד מקור | עריכה]

קישורים חיצוניים[עריכת קוד מקור | עריכה]

ויקישיתוף מדיה וקבצים בנושא נראות מקסימלית בוויקישיתוף