משפט הקטגוריה של בייר

משפט הקטגוריה של בייר (Baire) הוא משפט שימושי מאוד באנליזה פונקציונלית ובטופולוגיה קבוצתית. בעזרת המשפט אפשר להוכיח את קיומן של נקודות מסוימות במרחב מטרי שלם. נקודות אלו יכולות להיות למשל פונקציות בעלות תכונות מיוחדות.

ניסוח המשפט

יהי $\ X$ מרחב מטרי שלם,או מרחב האוסדורף קומפקטי מקומית. אזי הפנים של כל קבוצה מקטגוריה ראשונה ב-$\ X$ הוא ריק.

כאשר קבוצה מקטגוריה ראשונה היא קבוצה הניתנת להצגה כאיחוד בן מנייה של קבוצות דלילות. קבוצה דלילה היא קבוצה שהפנים של הסגור שלה הוא ריק.

באופן כללי, איחוד אינסופי של קבוצות דלילות לאו דווקא דליל ואף להפך. כך לדוגמה, המספרים הרציונליים ניתנים להצגה כאיחוד בן מנייה של יחידונים וכל אחד מהם בנפרד הוא קבוצה דלילה. לפי משפט בייר, הפנים של הרציונליים, שהם קבוצה מהקטגוריה הראשונה, הוא ריק, עובדה שקל לוודא באופן ישיר. אך קבוצת הרציונליים אינה דלילה, אלא דווקא צפופה בישר הממשי, ולכן הפנים של הסגור שלה אינו ריק - הוא כל הישר.

הוכחת המשפט

נניח ש-$\ X$ מרחב מטרי שלם ו-$\ A_{n}$ קבוצות דלילות, בלי הגבלת הכלליות אפשר להניח שהן סגורות (אחרת ניתן להסתכל על הסגור). כדי להראות ש $A=\bigcup A_{n}$ עם פנים ריק, מספיק להראות שלכל קבוצה פתוחה $U\subseteq X$ קיימת נקודה שאינה ב-$\ A$, כלומר $U\cap A^{c}\neq \emptyset$.

נסתכל על קבוצה פתוחה $\ U$ כלשהי. נסמן $K_{n}=\bigcup _{i=1}^{n}A_{i}$. נבנה סדרה של $\ x_{i}\in X$ ו-$\ r_{i}>0$ המקיימים:

1. $\ {\overline {B(x_{i},r_{i})}}\subseteq U\cap K_{i}^{c}$
2. ${\overline {B(x_{i},r_{i})}}\subseteq {\overline {B(x_{i-1},r_{i-1})}}$
3. $\ 2r_{i}<r_{i-1}$

מהתנאי השני, מקבלים סדרת כדורים סגורים, כאשר כל כדור מכיל את כל הכדורים אחריו בסדרה. התנאי הראשון ידאג לכך שהחיתוך של כל הכדורים יהיה זר ל A. התנאי השלישי יגרום לכך שהקוטר של הכדורים ישאף לאפס, ואז יהיה ניתן להפעיל את משפט החיתוך של קנטור, כדי להראות שהחיתוך לא ריק - פה משתמשים בעובדה שהמרחב שלם.

נראה באינדוקציה כיצד בונים את הסדרה:

מאחר ש-$\ A_{1}$ דלילה אז קיימת נקודה $x_{1}\in U\cap A_{1}^{c}$. הקבוצה $U\cap A_{1}^{c}$ היא פתוחה לכן קיים $\ r_{1}>0$ כך ש-$B(x_{1},2r_{1})\subseteq U\cap A_{1}^{c}$. עתה מקבלים כי $\ {\overline {B(x_{1},r_{1})}}\subseteq U\cap A_{1}^{c}$.

נניח שמצאנו את $\ n$ הנקודות הראשונות בסדרה.

הקבוצה $\ B(x_{n},r_{n})$ היא קבוצה פתוחה ולכן, משום ש-$\ A_{n+1}$ סגורה ודלילה, קיימים $\ x_{n+1}\in X$ ו-$\ r_{n+1}>0$ כך ש

$B(x_{n+1},2r_{n+1})\subseteq \left(B(x_{n},r_{n})\cap A_{n+1}^{c}\right)\subseteq U\cap K_{n+1}^{c}$

ולכן גם ${\overline {B(x_{n+1},r_{n+1})}}\subseteq {\overline {B(x_{n},r_{n})}}$.

בלי הגבלת הכלליות אפשר להניח כי $\ r_{1}<{\frac {1}{2}}$ ואז מבניית הסדרות מקבלים ש $\ r_{n}<2^{-n}$.

הסדרה $\ (x_{1},x_{2},x_{3},\dots )$ היא סדרת קושי וזאת מאחר שאם $\ n>m$ אז $x_{n},x_{m}\in B(x_{m},r_{m})$ ומכאן מקבלים ש-$\ \|x_{n}-x_{m}\|<2r_{m}<2\cdot 2^{-m}$. המרחב $\ X$ הוא שלם ולכן הסדרה מתכנסת לגבול $\ x$.

לכל $\ n$, זנב הסדרה החל מהאיבר ה-$\ n$-י מוכל ב-${\overline {B(x_{n},r_{n})}}$ שזו קבוצה סגורה ולכן $\ x\in {\overline {B(x_{n},r_{n})}}\subseteq U\cap K_{n}^{c}$ לכל $\ n$, ולכן

$x\in \bigcap _{n}{\overline {B(x_{n},r_{n})}}\subseteq U\cap \left(\bigcap _{n}K_{n}^{c}\right)=U\cap \left(\bigcup _{n}K_{n}\right)^{c}=U\cap A^{c}$

קיבלנו ש-$\ U\cap A^{c}\neq \emptyset$ לכל קבוצה פתוחה $\ U$, ולכן $\ A$ היא בעלת פנים ריק.

מסקנות מן המשפט

מן המשפט נובעות מסקנות רבות. לדוגמה:

• במרחב הפונקציות הרציפות עם מטריקת המקסימום, אוסף הפונקציות הגזירות בנקודה אחת לפחות הוא קבוצה מקטגוריה ראשונה. מכאן, כמעט כל הפונקציות הרציפות אינן גזירות אפילו בנקודה אחת. יש לשים לב שהמשפט אינו קונסטרוקטיבי, דהיינו, הוא אינו מראה כיצד בונים פונקציה כזו. דוגמה ראשונה לפונקציה רציפה שאינה גזירה באף נקודה ניתנה על ידי ויירשטראס בשנת 1872.
• עקרון החסימות במידה שווה.
• קבוצת הנקודות הרציונליות על הישר הממשי אינה קבוצת $\ G_{\delta }$ (קבוצה הניתנת להצגה כחיתוך בן מנייה של קבוצות פתוחות).
• אין פונציה שרציפה בכל נקודה רציונלית ואינה רציפה באף נקודה אי-רציונליות (פונקציית רימן מקיימת את המקרה ההפוך).
• סדרת פונקציות רציפות שמתכנסת נקודתית מתכנסת לפונקציה רציפה כמעט בכל מקום (אינה רציפה בקבוצה מקטגוריה ראשונה).