GPT-4
| מפתח |
OpenAI  |
|---|---|
| מחזור חיים | 14 במרץ 2023 – הווה (12 ימים) |
| סוג רישיון | רישיון תוכנה לא חופשי |
| קטגוריה | מודל שפה |
|
openai | |
  | |
GPT-4 (ראשי תיבות: Generative Pre-trained Transformer 4, בתרגום חופשי: "טרנספורמר מאומן-מראש בעל יכולת ייצור") הוא מודל שפה רב-מודאלי, כלומר מודל החוזה באמצעות שילוב סוגים שונים של נתונים, למשל טקסט ותמונה יחד. כך, המודל מסוגל לקבל כקלט טקסט ותמונה, ולהגיב לכך באמצעות פלט של טקסט. תכונה זו היא בעיקרה המייחדת את המודל מקודמיו.[1] המודל הוא הרביעי מסדרת GPT, המיוצרת על ידי חברת OpenAI. המודל שוחרר ב-14 במרץ 2023, וצפוי להיות זמין דרך API של חברת OpenAI, ובנוסף למשתמשי ChatGPT Plus (גרסה משופרת של ChatGPT בתשלום). חברת מיקרוסופט, אשר מעט קודם לשחרור המודל הודיעה על שילוב מודל GPT במנוע החיפוש שלה בינג, אישרה כי למעשה השימוש היה ב-GPT-4 לפני שחרורו הרשמי של המודל.[2] המודל הוא מסוג טרנספורמר (המעבד יחידות טקסט שלמות בו זמנית) וככזה הוא אומן ליצור טקסט באמצעות הן נתונים ציבוריים והן נתונים שסופקו לו ברישיון מטעם צדדים שלישיים, ולאחר מכן, מאמנים אנושיים ביצעו למודל "כוונון" סופי בשיטת למידת החיזוק (מתן פידבק אנושי על תוצאות חיזוי המודל).
אימון ויכולות[עריכת קוד מקור | עריכה]
במסגרת הכרזתה של OpenAI על שחרור המודל, כתבה החברה כי המודל "אמין ויצירתי יותר מקודמו, GPT-3, ומסוגל להתמודד עם הוראות ניואנסיות בצורה טובה יותר."[3] המודל מסוגל לקרוא, לנתח וליצור טקסט באורך של עד 25,000 מילים, והדבר מהווה שיפור משמעותי ביחס לקודמיו. עוד ציינה החברה כי המודל נבנה כחלק ממאמצי החברה להרחיב את תחום הלמידה העמוקה (שיטת למידת מכונה שבבסיסה שימוש במספר שכבות).[4]
כקודמיו, וכנובע משמו, המודל הוא טרנספורמר, כלומר מודל העובד בשיטת "קשב עצמי" ומעבד יחידות טקסט שלמות בו זמנית. יש לציין כי המפרט הטכני של GPT-4 נמנע במפורש מלציין את גודל המודל, תוך ציון המשמעות התחרותית וההשלכות הבטיחותיות הקשורות במודלים בקנה-מידה גדול. חברי הקונגרס של ארצות הברית, דון בייר וטד ליאו אישרו לניו יורק טיימס כי סם אלטמן, מנכ"ל חברת OpenAI ביקר בקונגרס בינואר 2023 על מנת להדגים את יכולותיו של GPT-4 ואת "בקרות האבטחה" המשופרות שלו בהשוואה לדגמי אינטליגנציה מלאכותית אחרים.
החלטת OpenAI שלא לחשוף פרטים טכניים אודות המודל ספגה ביקורת מצד חוקרי AI שונים, בהם בכירים בחברת HuggingFace, שטענו כי הסתרה זו פוגעת באופי הפתוח של קהילת הבינה המלאכותית בכך שמונעת פיתוחים המשפרים את ביצועי GPT-4.[5]
לפי הניו יורק טיימס, GPT-4 הראה שיפורים מרשימים ברמת הדיוק בהשוואה ל-GPT-3.5, בהן בולטת היכולת לסכם ולהגיב על תמונות. כמו כן, על פי המגזין, המודל הצליח לסכם טקסטים מורכבים, ואף עבר מבחן לשכת עורכי דין של מספר מדינות בארצות הברית, ומבחנים סטנדרטיים נוספים בתחומים אחרים כמו אומנות, ביולוגיה, סטטיסטיקה ועוד. עם זאת, המגזין צוין בנוסף כי המודל עודנו לוקה בבעיית ה-"הזיות" (hallucination), מונח מתחום למידת המכונה המתאר תגובות שנדמות למודל כסבירות, על אף שהן שגויות עובדתית, מבלי שהמודל מבין זאת. הדבר נחשב לתכונה שלילית בולטת אף אצל המודלים שקדמו לו.[6]
שימושים[עריכת קוד מקור | עריכה]
כאמור, המודל משמש את גרסת ה-Plus של ChatGPT. מעבר לכך, מיקרוסופט הודיעה ב-17 במרץ 2023 כי תשלב את המודל במוצרי מיקרוסופט אופיס, בהם Word, Excel, PowerPoint, Outlook, Teams ועוד.[7] כמו כן הודיעה גיטהאב, אשר בבעלות מיקרוסופט, כי היא מתכננת להשתמש במודל כחלק ממוצר הבינה המלאכותית שלה, Copilot (שיכולתו המרכזית היא להשלים קוד של מתכנתים ולהקל על עבודתם).[8]
כמו כן, חברות נוספות על כוונתן לשלב את GPT-4 במוצריהן, בהן אקדמיית קהאן, המספקת שיעורים מוקלטים לציבור הרחב ללא כוונת רווח.[9]
הערות שוליים[עריכת קוד מקור | עריכה]
- ^ Kyle Wiggers, OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art, TechCrunch, 2023-03-14 (בAmerican English)
- ^ Lardinois, Frederic (14 במרץ 2023). "Microsoft's new Bing was using GPT-4 all along". TechCrunch. ארכיון מ-15 במרץ 2023. נבדק ב-14 במרץ 2023.
{{cite web}}: (עזרה) - ^ Wiggers, Kyle (14 במרץ 2023). "OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art". TechCrunch. נבדק ב-15 במרץ 2023.
{{cite web}}: (עזרה) - ^ GPT-4, openai.com (בAmerican English)
- ^ Sanderson, Katharine (2023-03-16). "GPT-4 is here: what scientists think". Nature (באנגלית). doi:10.1038/d41586-023-00816-5. ארכיון מ-2023-03-18. נבדק ב-2023-03-18.
- ^ Metz, Cade; Collins, Keith (14 במרץ 2023). "10 Ways GPT-4 Is Impressive but Still Flawed". The New York Times (באנגלית אמריקאית). אורכב מ-המקור ב-14 במרץ 2023. נבדק ב-14 במרץ 2023.
{{cite news}}: (עזרה) - ^ Warren, Tom (16 במרץ 2023). "Microsoft announces Copilot: the AI-powered future of Office documents". The Verge. ארכיון מ-17 במרץ 2023. נבדק ב-17 במרץ 2023.
{{cite web}}: (עזרה) - ^ Warren, Tom (22 במרץ 2023). "GitHub Copilot gets a new ChatGPT-like assistant to help developers write and fix code". The Verge. נבדק ב-23 במרץ 2023.
{{cite web}}: (עזרה) - ^ Fensterwald, John (20 במרץ 2023). "AI in school: Virtually chatting with George Washington and your personal GPT-4 tutor". EdSource (באנגלית). ארכיון מ-2023-03-21. נבדק ב-2023-03-20.
{{cite web}}: (עזרה)