Mistral AI
 | |
 | |
| נתונים כלליים | |
|---|---|
| מוטו |
Frontier AI. For all of us.  |
| על שם |
מיסטרל, בינה מלאכותית |
| מייסדים | ארתור מנש |
| תקופת הפעילות |
28 באפריל 2023 – הווה (3 שנים וחודשיים) |
| מדינה |
צרפת |
| מיקום המטה |
פריז |
| מוצרים עיקריים |
|
| מנכ"ל |
ארתור מנש |
| עובדים |
350 (נכון ל־אוקטובר 2025) |
|
mistral | |
  | |
Mistral AI היא חברה צרפתית המוכרת ומפתחת מוצרי בינה מלאכותית. היא נוסדה באפריל 2023 על ידי עובדים של מטא ו־DeepMind.[1] החברה גייסה 385 מיליון אירו באוקטובר 2023[2] ובדצמבר 2023 היא הוערכה ביותר משני מיליארד דולר.[3][4][5]
מוצרי החברה כוללים מודלי שפה גדולים בקוד פתוח.[6][7]
החל ממרץ 2024, שני דגמים של מודלי החברה פורסמו וזמינים.[8] שלושה דגמים נוספים, Small, Medium ו־Larg, זמינים באמצעות API בלבד.[9][10]
היסטוריה
[עריכת קוד מקור | עריכה]Mistral AI נוסדה באפריל 2023 על ידי ארתור מנש, גיום למפל וטימוטה לקרואה. לפני שהקים את Mistral AI, ארתור מנש עבד ב־DeepMind, מעבדת הבינה המלאכותית של גוגל, בעוד גיום למפל וטימוטה לקרואה עבדו במטא.[11]
ביוני 2023, חברת ההזנק גייסה כספים לראשונה בסך 105 מיליון אירו. בין המשקיעים נמנים הקרן האמריקאית Lightspeed Venture Partners, אריק שמידט, חאבייר ניאל ו־JCDecaux. הפייננשל טיימס העריכו את שווי החברה ב־240 מיליון אירו.
ב־27 בספטמבר 2023, הפכה החברה את מודל עיבוד השפה שלה "Mistral 7B" לזמין תחת רישיון Apache 2.0 החינמי. במודל זה 7 מיליארד פרמטרים, והוא קטן משמעותית בהשוואה למתחרים.
ב־10 בדצמבר 2023, הודיעה Mistral AI כי גייסה עוד 385 מיליון אירו כחלק מהגיוס השני שלה. סבב מימון זה כלל בעיקר את הקרן הקליפורנית Andreessen Horowitz, BNP פריבה וחברת סיילספורס.[12]
ב־11 בדצמבר 2023, החברה פרסמה את דגם "Mixtral 8x7B" עם 46.7 מיליארד פרמטרים. הדגם שולט ב־5 שפות (צרפתית, ספרדית, איטלקית, אנגלית וגרמנית) וגובר בכמעט כל פרמטר, על פי מבחני המפתחים שלו, על דגם "LLaMa 2 70B" מבית מטא. גרסה שהוכשרה לעקוב אחר ההוראות מוצעת גם כן והיא נקראת "Mixtral 8x7B Instruct".[13]
ב־26 בפברואר 2024, מיקרוסופט הודיעה על שותפות חדשה עם החברה להרחבת נוכחותה בתעשיית הבינה המלאכותית המתפתחת במהירות. על פי ההסכם, דגמי השפה העשירים של מיסטרל יהיו זמינים בענן Microsoft Azure, בעוד שעוזר השיחה הרב לשוני "Le Chat" יושק בסגנון ChatGPT.[14]
מודלים
[עריכת קוד מקור | עריכה]מודלי "משקל פתוח"
[עריכת קוד מקור | עריכה]מיסטרל 7B
[עריכת קוד מקור | עריכה]Mistral 7B הוא מודל שפה עם 7.3 מיליארד פרמטרים המשתמש בארכיטקטורת הטרנספורמר. הוא שוחרר רשמית ב־27 בספטמבר 2023, באמצעות קישור לביטורנט,[15] וב־Huging Face.[16] הדגם שוחרר תחת רישיון Apache 2.0. פוסט הבלוג של השחרור טען שהדגם מתעלה על LLaMA 2 13B בכל המדדים שנבדקו, ושהוא שווה ערך ל־LAMA 34B במדדים רבים שנבדקו.[17]
Mistral 7B משתמש בארכיטקטורה הדומה ל־LLaMA, אך עם כמה שינויים במנגנון הקשב. במיוחד הוא משתמש בתשומת לב מקובצת (GQA) המיועדת להסקה מהירה יותר ובתשומת לב של חלון הזזה (SWA) שנועדה לטפל ברצפים ארוכים יותר.
Mixtral 8x7B
[עריכת קוד מקור | עריכה]בדומה לדגם הראשון של מיסטרל, Mixtral 8x7B שוחרר דרך ביטורנט ב־9 בדצמבר 2023.[13]
הבדיקות של Mistral AI מראות שהדגם גובר על LLaMA 70B וגם את GPT-3.5 ברוב המדדים.[18]
במרץ 2024, מחקר שנערך על ידי Patronus AI שהשווה את הביצועים של מודלי שפה גדולים במבחן של 100 שאלות עם הנחיה להפקת טקסט מספרים המוגנים על פי חוק זכויות היוצרים האמריקאי מצא כי המודל GPT-4 של Open AI, המודל Mixtral של Mistral AI המודל LLaMA-2 של Meta AI והמודל Claude2 של אנת׳רופיק יצרו טקסט המוגן בזכויות יוצרים מילה במילה ב־44%, 22%, 10% ו־8% מהתגובות בהתאמה.[19][20]
דגמי API בלבד
[עריכת קוד מקור | עריכה]שלא כמו Mistral 7B ו־Mixtral 8x7B, דגמי ה־API הם בקוד סגור וזמינים רק דרך ה־API של Mistral.[21]
מיסטרל לארג'
[עריכת קוד מקור | עריכה]ב־26 בפברואר 2024 המודל הושק, ולטענת Mistral הוא שני בעולם רק ל־GPT-4 של OpenAI.
הוא שולט באנגלית, צרפתית, ספרדית, גרמנית ואיטלקית, כאשר מיסטרל טוענת כי המודל מסוגל להבין דקדוק והקשר תרבותי כאחד, ומספק גם יכולות קידוד.
מיסטרל מדיום
[עריכת קוד מקור | עריכה]Mistral Medium מאומן בשפות שונות כולל אנגלית, צרפתית, איטלקית, גרמנית, ספרדית וקוד עם ציון 8.6 ב־MT-Bench.[22] הוא מדורג בביצועים מעל קלוד ומתחת ל־GPT-4 במדד LMSys ELO Arena.[23]
מספר הפרמטרים והארכיטקטורה של מיסטרל מדיום אינה ידועה שכן מיסטרל לא פרסמה מידע ציבורי אודותיו.
מיסטרל סמול
[עריכת קוד מקור | עריכה]כמו הדגם לארג', Small הושק ב־26 בפברואר 2024. מודל זה נועד להיות דגם קל משקל נמוך, עם ביצועים טובים יותר מ־Mixtral 8x7B.[24]
ראו גם
[עריכת קוד מקור | עריכה]
| ||||||||
קישורים חיצוניים
[עריכת קוד מקור | עריכה]
אתר האינטרנט הרשמי של Mistral AI (באנגלית)- אתר האינטרנט הרשמי של Mistral AI (בצרפתית)
Mistral AI, ברשת החברתית X (טוויטר)
Mistral AI, ברשת החברתית LinkedIn
Mistral AI, סרטונים בערוץ היוטיוב
Mistral AI, הבלוג הרשמי
הערות שוליים
[עריכת קוד מקור | עריכה]- ↑ "France's unicorn start-up Mistral AI embodies its artificial intelligence hopes". Le Monde.fr. 2023-12-12.
- ↑ Metz, Cade (10 בדצמבר 2023). "Mistral, French A.I. Start-Up, Is Valued at $2 Billion in Funding Round". The New York Times.
- ↑ Fink, Charlie. "This Week In XR: Epic Triumphs Over Google, Mistral AI Raises $415 Million, $56.5 Million For Essential AI". Forbes.
- ↑ "A French AI start-up may have commenced an AI revolution, silently". Hindustan Times. 12 בדצמבר 2023.
- ↑ "French AI start-up Mistral secures €2bn valuation". ft.com Financial Times.
- ↑ "Buzzy Startup Just Dumps AI Model That Beats GPT-3.5 Into a Torrent Link". Gizmodo. 2023-12-12.
- ↑ "Bringing open AI models to the frontier". Mistral AI. 27 בספטמבר 2023.
- ↑ "Open-weight models and Mistral AI Large Language Models". docs.mistral.ai.
- ↑ "Endpoints and Mistral AI Large Language Models". docs.mistral.ai.
- ↑ "Endpoints and benchmarks | Mistral AI Large Language Models". docs.mistral.ai.
- ↑ "France's unicorn start-up Mistral AI embodies its artificial intelligence hopes". Le Monde.fr. 12 בדצמבר 2023.
- ↑ "Mistral lève 385 M€ et devient une licorne française - le Monde Informatique". 11 בדצמבר 2023.
- 1 2 "Mixtral of experts". mistral.ai. 2023-12-11.
- ↑ Bableshwar (2024-02-26). "Mistral Large, Mistral AI's flagship LLM, debuts on Azure AI Models-as-a-Service". techcommunity.microsoft.com.
- ↑ Goldman, Sharon (2023-12-08). "Mistral AI bucks release trend by dropping torrent link to new open source LLM". VentureBeat.
- ↑ Coldewey, Devin (27 בספטמבר 2023). "Mistral AI makes its first large language model free for everyone". TechCrunch.
- ↑ "Mistral 7B". mistral.ai. Mistral AI. 27 בספטמבר 2023.
- ↑ Franzen, Carl (2023-12-11). "Mistral shocks AI community as latest open source model eclipses GPT-3.5 performance". VentureBeat.
- ↑ Field, Hayden (6 במרץ 2024). "Researchers tested leading AI models for copyright infringement using popular books, and GPT-4 performed worst". CNBC.
- ↑ "Introducing CopyrightCatcher, the first Copyright Detection API for LLMs". Patronus AI. 6 במרץ 2024.
- ↑ "Pricing and rate limits | Mistral AI Large Language Models". docs.mistral.ai.
- ↑ AI, Mistral (2023-12-11). "La plateforme". mistral.ai.
- ↑ "LMSys Chatbot Arena Leaderboard - a Hugging Face Space by lmsys". huggingface.co.
- ↑ AI, Mistral (2024-02-26). "Au Large". mistral.ai.
_artificial_intelligence_icon.png){kind=icon}