הצגת המקור של הדף "בינה מלאכותית יוצרת"

[[קובץ:השתלטות הרובוטים.png|ממוזער|תמונה שנוצרה על ידי [[Midjourney]]]]
'''בינה מלאכותית יוצרת''' (ב[[אנגלית]] '''Generative Artificial Intelligence''' או '''generative AI''' או '''GenAI'''), לעיתים נקראת בינה מלאכותית גנרטיבית, היא סוג של [[בינה מלאכותית]] המסוגלת לייצר תוכן חדש כגון [[טקסט]], [[תמונה|תמונות]] או מדיה אחרת. בינה מלאכותית יוצרת משתמשת ב[[מודל ג'נרטיבי|מודלים ג'נרטיביים]] [[למידת מכונה|הלומדים]] דפוסים מ[[סט נתוני אימון|מאגרי נתונים]] {{אנ|Training, validation, and test data sets}} גדולים ואז יוצרים תוכן חדש על סמך הלמידה הזאת.

ההתקדמות ב[[רשת עצבית מלאכותית|רשתות נוירונים מלאכותיות]] ובטכנולוגיית [[טרנספורמר (למידת מכונה)|טרנספורמר]] בתחילת [[שנות ה-20 של המאה ה-21]] איפשרה פיתוח בינה מלאכותית יוצרת מתקדמת יותר, כולל [[צ'טבוט|צ'אטבוטים]] אינטליגנטיים ו[[מחולל תמונות|מערכות ליצירת תמונות מטקסט]]. מודלים אלו יכולים לקבל הנחיות בשפה טבעית ולייצר תוכן רלוונטי ומקורי.

לבינה המלאכותית היוצרת יישומים במגוון תעשיות, כולל [[אמנות]], [[כתיבה יוצרת]], [[פיתוח תוכנה]], [[עיצוב]], בריאות ועוד. חברות טכנולוגיה גדולות משקיעות בתחום, אך יש גם דאגה מפני שימוש לרעה כגון יצירת [[דיפ-פייק|תוכן מזויף]], [[פייק ניוז|חדשות מזויפות]] ומפני [[סכנה קיומית מבינה מלאכותית כללית|הסכנה שמהווה בינה מלאכותית כללית למין האנושי]].

עם פיתוחה ויציאתה לאור של הבינה המלאכותית היוצרת ובייחוד לאחר השקת [[ChatGPT]] ב-[[30 בנובמבר]] [[2022]], החלה להיווצר מיומנות חדשה הנוגעת להפעלת הבינה המלאכותית היוצרת בשם "[[הנדסת פרומפטים]]".

== היסטוריה ==
[[קובץ:Henri Maillardet automaton, London, England, c. 1810 - Franklin Institute - DSC06656.jpg|ממוזער|הבובה המלאכותית של מיילרדט]]
הרעיון של מכונות אוטומטיות וכלים טכנולוגיים בעלי בינה הועלה כבר ב[[העת העתיקה|עת העתיקה]], עם סיפורים על [[בובה מכנית|בובות אוטומטיות]] ומכונות שיצרו מוזיקה ואמנות, וממציאים כמו [[דדלוס]] ו[[הרון מאלכסנדריה]] שעליהם סופר שעיצבו מכונות המסוגלות לכתוב טקסט, להפיק צלילים ולהשמיע מוזיקה.{{הערה|[https://web.archive.org/web/20180113090903/https://www.newscientist.com/blog/technology/2007/07/programmable-robot-from-60ad.html רובוט ניתן לתכנות משנת 60 לספירה]{{אנגלית}}}} וכן טכנולוגיות דומות שהתפתחו לאורך ההיסטוריה, כמו [[הבובה המכנית של מיילרדט]] {{אנ|Maillardet's automaton}}, שנוצרה בתחילת [[המאה ה-19]].

[[אקדמיה|המחקר האקדמי]] בבינה מלאכותית החל רק ב[[שנות ה-50 של המאה ה-20]], עם [[סדנת דארטמות']] ב-[[1956]] בה הוגדר התחום. מאז, חוקרי בינה מלאכותית דנו בשאלות פילוסופיות ואתיות סביב יצירת מכונות אינטליגנטיות יוצרות.

ב[[שנות ה-60 של המאה ה-20|שנות ה-60]] ו[[שנות ה-70 של המאה ה-20|ה-70]] התמקד ה[[מחקר]] בעיקר ב[[בינה מלאכותית צרה]] למטרות ספציפיות. אולם, כבר אז נעשו ניסיונות ראשונים ליצור בינה מלאכותית יוצרת, כמו עבודתו של [[הרולד כהן]] עם התוכנה [[AARON]] {{אנ|AARON}} שיצרה ציורים.

ב[[שנות ה-80 של המאה ה-20|שנות ה-80]] ו[[שנות ה-90 של המאה ה-20|ה-90]] חלה התקדמות בתחומי [[למידת מכונה]] ו[[רשת עצבית מלאכותית|רשתות נוירונים]], אך רוב המודלים התמקדו בזיהוי תבניות דוגמת [[ראייה ממוחשבת|סיווג תמונות]] ו[[מערכת זיהוי דיבור|זיהוי דיבור]] ולא ביצירה. רק בשנות ה-2000 המאוחרות, עם התפתחות [[למידה עמוקה|הלמידה העמוקה]], החלו להופיע [[מודל גנרטיבי|מודלים גנרטיביים]] מתקדמים יותר ליצירת תמונות, טקסט, קול ווידאו.{{הערה|{{ynet|דניס ויטצ'בסקי|הדרך הארוכה לבינה מלאכותית|digital/technology/article/sypkhhuzj|27 באוקטובר 2022}}}}

פריצת הדרך הגדולה הגיעה בשנות ה-20 של המאה ה-21. [[מודל שפה|מודלי שפה גדולים]] כמו {{קישור שפה|אנגלית|BERT (language model)|BERT (מודל שפה)|BERT}} ו-[[GPT]] אפשרו יצירת טקסט באיכות גבוהה מנתוני אימון גדולים. מודלים ויזואליים כמו [[DALL-E]], [[Midjourney]], Leonardo.AI ו-[[Stable Diffusion]] איפשרו יצירת איורים ואמנות מטקסט בלבד. כיום נעשים מאמצים רבים לשפר ולהרחיב יכולות אלו לכדי [[בינה מלאכותית כללית]].{{הערה|{{ynet|בשיתוף NVIDIA|כיצד תשפיע מהפכת הבינה המלאכותית היוצרת על חיינו?|digital/article/skh9003sk3|8 במרץ 2023}}}}

== סוגי בינה מלאכותית יוצרת ==
בעוד בינה מלאכותית "רגילה" לומדת לפתור בעיות מוגדרות, בינה מלאכותית יוצרת מסוגלת לייצר תוכן חדש לחלוטין - החל מטקסטים, דרך תמונות ועד מוזיקה ווידאו. היכולת ליצור באופן עצמאי נחשבת לאבן דרך משמעותית בהתקדמות הבינה המלאכותית.

אחת החלוקות העיקריות בבינה מלאכותית יוצרת היא בין מערכות '''חד-מודליות''', המקבלות סוג אחד של [[קלט]] כמו טקסט או תמונה, לבין מערכות '''מולטי-מודליות''' שיכולות לקבל יותר מסוג אחד של קלט. לדוגמה, גרסה מתקדמת אחת של המודל [[GPT-4]] שפותחה על ידי חברת [[OpenAI]], מסוגלת לקבל הן קלט טקסטואלי והן קלט חזותי בדמות תמונות.{{הערה|[https://openai.com/research/gpt-4 תיאור GPT-4 כמערכת "מולטי מודלית"] באתר החברה}} שילוב הקלט מאפשר לה לייצר טקסטים איכותיים ורלוונטיים יותר.

=== טקסט ===
מודלים גנרטיביים רבים מאומנים היום על כמויות אדירות של טקסט ב[[שפה טבעית]], כדי לאפשר להם לייצר טקסט חדש ואיכותי באופן עצמאי.

המודלים הבולטים והמתקדמים ביותר כיום בתחום זה כוללים את [[GPT]] על שלל גרסאותיו, שפותח על ידי חברת OpenAI, [[LaMDA]] ו[[PaLM]] של חברת [[גוגל (חברה)|גוגל]], [[LLaMA]] של [[מטא]] ([[פייסבוק]] לשעבר) ו-[[קלוד (מודל שפה)|Claude]] של [[אנתרופיק]]. מודלים אלה מסוגלים כבר לבצע מגוון רחב של משימות שפתיות ברמה גבוהה, כמו [[עיבוד שפה טבעית]], תרגום אוטומטי בין שפות, כתיבה יוצרת ועוד.

המודלים מאומנים על ערכות נתוני עתק המכילות מיליארדי מילים, כגון [[ויקיפדיה]] בשפות שונות, [[ספר דיגיטלי|ספרים דיגיטליים]], מאמרים אקדמיים וכתבות חדשותיות. כמות הנתונים האדירה מאפשרת למודלים ללמוד את המבנים והדפוסים של שפה אנושית ברמה גבוהה מאי פעם.

ככל שהמודלים הופכים למתוחכמים וגדולים יותר, כך גדלה יכולתם להבין שפה טבעית, לנתח הקשר וכוונה בטקסט, ולייצר תשובות רלוונטיות ואינטליגנטיות. הם אף מסוגלים לשמור על עקביות לאורך טקסט ארוך, ולגלות יצירתיות מסוימת.

עם זאת, עדיין קיימים אתגרים לא מעטים ביכולת של מודלים אלה להבין באמת שפה אנושית ולייצר תוכן שיש לו הבנה משמעותית של העולם. הם עדיין נוטים להסתמך יותר מדי על דפוסים סטטיסטיים ופחות על הבנה עמוקה. כמו כן, הם חסרים ידע בסיסי ו"[[שכל ישר]]" שבני אדם רוכשים באופן טבעי.

עם התקדמות המחקר בתחום, מקווים החוקרים כי [[מודל גנרטיבי|מודלים גנרטיביים]] יוכלו בעתיד לרכוש "הבנה ממשית" של שפה ומשמעות, ולא רק יכולת סטטיסטית למפות מילים למילים אחרות. אם יצליחו בכך, הדבר עשוי להוביל לקפיצת מדרגה נוספת ביכולות השיחה והיצירתיות של בינה מלאכותית.

=== קוד ===
בנוסף לעיבוד שפה טבעית, מודלים גנרטיביים מסוגלים גם ללמוד [[שפת תכנות|שפות תכנות]] ולייצר [[קוד מקור]] חדש באופן אוטומטי.

הרעיון הוא לאמן את המודלים על קורפוסים עצומים של קוד קיים בשפות תכנות שונות, כגון [[פייתון]], [[ג'אווה]] ועוד. באמצעות למידה ממיליוני שורות קוד שנכתבו על ידי מפתחים אנושיים, המודלים לומדים להבין את מבנה השפה, תחבירה והלוגיקה שלה. על בסיס ההבנה הזו, הם מסוגלים לייצר שורות קוד חדשות העונות למפרטים שניתנים להם בשפה טבעית.

אחד המודלים המתקדמים ביותר כיום בתחום זה הוא [[OpenAI Codex]] שמסוגל לכתוב קוד ברמה שמתקרבת לאיכות של מפתח אנושי ממוצע, במגוון רחב של שפות ולמטרות שונות.

יכולת זו של מודלים גנרטיביים לכתיבת קוד אוטומטית עשויה לחולל מהפכה ב{{קישור שפה|אנגלית|Software industry|תעשיית התוכנה}} ולאפשר פיתוח מהיר וזול יותר. עם זאת, עדיין יש אתגרים לא מעטים בכתיבת קוד מורכב יותר, {{קישור שפה|אנגלית|Program optimization|אופטימיזציה של תוכנה (מדעי המחשב)|אופטימיזציה}} וכתיבה יעילה ומקורית. כמו כן, קוד שנכתב על ידי בינה מלאכותית עלול להכיל [[באג]]ים ו[[פרצת אבטחה|פרצות אבטחה]] שקשה לזהות.

לכן צפוי שבעתיד הקרוב מודלים אלה ישמשו בעיקר לסיוע למפתחים אנושיים, ופחות כמחליפים מוחלטים להם. אך הפוטנציאל להאיץ ולשפר תהליכי פיתוח תוכנה בעזרת בינה מלאכותית הוא אדיר.

=== תמונות ===
{{הפניה לערך מורחב|אומנות בינה מלאכותית}}
[[קובץ:Example-dog-on-the-internet.png|ממוזער|תמונה של כלב יושב מול מחשב ועורך בוויקיפדיה, סטייבל דיפיוזן]]
[[קובץ:Théâtre D’opéra Spatial.jpg|ממוזער|"[[תיאטרון אופרת החלל]]", תמונה שנעשתה באמצעות בינה מלאכותית גנרטיבית]]
אחד היישומים המרשימים והנגישים ביותר כיום של בינה מלאכותית גנרטיבית הוא יצירת [[אמנות חזותית|אמנות ויזואלית]] - תמונות, [[ציור]]ים ו[[איור]]ים - באופן אוטומטי על פי תיאור מילולי.

מודלים מובילים בתחום זה כוללים את [[Firefly (תוכנה)|Firefly]] [[DALL-E]], [[Stable Diffusion]], Leonardo.AI ,[[Midjourney]] ו-[[Imagen]] של גוגל. מודלים אלה מאומנים על מיליוני תמונות וקשרים בין תמונות לטקסטים כדי ללמוד כיצד לייצר תמונות חדשות התואמות תיאור טקסטואלי נתון. את חלקם, כמו Leonardo.AI למשל, אפשר לאמן על תמונות ספציפיות, למשל תמונות שלכם, כדי לאפשר ליצור תמונות של דמות ספציפית או של תמה גרפית בסגנון מסוים. בעת יצירת תמונה ניתן לקבוע את סגנונה, אם היא תהיה ציור (ובאיזה אמצעים, כגון [[צבע מים|צבעי מים]] או צבעי עיפרון), איור, צילום ועוד. ישנם מודלים המאפשרים לבקש סגנון של אמן מסוים.

כך למשל, ניתן ליצור תמונה של כלב העורך ערך בו[[ויקיפדיה]] על ידי הקלדת בקשה זו במילים. התוצאות מדהימות ברמת הפירוט, היצירתיות וההומור שלהן.

יצירות אלה כבר זיכו יוצרים רבים בפרסים, תערוכות והכרה ציבורית רחבה. הן אף מאפשרות יצירתיות חזותית לאנשים ללא כישורי ציור מסורתיים. עם זאת, הטכנולוגיה עדיין מעוררת דיון ער בסוגיות של [[זכויות יוצרים]], [[פילוסופיה של המוסר|אתיקה]] והגדרה מחדש של מושג היצירתיות האנושית.{{הערה|{{ynet|יובל מן|"רגע היסטורי": זכה בתחרות צילום יוקרתית עם תמונה שנוצרה באמצעות AI|digital/technews/article/rjt11krozh|18 באפריל 2023}}}} ב-22 בינואר 2024 דלפה טיוטת החוק האירופי בדבר הסדרת ה[[אסדרה|רגולציה]] של בינה מלאכותית אשר אמורה להגיע לאישור [[הפרלמנט האירופי|הפרלמנט של האיחוד האירופי]] בקרוב. הפרת הרגולציה עלולה להסתיים ב[[צו]] לסגירת ה[[מיזם]] ולקנסות אישיים עד ל-35 מיליון [[אירו|יורו]].

=== מוזיקה ===
תחום נוסף שבו בינה מלאכותית גנרטיבית מתקדמת בו הוא יצירת מוזיקה. מודלים חדשניים כמו [[Suno AI]] או MusicGen של [[מטא (חברה)|מטא]] מאומנים הן על דוגמאות קיימות של מוזיקה מוקלטת, והן על מטא-דאטה כמו תמלילי שירים תווים ותיאורים של סגנונות מוזיקליים.

באמצעות למידה מנתונים עצומים אלה, המודלים לומדים לזהות מבנים מוזיקליים כמו מנגינות, [[אקורד]]ים וקצב. כעת הם מסוגלים לייצר אוטומטית קטעים מוזיקליים קצרים העונים להנחיות טקסטואליות - למשל, "צור מוזיקה קלאסית של פסנתר איטי ב[[סולם מינורי]]".

הפוטנציאל עצום להנגשת יצירת מוזיקה לאנשים ללא ידע מוזיקלי פורמלי או חסרי יכולת נגינה. עם זאת, נכון לספטמבר 2023 המוזיקה שנוצרת עדיין די בסיסית וחסרה את העומק והרגש שביצירה אנושית.{{הערה|{{ynet|רפאל קאהאן|בינה מלאכותית מוזיקלית: מטא משיקה צ'אטבוט ליצירת מוזיקה וסאונד|digital/technews/article/rkpbaldsh|2 באוגוסט 2023}}}}

=== וידאו ===
[[קובץ:Gen2-Example-Dog-Podium.webm|ממוזער|[[גולדן רטריבר]] בחליפה יושב על בימה נואם בפני העיתונות של הבית הלבן, Gen2]]
תחום נוסף הוא יצירת סרטוני וידאו סינתטיים באמצעות בינה מלאכותית גנרטיבית.

מודלים פורצי דרך כמו Gen1 ו-Gen2 שפותחו על ידי ה[[חברת הזנק|סטארטאפ]] Runway מאפשרים כבר היום יצירת סרטונים קצרים שנראים כאילו צולמו במציאות, אך למעשה סונתזו לחלוטין על ידי ה[[אלגוריתם|אלגוריתמ]]ים.

המודלים מסוגלים למשל להנפיש כלב זהוב עם משקפיים ועניבה, ו"לצלם" אותו נואם לכאורה מול עיתונאים בחדר העיתונות של [[הבית הלבן]] - תוך יצירת תנועות שפתיים ריאליסטיות לחלוטין.

טכנולוגיה זו מעוררת דאגה מפני שימוש לרעה והפצת [[פייק ניוז|מידע כוזב]] ומזויף. אך מצד שני היא גם מאפשרת יצירתיות ויזואלית חדשה ומרתקת שלא הייתה אפשרית בעבר.{{הערה|{{ynet|רפאל קאהאן|תמונות זה פאסה: בינה מלאכותית תיצור לכם סרטון מכמה מילים|digital/technews/article/skxahuwl3|21 במרץ 2023}}}}

=== כימיה, ביולוגיה מולקולרית ורפואה ===
הבינה המלאכותית היוצרת משפיעה על תחומים נוספים דוגמת [[כימיה]], [[ביולוגיה מולקולרית]] ורפואה.

מאחר שניתן לאמן מודלים על מאגרי מידע עצומים של רצפי [[DNA]] ו[[חלבון|חלבונ]]ים, וייצוגים גרפיים של [[מבנה מולקולרי|מבנים מולקולרי]]ים, באמצעות למידה מנתונים אלה, המודלים לומדים לזהות דפוסים במבנה ובהרכב של מולקולות ולחזות תכונות כימיות וביולוגיות ובכך לסייע ל[[חיזוי מבנה החלבון|חיזוי מבנה חלבון]] ו[[גילוי תרופות]] {{אנ|Drug discovery}}.

דוגמה למודל פורץ דרך היא קבוצת [[AlphaFold]] של דיפמיינד וגוגל, שמסוגלת לחזות בדיוק רב במיוחד את המבנה המרחבי התלת-ממדי של חלבונים שלא נחקרו בעבר.{{הערה|{{גיקטיים|אושרי אלקסלסי|"הישג שישנה את חוקי המשחק": ה-AI של גוגל הגיע ל"[[הגביע הקדוש#פירושים מודרניים|גביע הקדוש]]" של הביולוגיה|google-deep-mind-alphafold-makes-a-giant-leap-in-protein-folding|2 בדצמבר 2020}}}}

יכולת זו חוסכת ניסויים יקרים ומאיצה מחקר בתחומי בריאות, תזונה וסביבה. מודלים גנרטיביים אף מסייעים בתכנון תרופות חדשות על ידי חיזוי אינטראקציות מולקולריות.{{הערה|{{אייס||בינה מלאכותית תייצר תרופות? השקעת הענק של אנבידיה נחשפת|971867|12 ביולי 2023}}}}

=== רובוטיקה ===
תחום יישומי הנוגע לבינה מלאכותית גנרטיבית הוא [[רובוטיקה]] ואוטומציה.

כבר בשנות ה-90 נעשה שימוש במודלים גנרטיביים פשוטים יחסית לקבלת החלטות ותכנון מסלול ברובוטים אוטונומיים וחלליות.

כיום מאומנים מודלים מתקדמים יותר על בסיס נתונים נרחב של תנועות ופעולות של רובוטים ובני אדם. המודלים לומדים לאתר דפוסים בתנועה וליצור כוריאוגרפיות חדשות עבור הרובוט ומאפשרים בסופו של דבר שליטה קולית בתנועות הזרוע של רובוט - למשל "הרם כוס כחולה" או "נגב שולחן במטלית אדומה".{{הערה|{{ynet|רפאל קאהאן|בתי ספר אמריקאיים בוחנים הפעלה של רובוטים אוטונומיים לשמירה על הילדים|digital/technews/article/b111wydyf3|10 ביולי 2023}}}}

מודלים מסוג "ראייה-שפה-פעולה" משלבים קלט חזותי עם הוראות קוליות כדי לאפשר ביצוע משימות אוטומטיות בסביבה דינמית.

שילוב של מודלים גנרטיביים ברובוטיקה יכול להוביל ליצירתיות וגמישות רבה יותר בתנועה ואינטראקציה של רובוטים עם הסביבה.{{הערה|{{אייס||כך הרובוטים האלו יעשו את כל מטלות הבית שלכם|968525|23 ביוני 2023}}}}

== חומרה ובינה מלאכותית ==
מודלים גנרטיביים דורשים משאבי חישוב שונים בהתאם לגודל המודל ומורכבותו. מודלים קטנים יחסית דוגמת מודלי שפה עם עד מיליארד פרמטרים יכולים לרוץ על [[חומרה]] ביתית רגילה כמו [[מחשב שולחני|מחשבים שולחני]]ים, [[מחשב נייד|לפטופ]]ים ואף [[טלפון חכם|טלפונים חכמ]]ים מתקדמים. מודלים בינוניים עם עשרות מיליארדי פרמטרים דורשים בדרך כלל [[מעבד גרפי|מאיץ גרפי]] (GPU) איכותי כדי להגיע למהירויות סבירות.

[[מודל שפה|מודלי שפה]] גדולים במיוחד כגון GPT-3 ו-GPT-4 עם מאות מיליארדי פרמטרים, פועלים כיום רק במרכזי נתונים גדולים המכילים אלפי [[כרטיס גרפי|כרטיסי גרפיקה]] ומאיצי חומרה ייעודיים כמו [[TPU]] של חברת [[גוגל (חברה)|גוגל]]. חברות המפתחות מודלים אלו מספקות בדרך כלל גישה לשירות מבוסס [[מחשוב ענן]], במקום מודל שמותקן מקומית.{{הערה|{{TheMarker|אופיר דור|קוואלקום מול אנבידיה: הבינה המלאכותית תרוץ בענן או על המחשב האישי?|00000188-7577-d4df-a39c-f77f9d890000|1 ביוני 2023}}}}

עם זאת, קיימים מאמצים מתמשכים לאפשר ריצה של מודלים גדולים גם על חומרה צרכנית. שיטות אופטימיזציה כגון דחיסת פרמטרים, קיטום ואימון מחדש (pruning and retuning) מאפשרות לכווץ מודלים גדולים מבלי לפגוע משמעותית בביצועים.

כמו כן, ניתן לפצל מודלים גדולים למקטעים קטנים יותר המבוזרים על מספר התקנים, ולאחד את התוצאות. שיטה זו מכונה federated learning או split learning. יצרניות [[מעבד]]י [[מעבד גרפי|GPU]] כגון [[Nvidia|NVIDIA]] ו-[[AMD]] גם משיקות כרטיסי גרפיקה חדשים עם יכולות אופטימיזציה לבינה מלאכותית שמאפשרות מהירות גבוהה יותר בעלות נמוכה יותר.{{הערה|{{Bizportal|שקד אביב|אנבידיה עלתה ב-75% מתחילת השנה - מה הסיבה?|812866|16 במרץ 2023}}}}

עם שיפורים באלגוריתמים, אופטימיזציית חומרה ושיטות [[חישוב מבוזר]], ניתן כיום כבר להריץ יישומים מתקדמים של בינה מלאכותית גנרטיבית גם מחוץ לענן, והמגמה הזו צפויה להימשך ולאפשר זמינות רבה יותר של טכנולוגיות אלו.

== חששות ואתגרים ==
{{הפניה לערך מורחב|סכנה קיומית מבינה מלאכותית כללית}}
התפתחות הבינה המלאכותית היוצרת מעוררת חששות, דאגות ואתגרים. בתוך כך, חוששים רבים על שוק העבודה המשתנה, יצירת תוכן מזויף ופגיעה בפרטיות.
חששות הועלו מצד גורמי ממשל, עסקים ואנשים פרטיים, וכתוצאה מכך נוצרו גם מחאות, פעולות משפטיות, קריאות להשהות ניסויי בינה מלאכותית ופעולות של ממשלות בנושא. בתדרוך של [[מועצת הביטחון של האומות המאוחדות|מועצת הביטחון של האו"ם]] ביולי 2023, [[המזכיר הכללי של האומות המאוחדות|מזכ"ל האו"ם]] [[אנטוניו גוטרש]] הצהיר כי "בינה מלאכותית היא בעלת פוטנציאל עצום לטוב ולרע בקנה מידה גדול, אך שימוש זדוני בה עלול לגרום לרמות נוראות של מוות והרס, טראומה נרחבת ונזק פסיכולוגי עמוק בקנה מידה בלתי נתפס".{{הערה|[https://www.un.org/sg/en/content/sg/statement/2023-07-18/secretary-generals-remarks-the-security-council-artificial-intelligence-bilingual-delivered-scroll-down-for-all-english Secretary-General's remarks to the Security Council on Artificial Intelligence [bilingual as delivered] {{אנגלית}}}}

=== אובדן עבודה ===
[[קובץ:AI_Protest_Sign_2023_WGA_Strike.jpg|ממוזער|שביתה של {{קישור שפה|אנגלית|Writers Guild of America|גילדת הסופרים של אמריקה}} ב-2023]]
עוד מהימים המוקדמים של פיתוח הבינה המלאכותית עלו דאגות בנוגע להשפעתה האפשרית על משרות ותעסוקה. חלוצים בתחום כמו יוצר [[אלייזה]] [[ג'וזף וייצנבאום]] העלו שאלות לגבי האם באמת יש צורך אמיתי בביצוע משימות על ידי מכונות במקום בני אדם.

בשנים האחרונות, עם התקדמות הבינה המלאכותית היוצרת, חששות אלו הפכו למציאות עבור חלק מהעובדים בתחומים יצירתיים. דוחות הצביעו על אובדן משרות נרחב בקרב [[מאייר]]ים ב[[תעשיית משחקי הווידאו]] ב[[הרפובליקה העממית של סין|סין]], לאחר אימוץ כלי יצירת תמונות בינה מלאכותית.{{הערה|[https://restofworld.org/2023/ai-image-china-video-game-layoffs/ AI is already taking video game illustrators’ jobs in China]}}

גם בהוליווד התעוררו חששות דומים, עם איומים על שביתה מצד איגודי שחקנים ב-2023. נשיאת איגוד שחקני המסך אף הגדירה את הבינה המלאכותית כ"איום קיומי על מקצועות יצירתיים".{{הערה|{{מקור ראשון|AFP|שביתת התסריטאים: בהוליווד כבר מתכננים סרטים וסדרות שייכתבו ב-AI|international/614511|8 במאי 2023}}}}

=== זיוף עמוק (דיפ-פייק) ===
[[דיפ-פייק]] הם מדיה שנוצרת על ידי בינה מלאכותית הלוקחת אדם בתמונה או וידאו קיימים ומחליפים אותם בדמותו של מישהו אחר באמצעות [[רשת עצבית מלאכותית|רשתות עצביות מלאכותיות]].<ref name=":3">{{Cite web|last=Cole|first=Samantha|date=24 January 2018|title=We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now|url=https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley|url-status=live|archive-url=https://web.archive.org/web/20190907194524/https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley|archive-date=7 September 2019|access-date=4 May 2019|website=Vice}}</ref> השימוש שנעשה בשנת 2023 ויכולות הכלים הקיימים מעלה חששות לשימושם בסרטוני [[פורנוגרפיה]] מזויפים של [[ידוען|ידוענ]]ים, [[פורנוגרפיית נקם|פורנו נקמה]], [[פייק ניוז|חדשות מזויפות]], [[תרמית|תרמיות]] והונאות פיננסיות.<ref name="HighSnobiety2018">{{Cite news|date=2018-02-20|title=What Are Deepfakes & Why the Future of Porn is Terrifying|language=en-US|work=Highsnobiety|url=https://www.highsnobiety.com/p/what-are-deepfakes-ai-porn/|url-status=live|access-date=2018-02-20|archive-url=https://web.archive.org/web/20210714032914/https://www.highsnobiety.com/p/what-are-deepfakes-ai-porn/|archive-date=2021-07-14}}</ref> דוגמאות שונות עוררו תגובות מהתעשייה ומהממשלה על מנת לזהות ולהגביל את השימוש בטכנולוגיה לצרכים לא אתיים ולא חוקיים מסוג זה.<ref name=":21">{{Cite web|title=Join the Deepfake Detection Challenge (DFDC)|url=https://deepfakedetectionchallenge.ai/|url-status=live|archive-url=https://web.archive.org/web/20200112102819/https://deepfakedetectionchallenge.ai/|archive-date=2020-01-12|access-date=2019-11-08|website=deepfakedetectionchallenge.ai}}</ref>

=== פשעי סייבר ===
היכולת של AI ג'נרטיבי ליצור תוכן מזויף הנראה כאמיתי לחלוטין שימשה פושעים ב[[פשע מקוון|סייבר]] בעיקר בהונאות [[דיוג]]. כך, נעשה שימוש בווידאו ואודיו מזויפים כדי ליצור [[דיסאינפורמציה]] והונאה. פושעי סייבר יצרו מודלי שפה גדולים המתמקדים בהונאה, כולל WormGPT ו-FraudGPT.{{הערה|{{ישראל היום|ערן איצקוביץ|הסיוט הולך ומתממש: כלי הבינה המלאכותית שיקל על האקרים לגנוב מידע|tech/tech-news/article/14394030|16 ביולי 2023}}}}

=== שימוש לרעה בעיתונאות ===
בינואר 2023, Futurism.com פרסמה שבאתר [[CNET]] השתמשו בכלי AI פנימי שלא נחשף כדי לכתוב לפחות 77 כתבות; לאחר פרסום החדשות, CNET פרסמה תיקונים ל-41 מהכתבות.<ref>{{Cite news|last=Roth|first=Emma|title=CNET found errors in more than half of its AI-written stories|url=https://www.theverge.com/2023/1/25/23571082/cnet-ai-written-stories-errors-corrections-red-ventures|access-date=17 June 2023|work=[[The Verge]]|date=25 January 2023}}</ref>

באפריל 2023 פרסם ה[[עיתונות צהובה|צהובון]] הגרמני "Die Aktuelle" ראיון מזויף שנוצר על ידי AI עם נהג המרוצים לשעבר [[מיכאל שומאכר|מייקל שומאכר]], שלא הופיע בפומבי מאז 2013 לאחר שספג פגיעה מוחית בתאונת [[סקי]]. בסוף הכתבה ובמהלכה נאמר כי הראיון אינו אמיתי בהכרח, ואף נרמז שנעשה על ידי בינה מלאכותית. בעקבות הכתבה, העורך הראשי פוטר זמן קצר לאחר מכן.<ref>{{Cite news|title=A magazine touted Michael Schumacher's first interview in years. It was actually AI|url=https://www.npr.org/2023/04/28/1172473999/michael-schumacher-ai-interview-german-magazine|access-date=17 June 2023|work=NPR|date=28 April 2023}}</ref>

=== תקנות ===
באיחוד האירופי, הוצע [[חוק הבינה המלאכותית]] שכולל דרישות לחשוף חומר המוגן בזכויות יוצרים המשמש לאימון מערכות בינה מלאכותית, ולתייג כל פלט שנוצר בינה מלאכותית ככזה.<ref>{{Cite web|last=Chee|first=Foo Yun|last2=Mukherjee|first2=Supantha|title=EU lawmakers vote for tougher AI rules as draft moves to final stage|url=https://www.reuters.com/technology/eu-lawmakers-agree-changes-draft-artificial-intelligence-rules-2023-06-14/|access-date=July 26, 2023|website=Reuters|language=en}}</ref> עוד נקבע כי פעולת אימון האלגוריתם על תכנים טעון אישור של בעלי הזכויות בתכנים למעט אם האימון נעשה לצורכי מחקר.

בארצות הברית, קבוצה של חברות כולל OpenAI, Alphabet ומטא חתמו על הסכם וולונטרי עם הבית הלבן ביולי 2023 ליצור [[סימן מים]] של תוכן שנוצר בינה מלאכותית.<ref>{{Cite web|last=Bartz|first=Diane|last2=Hu|first2=Krystal|title=OpenAI, Google, others pledge to watermark AI content for safety, White House says|url=https://www.reuters.com/technology/openai-google-others-pledge-watermark-ai-content-safety-white-house-2023-07-21/|access-date=|publisher=Reuters}}</ref>

== קישורים חיצוניים ==
{{ויקישיתוף בשורה}}
* [https://www.mako.co.il/mako-vod-keshet/next-s6/VOD-335e81edcef3a81026.htm חזרה ללימודים עם בינה מלאכותית] ספיישל בתוכנית [[NEXT (תוכנית טלוויזיה ישראלית)|NEXT]] עם [[דרור גלוברמן]]
* {{TheMarker||חברות החשמל החדשות: גוגל, מיקרוסופט ואמזון במרוץ אחר אספקת אנרגיה|0000018f-4ccf-d414-a5bf-ffffef890000|6 במאי 2024}}

== הערות שוליים ==
{{הערות שוליים}}

{{בינה מלאכותית}}

[[קטגוריה:בינה מלאכותית יוצרת|*]]