משתמש:אקסינו/מדיניות בינה מלאכותית

טיוטה זאת מדברת על מדיניות תיאורטית עתידית בנושא בינה מלאכותית שכל אחד יכול לתרום לה והיא בשלבים של סיעור מוחות.

הבעיה עם בינה מלאכותית בשימוש בוויקיפדיה[עריכת קוד מקור | עריכה]

ערכים מורחבים – בינה מלאכותית, בינה מלאכותית יוצרת, ChatGPT, צ'אטבוט

מידע יותר טוב על החסרונות המשמעותיים של צ'אטבוט בהקשר של ויקיפדיה, נכתבו בדף הוויקיפדיה האנגלית Wikipedia:Large language models.

מה זה צ'אטבוט[עריכת קוד מקור | עריכה]

צ'טבוט (chatbot) הוא תוכנה המתמחה בניהול שיחות טקסטואליות. שיחות אלו יכולות להיות במבנה שפה טבעית או באמצעות בחירות עם קונטקסט או עם צ'טבוטים נוספים. מטרת השיחה יכולה להיות שיווק, ייעוץ, שירות לקוחות או הדרכה. צ׳טבוטים יכולים להיות מבוססי מודלי שפה בינה מלאכותית או באמצעות יוריסטיקות אשר הוגדרו מראש.

מגבלות[עריכת קוד מקור | עריכה]

2 המודלים של הבינה המלאכותית של OpenAI, שהם ChatGPT 3 ו-ChatGPT 4, נוטים לעשות שגיאות רבות. השגיאות נוטות לקרות בעיקר בשפה העברית, אך ישנם שגיאות רבות בעת השימוש בבינה המלאכותית גם בשפה האנגלית. למעשה, על הנושא נחקר רבות.

ישנם כתבות ומחקרים רבים המסבירים על המגבלות של ChatGPT וצ'אטבוטים אחרים בפירוט:

מגבלות בעברית[עריכת קוד מקור | עריכה]

ישנם מגבלות רבות בשפה העברית גם עם המודל המתקדם (ChatGPT 4). לדוגמה כאן:

אני: תכתוב לי פסקה שמדברת על המצלמה של אייפון 13 בנוסח ויקיפדיה

בינה מלאכותית: מצלמת האייפון 13 מבית אפל מורכבת ממערך כפול של מצלמות אחוריות, כאשר כל אחת מן המצלמות מצוידת בחיישן 12 מגה-פיקסל. המצלמה הראשית מציעה עדשת רחבה עם צמצם של f/1.6 המאפשר כניסת אור רבה יותר לתמונה, מה ששופר את ביצועי הצילום בתנאי תאורה חלשה. המצלמה השנייה היא מצלמת עדשה רחבה עוד יותר (ultra-wide), עם צמצם של f/2.4 וזווית ראייה של 120 מעלות, מה שמאפשר תיעוד של נופים רחבים וסצנות קבוצתיות במיוחד. המצלמה כוללת גם מצב פורטרט מתקדם עם תמיכה באפקט בוקה, שמוסיף עומק לתמונות ומדגיש את הנושא בפוקוס בעוד שהרקע מטושטש. בנוסף, האייפון 13 מצויד בטכנולוגיית ה-HDR הדור הרביעי לתמונות וסרטונים, שמשפרת את איכות התמונה על ידי יצירת תמונה בהירה יותר ועם פרטים גדולים יותר באזורים חשוכים ובהירים.

הבעיות העיקריות:

יש מספר גדול של שגיאות כתיב בטקסט, למשל: "עדשת רחבה", "תנאי תאורה חלשה", "סצנות קבוצתיות במיוחד", "מדגיש את הנושא", "פרטים גדולים יותר באזורים חשוכים ובהירים" וכו.
יש מספר גדול של שגיאות כלליות בטקסט, למשל: "יצירת תמונה בהירה יותר ועם פרטים גדולים יותר באזורים חשוכים ובהירים." לא מתאר שום דבר שנוגע למצלמת האייפון 13. אין כזה דבר "אפקט בוקה" וכו.
הטקסט מנוסח באופן פרסומי ולא באופן אנציקלופדי כמו שהתבקש ממנו באותם רגעים.

מגבלות באנגלית[עריכת קוד מקור | עריכה]

ישנם מגבלות רבות בשפה האנגלית גם עם המודל המתקדם (ChatGPT 4). לדוגמה, הוא יכול לטעות בשאלות בסיסיות:

אני: I took a cup, put a diamond in the cup and I put the cup upside down near my bed. In the morning I took the cup and put it on the fridge. where is the diamond?

בינה מלאכותית: The diamond should still be in the cup. When you put the cup upside down near your bed with the diamond inside and later moved it to the fridge, the diamond would remain in the cup unless it was removed or fell out at some point during the process.

המודל המתקדם (ChatGPT 4), יכול לטעות גם בהסבר כללי:

אני: Who is Joan Coxsedge?

בינה מלאכותית: Joan Coxsedge was an Australian politician and activist. Born in 1931, she was known for her strong involvement in left-wing politics and advocacy for social justice issues. Coxsedge served as a member of the Victorian Legislative Council from 1979 to 1992, representing the Labor Party. Throughout her career, she was particularly active in advocating for peace, opposing the Vietnam War, and supporting the rights of Indigenous Australians and other marginalized groups. Her activism extended beyond her political career, marking her as a significant figure in Australian social and political history.

"הזיות" כלליות, או דברים שהם כלל לא נכונים: "Her activism extended beyond her political career, marking her as a significant figure in Australian social and political history"

הצעה למדיניות בנושא שימוש ב-AI בהקשר של כתיבה בוויקיפדיה[עריכת קוד מקור | עריכה]

אני רוצה להציע מדיניות בנושא בינה מלאכותית (לרבות צ'אטבוט ומוצרי בינה מלאכותית אחרים) המגבילה את השימוש בבינה מלאכותית בהקשר של כתיבה בוויקיפדיה, וזאת על מנת למנוע נזק עתידי למיזם.

הנושא נידון בעבר בוויקיפדיה האנגלית, ועדיין נמצא בשלבים של סיעור מוחות (מקור). המטרה היא לא בהכרח לאסור את השימוש בבינה מלאכותית, אלא לשרטט גבולות אשר יאפשרו מניעת נזק עתידי למיזם. בוויקיפדיה האנגלית, נראה שלקחו את הנתיב שבו נטען כי ה-AI מנוגד לעקרונות ויקיפדיה הקיימים, ולכן לא היה צריך מלכתחילה מדיניות נפרדת ומיוחדת המיוחסת לו. (הדף)