OpenAI היא אחת החברות הנדונות והמשפיעות ביותר. לאחרונה פרסמה החברה פוסט בבלוג שמשך את תשומת לבם של מחנכים, סטודנטים וחובבי טכנולוגיה. הפוסט סיפק טיפים בנושא כיצד להשתמש ב-ChatGPT ככלי הוראה. עם זאת, חלק אחד של הפוסט הרים גבות ויצר ויכוח: ההודאה בכך גלאי כתב יד מבוססי AI אינם כל כך אמינים כפי שאתה עשוי לחשוב. בואו נראה יחד את פרטי המאמר.
המציאות של גלאי AI לפי OpenAI: מסגרת poco קיארו
בחלק השאלות הנפוצות של הפוסט, OpenAI התמודד הנושא של גלאי כתיבה בינה מלאכותית, שקבע כי "אף אחד מהכלים הללו לא הוכח כמבחין באופן אמין בין תוכן שנוצר בינה מלאכותית לתוכן שנוצר על ידי אדם". ההצהרה הזו רלוונטית במיוחד בעידן שבו כתיבה שנוצרת בינה מלאכותית הולכת ומשתכללת, עד כדי בלבול אפילו מומחים. למעשה, כמה מחקרים הראו זאת גלאים אלה מייצרים לעתים קרובות תוצאות חיוביות שגויות, מטיל ספק ביעילותם ובאמינותם.
טקסטים, דיוק ואמינות
אבל מה באמת אומרת אמירה זו בהקשר הרחב יותר של בינה מלאכותית והשתלבותה בחברה? קודם כל, זה מדגיש את המורכבות הגוברת של מודלים של שפה כמו ChatGPT, שהם הפכו כל כך מתקדמים שהם יוצרים טקסטים שכמעט ואינם ניתנים להבחנה מאלה שנכתבו על ידי בני אדם. זה מעלה שאלות אתיות ומעשיות, במיוחד באקדמיה, שבה האפשרות של פלגיאט בעזרת בינה מלאכותית היא אחת דְאָגָה גָדֵל.
שנית, ההצהרה של OpenAI מדגישה את הצורך בפיתוח שיטות זיהוי יעילות יותר. כרגע, גלאים רבים הם מסתמכים על מדדים ואלגוריתמים שלא נבדקו או אומתו מספיק. לדוגמה, חלקם משתמשים בניתוח שפה טבעית (NLP) כדי לחפש דפוסים ספציפיים בטקסט, אך ניתן לתמרן או לעקוף בקלות דפוסים אלו. אחרים מסתמכים על מסדי נתונים של דוגמאות טקסט שנוצרו בינה מלאכותית, אך מסדי נתונים אלה לרוב מיושנים או לא שלמים.
לבסוף, חוסר האמינות של גלאי הבינה המלאכותית הנוכחית פותח את הדלת לשימוש לרעה פוטנציאלי. בואו נדמיין הקשר שבו גלאי בינה מלאכותית שגויה מתייג חיבור אקדמי בצורה שגויה כנוצר בינה מלאכותית, מסכנת את הקריירה של סטודנט או חוקר. לחלופין, שקול את הסיכון שאנשים יתחילו לפקפק באמיתות כל סוג של תוכן מקוון, מה שמעודד עוד יותר את משבר המידע השגוי.
קראו גם: בינה מלאכותית: מדוע עלינו לפקוח עין על איחוד האמירויות
OpenAI: ChatGPT וה"בורות" המודעת שלו.
נקודה מכרעת נוספת שהועלתה על ידי OpenAI היא המגבלה המובנית של ChatGPT בזיהוי אם טקסט נוצר על ידי בינה מלאכותית או על ידי אדם. זהו פרט שרבים אולי לא מתחשבים בו, אבל בעל השלכות משמעותיות לא רק על האקדמיה אלא גם על התעשייה והחברה בכללותה. לדוגמה, אם ChatGPT אינו יכול להבחין בין תוכן שנוצר בינה מלאכותית לתוכן אנושי, כיצד נוכל לסמוך עליו למשימות מורכבות אחרות כמו מחקר אקדמי, הפקת דוחות כספיים או אפילו ניסוח מסמכים משפטיים?
השקר וחוסר המודעות
"התעלמות" זו של ChatGPT מעלה גם שאלות אתיות ואחריות. אם מודל שפת בינה מלאכותית אינו יכול לזהות את ה"יד" שלו ביצירת טקסט, הוא עלול שלא במתכוון גלתרום להפצת מידע כוזב או מטעה. זה מדאיג במיוחד בתחומים כמו עיתונות ומדע, שבהם הדיוק והאימות של המידע הם בעלי חשיבות עליונה. מה שבטוח הוא שניתן להימנע מכך כאשר האדם הולך לתקן טקסט שנוצר (כפי שצריך להיות).
יתר על כן, המגבלה של ChatGPT מעלה שאלה גדולה יותר לגבי טבעה של בינה מלאכותית. אם למודל AI אין "מודעות" לפעולות שלו, באיזו מידה אנחנו יכולים לראות בזה "אינטליגנציה"? ואיך זה משנה את הבנתנו את הבינה המלאכותית כהרחבה או השלמה לבינה האנושית? אלו שאלות שהקהילה המדעית עדיין מנסה לענות עליהן.
למרות שכלי זיהוי אוטומטיים מבוססי בינה מלאכותית אינם אמינים, אין זה אומר שאדם לעולם לא יוכל לזהות כתיבה שנוצרת בינה מלאכותית. לדוגמה, מורה שמכיר היטב את סגנון הכתיבה של תלמיד עשוי להבחין כאשר סגנון זה משתנה לפתע. עם זאת, כרגע, מומלץ להימנע לחלוטין מכלי זיהוי בינה מלאכותית.
