מי שמכיר את עולם הטכנולוגיה והבינה המלאכותית ללא ספק עקבו אחר אירועי OpenAI בימים האחרונים. בקיצור: החברה החליטה לעשות זאת לפטר את סם אלטמן, המנכל. לאחר שדגתה על ידי מיקרוסופט, OpenAI רצתה אותו בחזרה. מאוחר יותר יוצאות חדשות על AGI פנטום שנקרא פרויקט ש*. אבל האם הכל נכון? אני אישית חושב שזה תירוץ.
המהלך של OpenAI עשוי להיות פארסה ואולי לא
בוא נלך לפי הסדר. ב-17 בנובמבר הודיעה הנהלת OpenAI על הדחת ראש החברה, תוך ציון החלטת הדירקטוריון. כנראה אלטמן"לא היה פתוח ועקבי בתקשורת עם חברי דירקטוריון, מה שכן מנע מלמלא את חובותיו. לכן, לדירקטוריון אין עוד אמון ביכולתו להמשיך להוביל את OpenAI. יחד איתו עזב גרג ברוקמן את תפקיד יו"ר הדירקטוריון, אך לבקשתו. הוא גם היה בראשית החברה. מומחים מובילים רבים אחרים הלכו בעקבותיו.
המנכ"ל הזמני, אמט שיר, מייסד שותף של שירות Twitch, תומך ב האטת קצב הפיתוח של בינה מלאכותית, דבר העולה בקנה אחד עם החזון של איליה סוצקבר, המייסד השותף של OpenAI, הנחשב לאחד המסיימים לפיטוריו של אלטמן.
כעת, ברצוני להתמקד בהיבט הזה: "האטת קצב פיתוח הבינה המלאכותית". לפי החדשות האחרונות, נראה כי פיטוריו של אלטמן נבעו מכך שהוא רץ יותר מדי. המקורות הם אישרו שגורם אחד בשורה ארוכה של תלונות מהדירקטוריון שהוביל לפיטוריו של אלטמן היה החששות לגביו מסחור ההתקדמות לפני הבנת ההשלכות שלהן.
בתמצית נראה שלאלטמן (לא ידוע אם לבד או בחברה) יש פיתח משהו שהוא מעבר לבינה מלאכותית. המשהו הזה הוא Project Q*.
אבל עכשיו אני רוצה לעשות עוד סוגריים.
התפתחויות עדכניות בלמידת מכונה ושיטות אחרות ליצירת מערכות חכמות הם למעשה לא בינה מלאכותית. אפילו דגמי השפה המתקדמים ביותר אוהבים GPT-4 טורבו הם מנבאים את המילה הבאה בהנחיה על סמך סטטיסטיקה, מבלי להבין את המהות של מה שנעשה. עם זאת, המונח בינה מלאכותית (AI) השתרש בתרבות המדיה לצד רשתות עצביות ומודלים אחרים של למידת מכונה.
במקום זאת, בינה מלאכותית מחולקת באופן כללי לשניים: מוגבלת e Generale. המוגבל הוא זה שאנו משתמשים בו מדי יום באמצעות ChatGPT, והוא מסוגל לפתור בעיות ספציפיות: משחק שח, הפקת טקסט או זיהוי אובייקטים בתמונה; הגנרל יכול להתנהג כמו מוח אנושי ולקבל החלטות בכל נושא. דוגמה: שליחות קטלנית. בקיצור, AI כללי הוא זה שמתקרב למה שנקרא AGI.
אז Project Q* הוא AGI?
על פי החדשות האחרונות נחשפו, נראה שלאחר פיטוריו וחזרתו של אלטמן, יצא מכתב (אך אין לו זכר) בו הוא מדבר על OpenAI Project Q* הנ"ל. הפרויקט כולל מערכת המסוגלת לפתור בעיות מתמטיות שלא נכללו במערך האימונים של האלגוריתם. בעיקרון, ה-AI הכללי שדיברנו עליו poco לעיל היו מגיעים.
סם אלטמן היה מפוטר בדיוק בגלל זה: הרצון (לכאורה) לשווק את ההתקדמות של AGI לפני הבנת ההשלכות שלה. אכן, אין זה סוד שחוקרים וחוקרים בתחום זה הם הזמן מבולבל לגבי הבטיחות של בינה מלאכותית כללית.
עם זאת, יש ספקות לגבי אמיתות הדיווחים האחרונים. מקורות כמו הסף הם שואלים קיומו של המכתב לדירקטוריון OpenAI והקשר בין התקדמות בינה מלאכותית לפיטוריו של סם אלטמן. למעשה, רבים חושבים שהאות היא מזויפת ושפרויקט Q* לא קיים בפועל. ההשערה היא למעשה שלפיה פרויקט זה הוקם כדי להציל את הכלכלה של OpenAI, לאור קריסת המניות בעקבות פיטוריו של אלטמן.
