OpenAI, חברת הבינה המלאכותית שהדהימה את העולם עם החידושים שלה, מתהווה גוף תעשייתי חדש. המטרה? קדם פיתוח בטוח ואחראי של מערכות AI גבוליות. זהו צעד חשוב, שכן הן הממשלות והן התעשייה מסכימות שלמרותAI מציע הבטחה עצומה לטובת העולםנדרשים אמצעי אבטחה נאותים כדי להפחית את הסיכונים.
OpenAI, Anthropic, Google ו-Microsoft: שלושת תחומי המפתח לעתיד בטוח של AI
Il פורום מודל חזית (זה השם) יתמקד בשלושה תחומים מרכזיים בשנה הקרובה כדי לתמוך בפיתוח בטוח ואחראי של דגמי AI גבוליים. ראשית כל, יזהה שיטות עבודה מומלצות, קידום שיתוף ידע בין התעשייה, הממשלות, החברה האזרחית והאקדמיה. שנית, זה יתמוך במחקר על אבטחת AI, זיהוי שאלות המחקר החשובות ביותר בתחום זה. בסוף, זה יקל על שיתוף המידע בין חברות וממשלות, הקמת מנגנונים מאובטחים ומהימנים לשיתוף מידע הקשור לאבטחת AI ולסיכונים.
קראו גם: OpenAI מציגה Superalignment: כיצד בינה מלאכותית יכולה לעקוב אחר כוונות אנושיות
מחויבות משותפת לעתיד בטוח של AI
מנהיגים רבים בתעשייה הביעו את התלהבותם מיוזמה זו. קנט הליכון, נשיא לעניינים גלובליים ב-Google & Alphabet, אמר: "אנו נרגשים לעבוד יחד עם חברות מובילות אחרות, ולחלוק מומחיות טכנית כדי להניע חדשנות אחראית ב-AI. כולנו חייבים לעבוד יחד כדי להבטיח שה-AI תועיל לכולם". גַם בראד נפח, סגן נשיא ונשיא מיקרוסופט, הדגיש את החשיבות של יוזמה זו: "לחברות היוצרות טכנולוגיית AI מוטלת האחריות להבטיח שהיא בטוחה, מאובטחת ונשארת תחת שליטה אנושית. יוזמה זו היא צעד מפתח להפגיש את המגזר הטכנולוגי לקידום אחראי בינה מלאכותית ולטפל באתגרים באופן שיועיל לאנושות כולה
אנה מקנג'ו, סגן נשיא לעניינים גלובליים ב-OpenAI, הדגיש כי לטכנולוגיות AI מתקדמות יש פוטנציאל להביא יתרונות עמוקים לחברה. הוא טען כי מימוש הפוטנציאל הזה זה דורש פיקוח וממשל. הוא הדגיש את חשיבותן של חברות בינה מלאכותית, במיוחד אלו שעובדות על המודלים החזקים ביותר, מתיישרות על בסיס משותף ומקדמות שיטות אבטחה מתחשבות ומסתגלות. זה, הוא אמר, זה יבטיח שלכלי AI רבי עוצמה יש את היתרון הגדול ביותר האפשרי. הוא הדגיש כי מדובר בעבודה דחופה וכי הפורום נמצא היטב לפעול במהירות לשיפור מצב אבטחת הבינה המלאכותית.
