Meta הוסיפה שניים חדשים מודלים לשוניים לסדרה שלו: לאמה 3 8B e לאמה 3 70B. אלה מבטיחים ביצועים מעולים בעולם הבינה המלאכותית. החדשות הכי בולטות? נוכחותם של 8 מיליארד ו-70 מיליארד פרמטרים בהתאמה. מספרים אלו מייצגים את המורכבות והיכולת של המודל להתמודד ו לעבד מידע.
Llama 3 הוא לא רק שני דגמים: עוד חומר בדרך
מטא לא עוצר שם; תוכניות ל לשחרר דגמים נוספים בסדרת Llama 3, אך מבלי לציין תאריך. אסטרטגיה זו יוצרת ציפייה וגם מדגימה את מחויבותה של החברה לשיפור מתמיד של ההצעות שלה.
I דגמי לאמה חדשים הם מתוארים כקפיצה מדגמים קודמים. שיפור זה נובע בין השאר מהשימוש ב שני אשכולות GPU מותאמים אישית, כל אחת עם 24.000 יחידות, מה שאפשרו להכשיר את הדגמים בצורה יעילה ומדויקת יותר. Meta טוענת שבגלל מספר הפרמטרים שברשותם, המודלים הללו הם בין הטובים שיש היום לבינה מלאכותית גנרטיבית.
הביצועים של Llama 3 נמדדו באמצעות מדדי AI שונים, שהם מבחנים סטנדרטיים המשמשים להערכת היכולות של מודלים AI. אלו כוללים MMLU לידע, קשת לרכישת מיומנויות, ה DROP להגיון לגבי בלוקים של טקסט. אמנם ישנן דעות שונות לגבי התועלת של אמות מידה אלה, אך הן נותרו שיטה נפוצה להערכת והשוואה של היכולות של מודלים של AI.
בפרט, Llama 3 8B התגבר על דגמי קוד פתוח דומים עם פחות פרמטרים, כגון Mistral ו- גוגל ג'מה, לפחות בתשעה מדדים שונים. זה כולל מבחנים על ידע כללי, חשיבה ומיומנויות ספציפיות בתחומים כמו ביולוגיה, פיזיקה, כימיה, ואפילו יצירת קוד ובעיות מתמטיקה. מה ש-GPT-4, למשל, לא יכול לעשות טוב מאוד.
הדגם הגדול ביותר, Llama 3 70B, לא רק מתחרה אלא מתעלה במקרים מסוימים על דגמי הדגל כגון Gemini 1.5 Pro מבית גוגל במבחנים שונים, המוכיחים שלמרות תחרות חזקה, הוא יכול לעמוד אפילו מול ענקי המגזר. עם זאת, חשוב לציין שאמנם הוא מתעלה על כמה דגמי דגל כגון קלוד 3 סונטה מאת אנתרופיק בכמה מבחנים, הוא לא מגיע לביצועים של הדגם המתקדם יותר של קלוד 3 אופוס.
