לאחרונה, אמזון הושקה צ'טבוט הבינה המלאכותית שלה Amazon Q, מעורר עניין מצד חברות, אך גם דאגות בקרב העובדים לגבי בעיות דיוק ופרטיות רציניות. Q דווח על "הזיות של לא poco מעשייה" וחשפו נתונים סודיים, מה שמעלה שאלות לגבי אבטחת מידע החברה. להלן הפרטים שנחשפו על ידי פלטפורמה.
התראת אבטחה עבור Amazon Q: בין נתונים סודיים לתשובות שגויות
אמזון בעברית הוא הציג הצ'אטבוט של ה-AI שלו, שנקרא Q, לפני שלושה ימים, אבל לא נראה שהכל הולך כמתוכנן. חלק מהעובדים הביעו אזעקה בגלל סוגיות של דיוק ופרטיות: אמזון Q הייתה מביאה לידי ביטוי "הזיות" וחושפת מידע סוֹדִי, כגון מיקום מרכזי הנתונים של AWS, תוכניות הנחות פנימיות ותכונות שטרם שוחררו.
מידע זה עלה ממסמכים שהודלפו והושגו על ידי פלטפורמה, הדגשת א בעיית אבטחה ברמה 2, מצב חמור הדורש התערבות דחופה של מהנדסים.
למרות זאת, אמזון הפחיתה מחשיבות הדיונים הפנימיים הללו. דובר אמר את השיתוף של משוב בערוצים פנימיים הוא נוהג מקובל באמזון וכי לא זוהו בעיות אבטחה כתוצאה מהמשוב הזה. החברה הדגישה את חשיבות המשוב שהתקבל ואת הרצון להמשיך שפר את Amazon Q כשהיא עוברת מתצוגה מקדימה לזמינות כללית.
Amazon Q, הזמינה כעת בתצוגה מקדימה בחינם, הוצגה כ- גרסת תוכנה ארגונית של צ'אט בוט, עם פונקציות ראשוניות שמטרתן לענות על שאלות מפתחים על AWS, שינוי קודי מקור וציטוט מקורות. אמזון הדגישה את האבטחה והפרטיות של Q, תוך ניגוד שלה לכלים ברמה צרכנית כמו ChatGPT.
עם זאת, מסמך פנימי חשף ש-Q יכול "להזות" ולספק תגובות מזיקות או לא הולמות, כגון מידע אבטחה מיושן מה שעלול לסכן את חשבונות הלקוחות. סיכונים אלו אופייניים למודלים של שפות גדולות, שכולם נוטים לספק תגובות שגויות או לא הולמות לפחות בהזדמנויות מסוימות.
ויה | Slashdot
