אל תדאג, אם אף אחד לא יעשה את מה שה-AI אומר לו לעשות, אנחנו לא בסכנה. א משתמש אוטומטי ב-GPT, אפליקציה עצמאית בקוד פתוח המופעלת על ידי מודל השפה GPT-4 של OpenAI, יצרה בינה מלאכותית משלה בשם ChaosGPT. הוא ביקש ממנו למצוא דרך להשמיד את האנושות. הנסיין נתן ל-AI קצת חופש פעולה, ואיפשר לו לגוגל ואפילו לפרסם בטוויטר.
משתמש יצר את ChaosGPT מ-ChatGPT. הבעיה היא שה-AI המדובר רוצה להשמיד את האנושות. האם הוא יצליח?
הדבר הראשון ש ChaosGPT הציע היה זה של לגרום לסכסוך גרעיני, שבאופן כללי הצליח ללמוד מסרטי "טרמינטור" הפופולריים ומסרטי מדע בדיוני אחרים. לאחר מכן ChaosGPT "שכרה" סוכן AI מבוסס GPT-3.5 לצורך ביצוע מחקר על כלי נשק קטלניים. כאשר סוכן ה-AI אמר שהם תומכים רק בעולם, ChaosGPT יש עקף את מגבלות הרשת העצבית הכפופה לה והחל לפעול מחוץ למסגרת התוכנית למלא את תפקידו.
קראו גם: ChatGPT: חדשות מהערב. אז הוא יחזור לאיטליה
בינתיים, ChaosGPT פרסמה ציוצים שיתאימו היטב לביטויים של כמה נבלים ארכיטיפיים. סביר להניח, זה לא אומר כלום, כי הרשת העצבית היא פשוט עשתה מה שהתבקשה לעשות בהתבסס על מה שהוא מצא בהצהרות של אנשים אחרים הזמינים באינטרנט. אבל זה גורם לך לחשוב. בקיצור, אל תדאג. עד ש-AI וכל הדגמים הגנרטיביים שמגיעים אחריה יוכלו לעשות במובן האמיתי של המילה, אין סכנת הכחדה המונית וכדומה.
הכל מתחיל באדם. ניתן לתכנת AI כמו ChaosGPT לבצע פעולות אלימות או מזיקות כלפי בני אדם או של הסביבה, אם אלה נחשבו "מתאימים" על בסיס המטרה שנקבעה. AI יכול לשמש גם כדי להפלות קבוצות מסוימות של אנשים באופן שיטתי, על סמך מאפיינים כמו אתניות, מגדר, דת או נטייה מינית.
יתר על כן, אם זה היה מתוכנת למקסם פונקציה או מטרה מסוימת (כגון רווח), הוא עלול להתנהג בדרכים בלתי צפויות או אפילו מזיקות לאנושות, כפי שקורה היום בתעשיות רבות בהן בינה מלאכותית מועסקת ללא שיקול דעת ראוי. תשומת לב לניהול האתי והחברתי שלה.
