האלגוריתם של סלילים של אינסטגרם, חלק מענק המטה, הוא הרים דאגה לשלומם של קטינים. חקירה של Wall Street Journal מגלה שעל ידי מעקב אחר דיווחים מסוימים של משפיענים צעירים, האלגוריתם החל לעשות זאת להציע תוכן לא ראוי e מִינִי, לצד פרסומות של מותגים גדולים. בקיצור, אינסטגרם מציגה תוכן למבוגרים גם למי שלא צריך.
אלגוריתם האינסטגרם השנוי במחלוקת שמציג תוכן למבוגרים (אסור) אפילו לקטינים
הבדיקה, שבוצעה על ידי Wall Street Journal, שכללו את יצירת חשבונות שנועדו לעקוב אחר משפיענים צעירים כמו מתעמלים ומעודדות, הראה כי אלגוריתם אינסטגרם החל להציע תוכן למבוגרים, כולל סרטונים מיניים הכוללים מבוגרים וקטינים, ופרסומות של מותגים ידועים בארה"ב.
החקירה העלתה מגמה מדאיגה: החשבונות שבאו בעקבות הצעירים הללו נחשפו ל-א תערובת מדאיגה של פורנוגרפיה וחומרים שעשו ילדים מיניים. מומחים במערכות המלצות אלגוריתמיות הדגישו כיצד תוכן "נישתי" כזה יכול לספק אותות חזקים יותר מאלה בעלי עניין כללי, דוחף את האלגוריתם להפנות תוכן לא הולם למשתמשים.
קראו גם: הסוד של פולצ'ינלה נחשף: מיליוני משתמשים קטינים באינסטגרם
הבעיה של צבירת תוכן למבוגרים באינסטגרם זה היה ידוע מבפנים ומניעת התפשטות כזו דורשת שינויים משמעותיים באלגוריתמי ההמלצות. עם זאת, מסמכי החברה מראים זאת לאנשי אבטחה חל איסור במידה רבה לבצע שינויים בפלטפורמה שיכול להפחית את מספר המשתמשים הפעילים היומי.
בתגובה, מטה אמרה שהיא משקיעה מיליארדים בפתרונות בטיחות, אבטחה והתאמת מותג, תוך הודאה בצורך בשיפורים נוספים. חברות שונות, ביניהן להתאים קְבוּצָה e דבורה, הם השעו או הפחיתו את הפרסום שלהם ב-Reels ופלטפורמות מטה אחרות בעקבות התגליות הללו. אחרים, כמו דיסני e הימס, לוחצים על Meta להימנע ממיקומי מודעות כאלה והביעו דאגה לגבי השיוך של המותגים שלהם לתוכן כזה.
