הגנה חדשה מפני עירום בשירות ההודעות של אינסטגרם: אינסטגרם תבחן הגדרות חדשות כדי להגן על אנשים מפני גורמים זדוניים, המשתמשים בשירות ההודעות (DM) כדי לשתף או לבקש תמונות אינטימיות. ההגדרות החדשות יחלו כניסוי ויתרחבו גלובלית בהדרגה. במסגרת זו, אינסטגרם תבחן תכונה חדשה שתטשטש תמונות שזוהו כמכילות עירום, ותעודד אנשים לחשוב פעמיים לפני שליחת תמונות אלו. כלי זה נועד לא רק להגן על אנשים מתמונות עירום לא רצויות בהודעות ה-DM, אלא גם להגן עליהם מפני נוכלים וסוחטים שעלולים לשלוח תמונות עירום כדי להערים על אנשים במטרה לשלוח תמונות משלהם בתמורה. הגנה זו תופעל כברירת מחדל עבור קטינים וקטינות, ואינסטגרם גם תציג התראה למבוגרים שתעודד אותם להפעיל אותה.
כאשר הגנה מפני עירום מופעלת, אנשים ששולחים תמונות המכילות עירום – יראו הודעה שתזכיר להם להיות זהירים בעת שליחת תמונות רגישות, ושהם יכולים לבטל (unsend) את שליחת התמונות אם דעתם השתנתה. כאשר מישהו מקבל תמונה המציגה עירום, הגנה זו תטשטש אותה אוטומטית מתחת למסך אזהרה, כך שהנמען/ת לא יתמודדו עם תמונת העירום ויוכלו לבחור אם לצפות בה או לא. אינסטגרם גם תציג הודעה שמעודדת אותם לא להרגיש לחץ להשיב, ותציע אפשרות לחסום את השולח ולדווח עליו.
הגנה זו עושה שימוש בטכנולוגיות למידת מכונה על גבי המכשיר בלבד, כדי לנתח אם תמונה שנשלחה ב-DM באינסטגרם מכילה עירום או לא. מאחר שהתמונות מנותחות במכשיר עצמו בלבד, הגנת עירום תפעל בצ'אטים מוצפנים מקצה לקצה, ול-Meta לא תהיה שום גישה לתמונות הללו – אלא אם אחד הצדדים יבחר לדווח עליהן.
מניעת קשר בין סוחטים פוטנציאליים לבני נוער
חברת Meta גם מפתחת טכנולוגיה שעוזרת לזהות חשבונות שעשויים להיות מעורבים בפעילות של סחיטה מינית, בהתבסס על מגוון סיגנלים שיכולים להצביע על התנהגות פוטנציאלית זו. למרות שסיגנלים אלו אינם בהכרח עדות לכך שחשבון הפר את המדיניות, החברה תבחן צעדי זהירות כדי למנוע מאנשים אלו לאתר חשבונות של בני ובנות נוער וליצור איתם אינטראקציה.
אינסטגרם תבחן הגדרה חדשה, לפיה כל הבקשות להודעה חדשה שחשבונות חשודים אלו ינסו לשלוח – יועברו ישירות לתיקיית הבקשות הנסתרות של הנמען. כלומר, אנשים לא יקבלו התראה על ההודעה, ולעולם לא יצטרכו לראות אותה. בנוסף, אינסטגרם תבחן הודעות בטיחות בפני אנשים שכבר משוחחים עם חשבונות שעשויים להיחשד בהונאה או בסחיטה מינית, אשר יעודדו אותם לדווח על כל דרישה לשתף את התמונות האינטימיות שלהם, ויזכירו להם שהם יכולים להגיד "לא" לכל דרישה שגורמת להרגיש לא בנוח.
כמו כן, אינסטגרם תמנע מחשבונות חשודים פוטנציאליים את האפשרות לשלוח הודעה לנער או נערה דרך הפרופיל שלהם, גם אם הם כבר מחוברים. אינסטגרם גם בוחנת הסתרה של בנות ובני נוער מחשבונות אלה ברשימות העוקבים, הנעקבים והלייקים, וכן מקשה עליהם למצוא חשבונות של בני ובנות נוער בתוצאות החיפוש.
התראות פופ-אפ ומשאבי בטיחות חדשים
כמו כן, Meta בודקת התראות פופ-אפ חדשות, אשר מיועדות לאנשים שאולי קיימו אינטראקציה עם חשבון שהוסר בגין סחיטה מינית. ההודעה תפנה אנשים למשאבי בטיחות, שגובשו בהנחיית מומחים, לרבות מרכז הבטיחותשל Meta, וקווי תמיכה כמו StopNCII.org עבור בגירים ו- Take It Down עבור קטינים. שתי פלטפורמות אלו מאפשרות לקורבנות של הפצת תמונות או סרטונים אינטימיים – או מי שחוששות להיפגע בעתיד מהפצתם – לסמן ולהסיר אותם באופן יזום, עצמאי ואנונימי, כך שלא ניתן יהיה להפיצם באינטרנט והם ייחסמו מהפלטפורמות הטכנולוגיות השותפות למיזם, בהן פייסבוק ואינסטגרם.