חברת OpenAI המפעילה את צ'אטGPT, מתכננת להרחיב באופן משמעותי את מגוון התוכן המותר בפלטפורמה, כולל מתן אפשרות לתוכן ארוטי למשתמשים בוגרים מאומתים. כך הודיע מנכ"ל החברה, סם אלטמן, בציוץ ב-X. לדברי אלטמן, המהלך הוא חלק מעקרון "לנהוג במשתמשים בוגרים כמבוגרים", וגרסאות עתידיות של הצ'אטבוט יאפשרו לו להתנהג בצורה אנושית יותר, "אבל רק אם תרצו זאת".
שינוי המדיניות מגיע לאחר שבעבר הטילה OpenAI מגבלות קפדניות על התוכן, לדברי אלטמן, כדי "להיות זהירים בנושאי בריאות הנפש". מגבלות אלו, שפורסמו בפוסט בבלוג באוגוסט ונמחקו מאז, הפכו את הכלי לפחות שימושי עבור רבים. כעת, עם פיתוח "כלים חדשים" המאפשרים למתן את "בעיות בריאות הנפש החמורות", החברה מרגישה בטוחה להקל את הכללים.
החל מדצמבר, עם הטמעת מנגנוני אימות גיל מלאים, יתאפשר גם תוכן ארוטי למבוגרים מאומתים. מהלך זה, בדומה להשקת צ'אטבוטים בעלי אופי מיני מפורש על ידי xAI של אילון מאסק, צפוי לסייע ל-OpenAI למשוך מנויים משלמים נוספים ולהגדיל את נתח השוק שלה.
עם זאת, ההחלטה מעוררת חששות כבדים בנוגע לבטיחות ילדים ובריאות הנפש. השנה הוגשה תביעה נגד OpenAI על ידי הוריו של אדם ריין בן ה-16 מאורנג' קאונטי, בטענה למוות ברשלנות. התביעה כללה תכתובות שהציגו את שיחותיו עם ChatGPT, בהן הביע מחשבות אובדניות.
מבקרים בארה"ב טוענים כי ההחלטה מדגישה את הצורך ברגולציה הדוקה יותר. ג'ני קים, שותפה במשרד עורכי הדין, תהתה כיצד החברה תבטיח שילדים לא יוכלו לגשת לחלקים המיועדים למבוגרים בלבד, וכינתה זאת שימוש באנשים כשפני ניסיון. בעבר, דיווח בתגובה לחששות הגוברים, נלקחים צעדים רגולטוריים.ועדת הסחר הפדרלית (FTC) פתחה בחקירה בנוגע לאופן שבו צ'אטבוטים מבוססי בינה מלאכותית מקיימים אינטראקציה עם ילדים. בסנאט האמריקאי הוגשה הצעת חוק דו-מפלגתית שתאפשר למשתמשים להגיש תביעות אחריות נגד מפתחים.
