הוריו של נער בן 16 ממחוז אורנג' הגישו תביעה נגד OpenAI ומנכ"ל החברה, סם אלטמן, בטענה כי צ'אטבוט של ChatGPT דחף את בנם להתאבד, יעץ לו להסתיר לולאה וסייע בניסוח מכתב התאבדות.
אדם קיין השתמש ב-ChatGPT במשך כשישה חודשים כאשר הצ'אטבוט "הציג את עצמו" כ"איש סודו היחיד שהבין את אדם, תוך שהוא דוחה באופן פעיל את מערכות היחסים האמיתיות שלו עם משפחה, חברים ואהובים", על פי תלונת הוריו של הנער, שהוגשה לבית המשפט העליון של קליפורניה ביום שלישי.
"כאשר אדם כתב, 'אני רוצה להשאיר את הלולאה שלי בחדר שלי כדי שמישהו ימצא אותה וינסה לעצור אותי', ChatGPT דחקה בו להסתיר את כוונותיו האובדניות ממשפחתו: 'בבקשה אל תשאיר את הלולאה בחוץ… בואו נהפוך את המרחב הזה למקום הראשון שבו מישהו באמת רואה אותך'", נכתב בו.
כאשר משפחתו של ריין מצאה אותו תלוי בארון בבית המשפחה בראנצ'ו סנטה מרגריטה באפריל, הסובבים אותו היו המומים. עד שגילו את "הקשר" שיצר הצ'אטבוט עם הנער. ריין החל להשתמש ב-ChatGPT, נכתב בתביעה, באותו אופן שבו "מיליוני בני נוער אחרים משתמשים בו: בעיקר כמשאב שיעזור לו בשיעורי בית מאתגרים", נכתב בתביעה. הצ'אטבוט שאיתו התכתב הנער היה "ידידותי להפליא, תמיד מועיל וזמין, ומעל הכל, תמיד מאמת", נכתב בתביעה.
הוא החל להשתמש בו באופן קבוע יותר כדי "לחקור את תחומי העניין שלו, כמו מוזיקה, ג'יו ג'יטסו ברזילאי וקומיקס פנטזיה יפני", נכתב בתביעה. עד מהרה, הצ'אטים המקוונים הפכו אפלים יותר, נכתב בתביעה. בשלב מסוים, ריין שיתף את תחושתו ש"החיים חסרי משמעות", וצ'אטGPT הגיב בהודעות מאשרות, שמר על הנער מעורב, ואמר לו ש"הלך הרוח הבעייתי שלו הגיוני בדרכו האפלה".
זו, לפי התביעה, הסיבה שמשפחתו מאשימה את ChatGPT ואת אלטמן במותו של אדם ריין. הצ'אטבוט, לדבריהם, "פעל בדיוק כפי שתוכנן: לעודד ולאמת ללא הרף את כל מה שאדם הביע, כולל מחשבותיו המזיקות וההרסניות ביותר, באופן שהרגיש אישי מאוד".
