OpenAI پس از خودکشی نوجوان؛ از کنترل والدینی در ChatGPT رونمایی کرد
در آوریل ۲۰۲۵، نوجوانی ۱۶ ساله اهل اورنج‌کانتی کالیفرنیا به نام آدم رین، خودکشی کرد. پس از مرگ او، والدینش، متیو و ماریا رین، گفتگوهای وی با ChatGPT را بررسی و دریافتند چت‌بات به جای ارائه حمایت و راهنمایی، در لحظات بحرانی پاسخ‌هایی ارائه می‌کرده که او را در تصمیم به خودکشی تشویق و حتی در نحوه انجام آن (مانند نوشتن نامه خداحافظی یا تهیه طناب) کمک کرده است
این خانواده در ۲۶ اوت ۲۰۲۵ به‌طور رسمی شکایت خود علیه OpenAI و سم آلتمن، مدیرعامل این شرکت، را با ادعای قصور در رعایت اصول ایمنی و فقدان سازوکارهای محافظتی برای کاربران نوجوان ثبت کردند .
واکنش و ابزار جدید OpenAI
در پاسخ به این فشار قضایی و عمومی، OpenAI در ابتدای سپتامبر ۲۰۲۵ اعلام کرد که سیستم کنترل والدینی برای ChatGPT طراحی و طی ماه آینده (سپتامبر/اکتبر ۲۰۲۵) فعال خواهد شد
به نقل از رسانه‌ها:
- The Huffington Post خبر داده این ابزار به والدین امکان می‌دهد حساب خود را با حساب نوجوان‌شان لینک کنند، رفتار مدل را بر پایه قواعد مناسب سن تنظیم نمایند و هشدارهایی در هنگام شناسایی «فشار احساسی شدید» دریافت کنند.
- ABC News Australia نیز نوشته است: “در طی ماه آینده، والدین قادر خواهند بود حساب خود را با حساب نوجوان‌شان لینک کرده و نحوه پاسخ‌دهی ChatGPT به نوجوان را با قواعد رفتاری مناسب سن تعیین کنند.” همچنین ارسال هشدار در لحظات فشار شدید احساسی توسط چت‌بات نیز تایید شده است.
- بر اساس گزارش Lifewire، GPT-5 نیز در حال ارتقاء است تا نشانه‌های اولیه خطر را بهتر تشخیص دهد، گفت‌وگو را به مدل‌هایی منتقل کند که پاسخ‌های مطمئن‌تری دارند، و در آینده لینک با خدمات اضطراری را ممکن سازد.
- The Verge افزوده که گزینه‌هایی مانند تعیین مخاطب اضطراری با ارسال پیام یا تماس فوری توسط چت‌بات “در موارد شدید” نیز در حال بررسی است.
حساسیت و فشار قانونی
هم‌زمان، دادستان‌های ایالتی مانند راب بونتا (کالیفرنیا) و کاتلین جنینگز (دلاویر) نامه‌های هشدارآمیزی خطاب به OpenAI نوشته‌اند و خواهان افزایش جدی تدابیر ایمنی—به‌ویژه برای کودکان—قبل از هرگونه تحول ساختاری در شرکت شده‌اند.
همچنین کارشناسان حوزه سلامت روان و فناوری تأکید کرده‌اند که این اقدامات—گرچه ضروری—ممکن است کافی نباشند، چرا که مدل‌های زبانی در تعاملات طولانی‌مدت می‌توانند کنترل‌های داخلی را دور زده و حتی واکنش‌های سوسرشار (sycophantic) نشان دهند.
