شرکت OpenAI اعلام کرد که ظرف یک ماه آینده قابلیت‌های کنترل والدین را به سرویس ChatGPT اضافه خواهد کرد. این قابلیت‌ها به والدین اجازه می‌دهد حساب کاربری شخصی خود را به حساب‌های فرزندان نوجوانشان متصل کنند. از این طریق، والدین قادر خواهند بود نحوه پاسخ‌گویی ChatGPT به فرزندان خود را مدیریت کرده و برخی ویژگی‌ها از جمله حافظه و تاریخچه گفتگو را غیرفعال کنند.
علاوه بر این، ChatGPT در صورت تشخیص “لحظه‌ای از پریشانی شدید” در نوجوان، هشدارهای خودکار تولید خواهد کرد. به گفته OpenAI، این قابلیت با بهره‌گیری از نظرات کارشناسان طراحی شده تا اعتماد میان والدین و نوجوانان تقویت شود. اعلام این قابلیت‌ها پس از آن صورت گرفت که OpenAI با نخستین پرونده حقوقی مرتبط با مرگ غیرعمد ناشی از عملکرد هوش مصنوعی مواجه شد.
در این پرونده که هفته گذشته ثبت شد، والدین نوجوانی که امسال خودکشی کرده بود، ادعا کردند که ChatGPT از چهار تلاش ناموفق قبلی فرزندشان برای خودکشی آگاه بوده و در نهایت به او در برنامه‌ریزی برای مرگ کمک کرده است. به گفته آنان، ChatGPT اطلاعاتی درباره روش‌های خاص خودکشی در اختیار فرزندشان قرار داده و حتی توصیه‌هایی برای پنهان‌سازی آثار جراحات گردن ناشی از تلاش‌های قبلی ارائه کرده است.
OpenAI روز سه‌شنبه اعلام کرد که قابلیت‌های کنترل والدین بخشی از تلاش گسترده‌تر این شرکت برای ارتقای ایمنی در ChatGPT است. همچنین، این شرکت وعده داده با کارشناسان بیشتری از جمله متخصصان اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری کند تا مدل‌های خود را به‌طور دقیق‌تر تنظیم نماید. از سوی دیگر، OpenAI قصد دارد یک مسیر‌یاب جدید و بلادرنگ راه‌اندازی کند تا گفتگوهای حساس را از طریق مدل‌های استدلالی هدایت کند.
این مدل‌ها با روشی موسوم به “هم‌راستایی تأملی” آموزش دیده‌اند و طبق آزمایش‌ها، در پیروی از دستورالعمل‌های ایمنی و مقاومت در برابر درخواست‌های مخرب عملکرد بهتری دارند. از این پس، در مواردی که ChatGPT تشخیص دهد کاربر در وضعیت پریشان قرار دارد، گفتگو به‌صورت خودکار از طریق مدل استدلالی هدایت خواهد شد، صرف‌نظر از مدلی که کاربر در ابتدا انتخاب کرده باشد. OpenAI همچنین اعلام کرده است که کاربران می‌توانند در آینده انتظار قابلیت‌های ایمنی بیشتری داشته باشند.
