شرکت OpenAI شروع به عرضه حالت قفل (Lockdown Mode) کرده است؛ یک تنظیمات امنیتی اختیاری که برای ارائه محافظت پیشرفته به کاربران در برابر حملات تزریق پرامپت طراحی شده است. برای کسانی که آشنایی ندارند، تزریق پرامپت نوعی مهندسی اجتماعی است که مخصوص چتباتهای مکالمهای است. از آنجایی که سیستمهای هوش مصنوعی در گرفتن اطلاعات از اینترنت بهتر شدهاند، افراد شروع به پنهان کردن دستورالعملهای مخرب در صفحات وب و مکانهای دیگر کردهاند تا سعی کنند آن سیستمها را فریب دهند.
OpenAI حالت قفل را به عنوان نوعی آخرین خط دفاعی در برابر تزریق پرامپت معرفی میکند که بر اساس محافظتهای قویای ساخته شده که به گفته خود، در حال حاضر از طریق ChatGPT، مدلها و سیستمهای پشتصحنه خود ارائه میدهد. OpenAI توضیح میدهد:
حالت قفل برای همه در نظر گرفته نشده است. این حالت برای افراد و سازمانهایی طراحی شده است که با دادههای حساس کار میکنند و خواهان محافظت سختگیرانهتری در برابر خطرات خروج داده مرتبط با تزریق پرامپت هستند.
برای این منظور، فعال کردن حالت قفل برخی از ویژگیهایی را که OpenAI از طریق ChatGPT و سایر محصولات خود ارائه میدهد، محدود میکند. به عنوان مثال، شما هنوز هم میتوانید از تولید تصویر استفاده کنید و عکسها را در ChatGPT آپلود کنید، اما ممکن است تصاویر را از اینترنت دریافت نکند یا هیچ تصویری را در داخل یک پاسخ نمایش ندهد. چتبات همچنین نمیتواند فایلها را برای تجزیه و تحلیل دانلود کند، اگرچه شما همچنان میتوانید اسناد را برای دریافت بینش آن به صورت دستی آپلود کنید. سایر ویژگیها، مانند تحقیقات عمیق و حالت عامل، به طور کامل غیرفعال میشوند. OpenAI اضافه میکند:
حالت قفل حافظه، آپلود فایل، قابلیت به اشتراک گذاری یک مکالمه، یا اینکه آیا مکالمات شما ممکن است برای بهبود مدلها استفاده شوند را تغییر نمیدهد. بسیاری از این تنظیمات به طور جداگانه توسط مدیران فضای کاری قابل پیکربندی هستند.
این شرکت همچنین خاطرنشان میکند که حالت قفل از ظاهر شدن تزریق پرامپت در محتوایی که ChatGPT پردازش میکند، جلوگیری نمیکند. در عوض، برای جلوگیری از استخراج دادههای حساس از حساب شما توسط یک مهاجم، با محدود کردن درخواستهای شبکه که ممکن است فردی از آنها سوء استفاده کند، طراحی شده است. حالت قفل برای همه حسابهای شخصی، از جمله آنهایی که از چتجیپیتی از طریق لایه رایگان OpenAI استفاده میکنند، در دسترس است.
برای فعال کردن آن، منوی تنظیمات چتجیپیتی را باز کرده و Safety and security را انتخاب کنید. در بخش Advanced security، روی Lockdown mode ضربه بزنید و کلید را روشن کنید. میتوانید محافظت اضافی را به طور موقت با انتخاب Manage از پیام وضعیتی که در بالای پنجره چت ظاهر میشود و انتخاب Turn off for this chat، غیرفعال کنید. به طور جداگانه، OpenAI در حال عرضه یک مدیر جلسه فعال است که به کاربران امکان میدهد هر دستگاه یا مرورگری را که برای دسترسی به حسابشان استفاده شده، مشاهده کنند.
از آنجا، شرکت گزینه خروج از جلسات فردی یا همه جلسات را به یکباره ارائه میدهد. فقط توجه داشته باشید که مورد دوم میتواند تا 30 دقیقه طول بکشد. این شرکت افزود که اگر به فعالیت غیرمجاز در حساب خود مشکوک هستید، رمز عبور خود را در صورت استفاده تغییر دهید، روشهای ورود خود را بررسی کنید و با پشتیبانی OpenAI تماس بگیرید.
