برچسب گذاری روی تصاویر تولید شده با DALL-E 3 به منظور مبارزه با اطلاعات نادرست

در عصری که کلاهبرداران از هوش مصنوعی مولد برای کلاهبرداری یا خدشه دار کردن شهرت خود استفاده می کنند، شرکت های فناوری روش هایی را برای کمک به کاربران برای تأیید محتوا – حداقل برای شروع تصاویر ثابت – ارائه می دهند. همانطور که در استراتژی اطلاعات نادرست سال 2024 خود به آن اشاره شد، OpenAI اکنون ابرداده های منشأ را در تصاویر ایجاد شده با ChatGPT در وب و API DALL-E 3 اضافه می کند و همتایان موبایل خود تا 12 فوریه همان ارتقا را دریافت می کنند.

ابرداده از استاندارد باز C2PA (Coalition for Content Provenance and Authenticity) پیروی می کند، و هنگامی که یکی از این تصاویر در ابزار تأیید اعتبار محتوا آپلود می شود، می توانید اصل و نسب آن را ردیابی کنید. به عنوان مثال، تصویری که با استفاده از ChatGPT ایجاد می‌شود، یک مانیفست فراداده اولیه را نشان می‌دهد که مبدأ API DALL-E 3 آن را نشان می‌دهد، و به دنبال آن یک مانیفست ابرداده دوم نشان می‌دهد که در ChatGPT ظاهر شده است.

با وجود فناوری رمزنگاری فانتزی پشت استاندارد C2PA، این روش تأیید تنها زمانی کار می‌کند که ابرداده دست نخورده باشد. اگر یک تصویر تولید شده توسط هوش مصنوعی بدون ابرداده آپلود کنید، این ابزار هیچ فایده ای ندارد. جای تعجب نیست که تصاویر نمونه فعلی در صفحه رسمی DALL-E 3 نیز خالی شدند. در حالی که آخرین تلاش OpenAI برای خنثی کردن محتوای جعلی در حال حاضر به تصاویر ثابت محدود شده، DeepMind گوگل از قبل دارای SynthID برای واترمارک دیجیتالی تصاویر و صدای تولید شده توسط هوش مصنوعی است. در همین حال، متا در حال آزمایش واترمارک نامرئی از طریق مولد تصویر هوش مصنوعی خود می باشد، که ممکن است کمتر مستعد دستکاری باشد.