با گسترش ابزارهای هوش مصنوعی مولد که در سال‌های اخیر تصاویر، ویدئوها و حتی آهنگ‌ها تولید می‌کنند، گشت‌وگذار در اینترنت بدون این پرسش که آیا آنچه می‌بینیم یا می‌شنویم واقعی است یا نه، دشوار شده است. گوگل که خود یکی از بزرگ‌ترین عرضه‌کنندگان هوش مصنوعی مولد به شمار می‌رود، اکنون تشخیص محتوای تولیدشده با این فناوری را آسان‌تر کرده است. با ابزار جدید SynthID Detector، همه می‌توانند یک تصویر، ویدئو یا فایل صوتی را بررسی کنند تا مشخص شود آیا با هوش مصنوعی تولید شده است یا خیر؛ هرچند این ابزار محدودیت‌های مهمی دارد.
گوگل در سال 2023 فناوری SynthID را معرفی کرد که برچسبی نامحسوس به محتوای تولیدشده با هوش مصنوعی اضافه می‌کند. بااین‌حال، تا پیش از این امکان بررسی وجود چنین برچسبی برای کاربران عادی فراهم نبود. گوگل در سال 2025 نسخه‌ای محدود از SynthID Detector را برای برخی پژوهشگران و روزنامه‌نگاران عرضه کرد و اکنون این ابزار برای همه در دسترس قرار گرفته است. این خبر می‌تواند برای افرادی که به دنبال راهی برای بررسی تولیدشدن محتوا با هوش مصنوعی هستند خوشایند باشد، اما این ابزار به‌هیچ‌وجه بی‌خطا نیست.
SynthID Detector چگونه کار می‌کند؟
از زمان عرضه SynthID، مدل هوش مصنوعی Gemini گوگل در تمام محتوایی که تولید می‌کند، واترمارکی تعبیه کرده است. SynthID Detector با جستجوی این واترمارک، به کاربران پاسخ ساده‌ای می‌دهد: آیا چنین نشانه‌ای پیدا شده است یا خیر؟ برای استفاده از این ابزار که اکنون در دسترس عموم قرار گرفته است، کافی است به SynthID.com بروید، یک تصویر، ویدئو یا فایل صوتی بارگذاری کنید و چند ثانیه منتظر بمانید تا گوگل نتیجه را ارائه دهد.
این قابلیت در مقایسه با روش قبلی گوگل پیشرفت چشمگیری محسوب می‌شود. پیش از این، کاربران می‌توانستند مستقیماً از Gemini بپرسند که آیا محتوایی با هوش مصنوعی تولید شده است یا نه. اما برای کسانی که به هوش مصنوعی مولد اعتماد ندارند، پذیرفتن پاسخ خود Gemini دشوار است، ضمن اینکه این روش برای افرادی که اساساً می خواهند از این فناوری دوری کنند، از همان ابتدا گزینه مناسبی نیست.
SynthID Detector همچنین به کاربران امکان می‌دهد واترمارک‌های تعبیه‌شده در محتوای تولیدشده با ابزارهای شرکای گوگل در پروژه SynthID را بررسی کنند که پیش‌تر وجود نداشت. این یعنی ابزار جدید، علاوه بر محتوای تولیدشده با Gemini، می‌تواند مشخص کند که آیا رسانه موردنظر با مدل‌های هوش مصنوعی شرکت‌های OpenAI، NVIDIA و Kakao ساخته شده است یا خیر؛ اپل نیز در پروژه SynthID مشارکت دارد، اما پشتیبانی از تشخیص محتوای تولیدشده توسط این شرکت هنوز در دست توسعه است.
SynthID Detector تا چه اندازه قابل‌اعتماد است؟
ازآنجاکه SynthID Detector صرفاً به دنبال واترمارک می‌گردد و رسانه را برای یافتن الگوهایی که نشان‌دهنده استفاده از هوش مصنوعی هستند تحلیل نمی‌کند، باید احتمال مثبت کاذب را از بین ببرد. بااین‌حال، همین سادگی محدودیت‌های خاص خود را دارد. واضح‌ترین محدودیت این است که این ابزار نمی‌تواند رسانه‌هایی را که با مدل‌های هوش مصنوعی فاقد SynthID تولید شده‌اند، مانند ابزارهای متا، شناسایی کند.
SynthID Detector همچنین فقط مشخص می‌کند که آیا در فایل بارگذاری‌شده برچسبی پیدا کرده است یا خیر؛ این ابزار اطلاعاتی درباره بخش‌هایی از محتوا که با هوش مصنوعی تولید شده‌اند ارائه نمی‌دهد. گوگل می‌گوید نشانه‌های SynthID حتی پس از ویرایش محتوای تولیدشده با هوش مصنوعی نیز باقی می‌مانند. البته هیچ تضمینی وجود ندارد که افراد متقلب در نهایت راهی برای دورزدن این فناوری پیدا نکنند، اما به نظر می‌رسد این شرکت اقداماتی را برای جلوگیری از چنین اتفاقی در نظر گرفته است.
به گفته گوگل، کاربران برای جلوگیری از سوءاستفاده از نتایج ابزار و یافتن راهی برای حذف SynthID، به حدود 10 بررسی در روز محدود شده‌اند. همچنین، برای استفاده از SynthID Detector باید وارد حساب کاربری گوگل، OpenAI یا اپل خود شوید.
SynthID Detector در مقایسه با سایر ابزارهای تشخیص هوش مصنوعی چگونه عمل می‌کند؟
SynthID Detector تنها ابزار موجود برای تشخیص محتوای تولیدشده با هوش مصنوعی نیست؛ اما با وجود محدودیت‌هایش، احتمالاً یکی از قابل‌اعتمادترین گزینه‌ها به شمار می‌رود. شرکت OpenAI، یکی از شرکای SynthID، ابزار تشخیص اختصاصی خود را ارائه می‌کند که می‌تواند فراداده‌های نشان‌دهنده استفاده از هوش مصنوعی و همچنین واترمارک‌های SynthID را شناسایی کند.
متا نیز واترمارک اختصاصی خود با نام Content Seal را در محتوای تولیدشده با هوش مصنوعی تعبیه می‌کند و یک ابزار تشخیص مبتنی بر وب ارائه می‌دهد، بااین‌حال، گزارشی از خبرگزاری Reuters در سال 2026 نشان داد که این ابزار گاهی در شناسایی دقیق واترمارک‌ها ناکام می‌ماند. شرکت‌هایی مانند آنتروپیک و مایکروسافت نیز تعبیه واترمارک در رسانه‌های تولیدشده با هوش مصنوعی را آغاز کرده‌اند، اما در حال حاضر ابزارهای تشخیص این واترمارک‌ها را برای کاربران عادی ارائه نمی‌کنند.
نقطه‌ضعف تمام این ابزارها آن است که برای شناسایی یک نشانگر مشخص هوش مصنوعی طراحی شده‌اند و هنوز هیچ ابزار قابل‌اعتمادی وجود ندارد که بتواند تمام محتوای تولیدشده با هوش مصنوعی مولد را شناسایی کند. بسیاری از پژوهشگران ابزارهای اختصاصی خود را برای تشخیص محتوای تولیدشده با هوش مصنوعی توسعه داده‌اند، اما این ابزارها در دسترس عموم قرار ندارند. از سوی دیگر، ابزارهای عمومی تشخیص هوش مصنوعی که به‌صورت آزاد در دسترس هستند، نتایج قابل‌اعتمادی ارائه نمی‌کنند و ممکن است به‌اشتباه محتوای تولیدشده توسط انسان را به‌عنوان محتوای هوش مصنوعی شناسایی کنند.
هنوز نظری ثبت نشده
نظرات شما درباره «چگونه از سایت تشخیص هوش مصنوعی...»اولین نفری باشید که نظر می‌دهید!
نظرات شما می‌تواند به بهبود محتوا و کمک به دیگران کمک کند.
ثبت اولین نظر