دانشگاه ملی استرالیا [Australian National University] یک برنامه آموزشی جدید طراحی کرده که به گفته سازندگانش، توانایی افراد در تشخیص چهره‌های جعلی ساخته‌شده با هوش مصنوعی را تا ۴۰ درصد بهبود می‌بخشد. با این حال، محقق اصلی این پروژه هشدار داده که این نبرد میان انسان و فناوری، یک «بازی موش و گربه» است که پایانی ندارد.
اِمی داول [Amy Dawel]، استاد و محقق ارشد این پروژه، گفت شرکت‌کنندگان ابتدا با مجموعه‌ای از تصاویر چهره روبه‌رو می‌شوند که برخی واقعی و برخی ساخته هوش مصنوعی هستند و باید موارد جعلی را شناسایی کنند. سپس یک دوره آموزشی کوتاه می‌گذرانند و در پایان همان آزمون را تکرار می‌کنند.
داول گفت: «حتی افرادی که در تشخیص چهره بسیار ماهر هستند، در مرحله اول عملکرد ضعیفی دارند. معمولاً مردم از اینکه چقدر در این کار بدند شگفت‌زده می‌شوند و از میزان پیشرفت‌شان هم تعجب می‌کنند. هر چه اعتمادبه‌نفس بیشتری داشته باشند، اشتباهات بیشتری مرتکب می‌شوند.»
به گفته داول، نشانه‌های ساده قدیمی مانند انگشتان اضافی یا گوشواره‌های نامتقارن دیگر کارایی ندارند. او گفت: «چهره‌های ساخته‌شده با هوش مصنوعی معمولاً ظاهری کاملاً معمولی دارند و در جمعیت به چشم نمی‌آیند، که همین موضوع آن‌ها را جذاب‌تر هم نشان می‌دهد.»
شش روش تشخیص دیپ‌فیک
پژوهش پشت این برنامه آموزشی، شش ویژگی را برای شناسایی تصاویر جعلی معرفی کرده است: تمایز، به‌یادماندنی‌بودن، تناسب، تقارن، جذابیت و بیانگری.
داول تاکید کرد که تقارن بیش از حد یکی از مهم‌ترین نشانه‌هاست: «چهره‌های ساخته‌شده با هوش مصنوعی معمولاً بسیار متقارن‌اند، در حالی که چهره‌های واقعی نامنظم‌تر و دارای ویژگی‌های فردی هستند.»
او همچنین هشدار داد که سوءاستفاده از این فناوری در حال گسترش است. به گفته او، تخمین زده می‌شود که کلاهبرداری مبتنی بر هوش مصنوعی تا پایان سال آینده ۴۰ میلیارد دلار به اقتصاد جهانی خسارت وارد کند. از جعل هویت در اپلیکیشن‌های دوست‌یابی گرفته تا دسترسی غیرمجاز به حساب‌های بانکی و جعل پاسپورت، همه از جمله کاربردهای مخرب این فناوری هستند.
داول افزود: «مردم اکنون در موقعیتی هستند که می‌توانند پشت این فناوری پنهان شوند و ادعا کنند که تصاویر واقعی، دیپ‌فیک هستند. توانایی تشخیص تفاوت بسیار مهم است.»
با این حال، او پذیرفت که با پیشرفت توانایی انسان‌ها در تشخیص دیپ‌فیک، فناوری هوش مصنوعی هم بهتر خواهد شد: «این قطعاً یک بازی موش و گربه است و راه فراری از آن وجود ندارد. اما در کنار پیشرفت هوش مصنوعی، ابزارهای تشخیص آن هم بهتر می‌شوند و روان‌شناسی انسانی هم همچنان نقش مهمی دارد.»
واترمارک دیجیتال، راه‌حل آینده؟
توبی والش [Toby Walsh]، استاد دانشگاه نیوساوت‌ولز [University of NSW]، گفت پیشرفت سریع این فناوری مردم را مجبور می‌کند دائماً به آنچه می‌بینند شک کنند: «واقعیت این است که دیگر نمی‌توانیم به چشمان خودمان اعتماد کنیم. هم چیزهایی را واقعی می‌پنداریم که نیستند، هم چیزهایی را زیر سوال می‌بریم که واقعی‌اند.»
والش گفت راه مقابله با این پدیده، آموزش و استفاده از واترمارک‌های دیجیتال است. واترمارک دیجیتال یک شناسه نامرئی و قابل خواندن توسط ماشین است که به فایل‌هایی مانند تصاویر متصل می‌شود و منشأ آن‌ها را نشان می‌دهد. به گفته او، این فناوری ممکن است در آینده تنها راه تشخیص واقعی از جعلی باشد.
والش همچنین به یک خطر سیاسی اشاره کرد: «سیاستمدارانی بوده‌اند که کارها و حرف‌های واقعی خود را به عنوان دیپ‌فیک رد کرده‌اند و این همان چیزی است که هوادارانشان برای باور کردن نیاز دارند.»
ولفگانگ مایر [Wolfgang Mayer]، دانشیار علوم کامپیوتر دانشگاه آدلاید [Adelaide University]، پیشرفت این فناوری را نتیجه رقابت شدید میان غول‌های فناوری دانست: «این یک مسابقه تسلیحاتی میان شرکت‌های بزرگ فناوری است که همه می‌خواهند بهترین باشند. آن‌ها قصد ساخت دیپ‌فیک ندارند، اما این یک محصول جانبی اجتناب‌ناپذیر است.»
مایر افزود که تشخیص دیپ‌فیک دیگر به معنای یافتن نقص‌های آشکار نیست، بلکه باید به دنبال چیزی بود که نیست: «دیپ‌فیک‌ها تقریباً خیلی کامل شده‌اند. قبلاً می‌توانستیم از روی چشم‌ها، دهان یا دندان‌ها تشخیص دهیم. حالا باید به دنبال چیزی باشید که وجود ندارد؛ مثل لکه‌ها و نقص‌های پوستی که در چهره‌های واقعی هستند.”
هوش مصنوعی چه می‌گوید؟
هوش مصنوعی Gemini گوگل هم در پاسخ به درخواست برای راهنمایی در این زمینه، چند نشانه کلیدی معرفی کرد:
– دست‌ها و پاها: انگشتان اضافی، بند انگشتان ناقص یا اشکال غیرطبیعی
– پوست «پلاستیکی»: فقدان نقص‌های طبیعی مانند خطوط ریز، خال یا لک
– موهای «اسپاگتی»: مشکل در رندر کردن ریشه مو در خط رویش
این چت‌بات توصیه کرد که برای تشخیص تصاویر جعلی، حتماً بزرگ‌نمایی کنید: «تصاویر هوش مصنوعی روی صفحه کوچک گوشی بسیار واقعی به نظر می‌رسند، اما بزرگ‌نمایی ۲۰۰ تا ۳۰۰ درصد روی چشم‌ها، گوش‌ها و دست‌ها تقریباً همیشه درزهای دیجیتال را آشکار می‌کند.»
زمینه این خبر نشان می‌دهد که نگرانی از دیپ‌فیک دیگر محدود به حوزه فناوری نیست و به امنیت مالی، انتخابات، روابط شخصی و اعتماد عمومی به رسانه‌ها سرایت کرده است. از منظر تحلیلی، اهمیت این موضوع در آن است که پیشرفت ابزارهای تشخیص، بدون سواد رسانه‌ای عمومی، کافی نخواهد بود.
تحلیل خبر با دیرینه نیوز بزرگترین رسانه خبری فارسی زبانان در استرالیا
این خبر از چند منظر اهمیت دارد. نخست، راه‌اندازی یک برنامه آموزشی توسط یک دانشگاه استرالیایی نشان می‌دهد که نهادهای آکادمیک نیز به طور جدی وارد میدان مقابله با دیپ‌فیک شده‌اند. دوم، رقم ۴۰ میلیارد دلار خسارت پیش‌بینی‌شده، ابعاد اقتصادی این تهدید را به روشنی نشان می‌دهد. سوم، هشدار درباره استفاده سیاستمداران از ادعای دیپ‌فیک برای فرار از پاسخگویی، یک خطر جدی برای دموکراسی و اعتماد عمومی است.
عدم قطعیت اصلی در این گزارش آن است که هیچ‌کدام از متخصصان نمی‌توانند پیش‌بینی کنند که این مسابقه تسلیحاتی میان سازندگان دیپ‌فیک و ابزارهای تشخیص آن به کجا ختم می‌شود. آنچه مسلم است این است که آموزش عمومی و واترمارک‌های دیجیتال، در کنار هم، فعلاً بهترین سپر دفاعی موجود هستند.
منبع: Yahoo News Australia
