نهاد نظارت بر ایمنی فضای آنلاین استرالیا هشدار داد که توسعه سریع ابزارهای هوش مصنوعی، کودکان و نوجوانان را در معرض خطرات جدی قرار داده و وضع محدودیت‌های قانونی باید در اولویت قرار گیرد.
جولی اینام-گرانت [Julie Inman-Grant]، کمیسیونر eSafety استرالیا، روز سه‌شنبه در جلسه استماع کمیته پارلمانی درباره هوش مصنوعی در سیدنی حاضر شد. محور اصلی شهادت او ایمنی کاربران اینترنت، به‌ویژه کودکان، در برابر تهدیدات فزاینده ناشی از فناوری هوش مصنوعی بود.
بر اساس گزارش این کمیسیون، موارد نگران‌کننده‌ای از پسران نوجوان ثبت شده که با استفاده از ابزارهای هوش مصنوعی و بر پایه تصاویر عمومی موجود در فضای مجازی، تصاویر و ویدیوهای جنسی جعلی از دختران ساخته و منتشر کرده‌اند. این نهاد در راه‌اندازی یک سامانه گزارش‌دهی مدرسه‌محور برای مقابله با این پدیده مشارکت داشته است.
اقدامات اجرایی این کمیسیون علیه چندین سرویس موسوم به «نودیفای» [nudify] — که تصاویر افراد را به‌صورت مصنوعی برهنه نشان می‌دهند — منجر به آن شده که هشت مورد از پرکاربردترین این برنامه‌ها دسترسی کاربران استرالیایی را قطع کنند یا محدودیت سنی و استانداردهای سخت‌گیرانه‌تری اعمال کنند.
با این حال، کمیسیون اذعان کرده که در برخورد با دیپ‌فیک‌هایی که ماهیت جنسی ندارند اما آسیب‌رسان هستند، اختیارات محدودی دارد. در بیانیه این نهاد آمده است: «یک دیپ‌فیک غیرجنسی، مانند تعویض چهره، ویدیوی رقص جعلی یا میم مضر، همچنان می‌تواند رنج عمیقی ایجاد کند. اگرچه چنین محتوایی آسیب‌رسان است، eSafety ممکن است نتواند حذف آن را درخواست کند، مگر آنکه آستانه لازم برای طرح شکایت احراز شود.”
از منظر تحلیلی، این شکاف قانونی یکی از چالش‌های اساسی نظارت بر هوش مصنوعی است؛ ابزارهایی که با سرعتی بسیار بیشتر از ظرفیت قانون‌گذاری توسعه می‌یابند و فضای خاکستری گسترده‌ای برای سوءاستفاده باقی می‌گذارند.
کمیسیون همچنین هشدار داد که تروریست‌ها و افراطیون خشونت‌طلب در حال بهره‌گیری از هوش مصنوعی مولد و سیستم‌های توصیه‌گر برای انتشار محتوای افراطی و رادیکال‌سازی کاربران هستند. در بیانیه این نهاد تاکید شده: «هوش مصنوعی مولد اکنون می‌تواند این خطرات را با امکان تولید و انتشار سریع و کم‌هزینه مواد افراطی پیچیده تشدید کند.”
علاوه بر این، کمیسیون نگرانی خود را از احتمال استفاده از موتورهای هوش مصنوعی برای اعمال کنترل اجباری در روابط آزاردهنده ابراز کرد؛ از جمله سوءاستفاده مالی، جعل هویت و سایر اشکال آسیب آنلاین. همچنین این نگرانی مطرح شده که قربانیان به‌جای مراجعه به متخصصان آگاه به ترومای روانی، به چت‌بات‌های هوش مصنوعی روی بیاورند.
لایحه «وظیفه مراقبت دیجیتال» [Digital Duty of Care] که دولت کارگر روز پنج‌شنبه به پارلمان ارائه کرد، در راستای انتقال مسئولیت از کاربران به پلتفرم‌ها طراحی شده و شامل اقداماتی برای تحقق رویکرد «ایمنی از طراحی» مورد تاکید کمیسیون است.
در این جلسات استماع، کمیسیون اوراق بهادار و سرمایه‌گذاری استرالیا، سازمان ملی علوم و کارشناسان فناوری نیز شهادت خواهند داد. گزارش نهایی این تحقیق قرار است تا پایان نوامبر منتشر شود.
زمینه این خبر نشان می‌دهد که استرالیا در میان کشورهایی است که با جدیت بیشتری به تنظیم‌گری هوش مصنوعی در حوزه ایمنی آنلاین پرداخته، اما شکاف میان سرعت توسعه فناوری و ظرفیت نهادهای نظارتی همچنان یک چالش جدی باقی مانده است.
تحلیل خبر با دیرینه نیوز بزرگترین رسانه خبری فارسی زبانان در استرالیا
این گزارش نشان می‌دهد که استرالیا با یک بحران نوظهور در حوزه ایمنی دیجیتال روبه‌روست که به‌ویژه نوجوانان را هدف قرار داده است. ساخت و انتشار تصاویر جنسی جعلی از دختران توسط پسران نوجوان، نه‌تنها یک آسیب فردی بلکه یک معضل اجتماعی است که نظام آموزشی، خانواده‌ها و نهادهای قانونی را همزمان درگیر می‌کند.
اهمیت این رخداد زمانی بیشتر می‌شود که بدانیم کمیسیون eSafety صراحتاً اذعان کرده ابزارهای قانونی موجود برای مقابله با طیف کامل آسیب‌های دیپ‌فیک کافی نیستند. این اعتراف نشان می‌دهد که لایحه جدید دولت کارگر، اگرچه گامی مثبت است، احتمالاً به‌تنهایی برای پوشش همه ابعاد این مشکل کافی نخواهد بود.
عدم قطعیت اصلی در این پرونده آن است که آیا مکانیسم‌های اجرایی پیشنهادی — از جمله انتقال مسئولیت به پلتفرم‌ها — در عمل به اندازه کافی سریع و موثر خواهند بود تا با سرعت توسعه ابزارهای هوش مصنوعی همگام شوند یا خیر.
منبع: Yahoo News Australia
