شرکت Nvidia چند روز پس از آن که مدیرعامل آن، جنسن هوانگ [Jensen Huang]، رویکرد ایمنی دو غول هوش مصنوعی را زیر سوال برد، پلتفرم جدیدی با نام «Open Agent Safety Platform» معرفی کرد که هدف آن کمک به توسعه‌دهندگان برای اعمال حفاظ‌های امنیتی در عامل‌های هوش مصنوعی است.
هوانگ در بیانیه رسمی این شرکت اعلام کرد: «پتانسیل شگفت‌انگیز هوش مصنوعی برای جامعه تنها زمانی محقق می‌شود که مسئله ایمنی را حل کنیم. باید کشف مرزهای ایمنی را به همان سرعتی که قابلیت‌های هوش مصنوعی را توسعه می‌دهیم، شتاب بخشیم. ایمنی و امنیت به مهندسی کامل‌پشته نیاز دارند.»
هفته گذشته، هوانگ در گفت‌وگو با ازرا کلاین [Ezra Klein] از نیویورک‌تایمز، در واکنش به هشدارهای داریو آمودئی [Dario Amodei]، مدیرعامل Anthropic، و سم آلتمن [Sam Altman]، مدیرعامل OpenAI، درباره خطرات سرعت توسعه هوش مصنوعی برای بشریت، موضع صریحی اتخاذ کرد.
هوانگ در پادکست «The Ezra Klein Show» گفت: «اگر محصولت آماده عرضه نیست، آن را عرضه نکن. این اولین باری است که می‌شنوم یک شرکت یا مدیرعامل می‌گوید به کاهش مسئولیت قانونی محصول نیاز دارم تا بتوانم سرعتم را تنظیم کنم.»
وی بارها رویکرد آزمایشگاه‌های پیشرو هوش مصنوعی را «عجیب» توصیف کرد و استدلال کرد که همان شرکت‌هایی که خواستار کند شدن توسعه هستند، بیشترین سرمایه‌گذاری را در زیرساخت محاسباتی انجام می‌دهند. هوانگ گفت: «هیچ‌کس امروز بیشتر از کسانی که می‌خواهند کند شوند، زیرساخت محاسباتی نمی‌سازد. این برایم عجیب است.»
او همچنین تاکید کرد که افراد زیادی در این دو آزمایشگاه می‌شناسد که می‌دانند مشکل چیست و در حال رفع آن هستند.
در چارچوب تحولات اخیر، این اظهارات هوانگ در حالی مطرح می‌شود که بحث درباره نحوه تنظیم‌گری هوش مصنوعی در سطح جهانی شدت گرفته و شرکت‌های بزرگ این حوزه رویکردهای متفاوتی در قبال ریسک‌های ناشی از توسعه سریع اتخاذ کرده‌اند.
پلتفرم جدید Nvidia قرار است صنعت، پژوهشگران و سازمان‌های بخش عمومی را برای به اشتراک‌گذاری بهترین شیوه‌ها، هماهنگی در روش‌های ارزیابی و تقویت همکاری بین‌المللی گرد هم آورد. هوانگ در بیانیه افزود: «با هم می‌توانیم سطح ایمنی هوش مصنوعی را در سراسر جهان ارتقا دهیم.»
هوانگ در گفت‌وگو با کلاین پیشنهاد کرد آزمایشگاه‌های هوش مصنوعی اولویت‌های خود را بازتنظیم کنند. او گفت: «وقتی می‌گویم باید فناوری هوش مصنوعی را شتاب دهیم، مردم به دلایلی فکر می‌کنند ایمنی بخشی از آن نیست. ایمنی بخشی از آن است. هم‌راستایی بخشی از آن است. ارزیابی، گاردریل‌گذاری، سندباکسینگ، فناوری ایزولاسیون، پایش و تله‌متری — همه اینها فناوری هوش مصنوعی هستند. باید با تمام توان روی اینها شتاب گرفت.»
کلاین در این گفت‌وگو اشاره کرد که اگر نگران‌ترین افراد در آزمایشگاه‌ها مطمئن می‌شدند که ۸۰ درصد از منابع محاسباتی به ایمنی و هم‌راستایی اختصاص می‌یابد نه به توسعه قابلیت‌ها، احساس بهتری داشتند. هوانگ در پاسخ گفت: «بله، چه چیزی مانع از انجام این کار می‌شود؟»
از منظر تحلیلی، اهمیت این موضوع در آن است که Nvidia به‌عنوان بزرگترین تامین‌کننده سخت‌افزار هوش مصنوعی، اکنون وارد حوزه‌ای شده که پیش از این عمدتاً در اختیار آزمایشگاه‌های نرم‌افزاری بود. این حرکت می‌تواند نشان‌دهنده تلاش این شرکت برای تعریف روایت ایمنی هوش مصنوعی از موضع یک بازیگر سخت‌افزاری باشد، نه صرفاً یک ناظر.
اهمیت این رخداد زمانی بیشتر می‌شود که توجه کنیم Nvidia در حال حاضر از نظر ارزش بازار در صدر شرکت‌های فناوری جهان قرار دارد و موضع‌گیری آن در قبال ایمنی هوش مصنوعی می‌تواند بر سیاست‌گذاری‌های این حوزه تاثیر قابل توجهی بگذارد.
تحلیل خبر با دیرینه نیوز بزرگترین رسانه خبری فارسی زبانان در استرالیا
این خبر از چند جهت حائز اهمیت است. نخست، راه‌اندازی پلتفرم ایمنی توسط Nvidia نشان می‌دهد که رقابت بر سر تعریف استانداردهای ایمنی هوش مصنوعی از حوزه نرم‌افزار به حوزه سخت‌افزار نیز کشیده شده است. دوم، اختلاف دیدگاه آشکار میان هوانگ و مدیران ارشد Anthropic و OpenAI بر سر نحوه مدیریت ریسک‌های هوش مصنوعی، شکافی را در درون اکوسیستم این صنعت نمایان می‌کند که پیامدهای آن برای سیاست‌گذاری و تنظیم‌گری قابل توجه است.
هوانگ استدلال می‌کند که ایمنی باید از طریق شتاب فناورانه حل شود، نه کند کردن توسعه؛ در حالی که آمودئی و آلتمن خواستار احتیاط بیشتر و حتی تغییر در چارچوب‌های قانونی مسئولیت هستند. این دو رویکرد متفاوت می‌توانند در ماه‌های آینده در مذاکرات تنظیم‌گری هوش مصنوعی در آمریکا و سطح بین‌المللی نقش‌آفرینی کنند. آنچه هنوز مشخص نیست، اثربخشی عملی پلتفرم جدید Nvidia و میزان استقبال صنعت از آن است.
منبع: Yahoo Finance
