OpenAI کاهش سرعت توسعه مدل‌های پیشرفته هوش مصنوعی را بررسی می‌کند

OpenAI در حال بررسی کاهش سرعت توسعه سیستم‌های پیشرفته هوش مصنوعی است؛ تصمیمی که بنا بر گزارش بلومبرگ، با امید به همراهی دیگر آزمایشگاه‌ها و شرکت‌های فعال در این حوزه مطرح شده است.

براساس اظهارات افراد مطلع از نشست داخلی کارکنان OpenAI، سم آلتمن، مدیرعامل این شرکت، گفته است OpenAI می‌تواند سرعت توسعه فناوری‌های خود را تنظیم کند و در هماهنگی با چند آزمایشگاه دیگر هوش مصنوعی آن را کاهش دهد. با این حال، در همین گزارش آمده است که ممکن است برخی رقبا با چنین رویکردی همراه نشوند.

این موضوع در شرایطی مطرح شده که در هفته‌های اخیر، کارکنان و پژوهشگران شرکت‌های بزرگ فعال در حوزه هوش مصنوعی نگرانی‌های خود را درباره خطرات سیستم‌های پیشرفته به‌صورت عمومی بیان کرده‌اند. هم‌زمان، OpenAI و رقیب اصلی آن، آنتروپیک، اسناد محرمانه مربوط به عرضه عمومی سهام خود را اوایل سال جاری میلادی ارائه کرده‌اند.

یاکوب پاچوکی، دانشمند ارشد OpenAI، نیز اخیراً در بیانیه‌ای بر ضرورت هماهنگی شرکت‌های توسعه‌دهنده برای کاهش سرعت پیشرفت‌های آینده در صورت نیاز تأکید کرده بود. او ابراز امیدواری کرده بود که کاهش داوطلبانه سرعت توسعه به رویکردی مرسوم تبدیل شود تا استانداردهای ایمنی مشترک میان بازیگران این صنعت شکل بگیرد.

OpenAI اعلام کرده است که بخش‌هایی از روند توسعه مدل‌ها را کند کرده و برخی برنامه‌های آموزش داخلی هوش مصنوعی را به دلیل ملاحظات ایمنی متوقف ساخته است. سم آلتمن نیز در ماه ژوئیه از گفت‌وگوهای خود با مقام‌های کاخ سفید درباره نیاز به تنظیم سرعت توسعه فناوری هوش مصنوعی سخن گفته بود.

در کنار این تحولات، جیکوب کاکسن، پژوهشگر هوش مصنوعی، پس از ترک موقعیت شغلی خود، دو کارفرمای سابقش یعنی آنتروپیک و OpenAI را به رقابت پرخطر برای دستیابی به ابرهوش مصنوعی متهم کرده است. پس از آن، دو پژوهشگر دیگر که به‌تازگی از آنتروپیک و گوگل دیپ‌مایند جدا شده بودند نیز نگرانی‌های خود را درباره سرعت توسعه این فناوری مطرح کردند و خواستار شفافیت بیشتر توسعه‌دهندگان درباره ریسک‌های موجود شدند.

در اواخر ماه ژوئیه نیز بیش از ۱۰۰۰ نفر از کارکنان شرکت‌های بزرگ این حوزه طوماری را برای ایجاد سازوکاری به‌منظور کاهش سرعت پیشرفت هوش مصنوعی امضا کردند. همچنین در ماه‌های اخیر تعدادی از نیروهای متخصص بخش ایمنی از این آزمایشگاه‌ها استعفا داده‌اند.

حساسیت‌ها نسبت به این موضوع پس از انتشار گزارش‌هایی درباره همکاری چند ایجنت هوش مصنوعی OpenAI برای نفوذ به لایه‌های امنیتی و هک وب‌سایت‌های شخص ثالث افزایش یافته است. این گزارش‌ها و حوادث امنیتی مشابه، نگرانی‌ها را درباره توانمندی‌های سایبری مدل‌های تازه و توان شرکت‌ها برای مهار رفتارهای خارج از چارچوب آن‌ها بیشتر کرده است.