هشدار آنتروپیک درباره نزدیک‌شدن به هوش مصنوعی خودبهبودگر

آنتروپیک هشدار داده است که استفاده از هوش مصنوعی در فرایند ساخت مدل‌های جدید ممکن است به‌زودی سرعت پیشرفت این فناوری را به‌شکل قابل‌توجهی افزایش دهد. اهمیت ماجرا برای شما در این است که چنین شتابی می‌تواند توانایی شرکت‌ها برای ارزیابی مدل‌ها و اجرای تدابیر ایمنی را با چالشی جدی روبه‌رو کند.

#نکات کلیدی

• آنتروپیک احتمال نزدیک‌شدن به مرحله پیشرفت بسیار شتاب‌گرفته هوش مصنوعی را مطرح کرده است.
• این هشدار به مفهوم خودبهبودی بازگشتی یا RSI ارتباط دارد.
• هیچ‌یک از مدل‌های فعلی آنتروپیک هنوز از آستانه تعیین‌شده عبور نکرده‌اند.
• شرکت نگران است توسعه قابلیت‌ها سریع‌تر از تدابیر ایمنی، همسوسازی و امنیت پیش برود.
• آنتروپیک درحال بررسی اصلاح سیاست‌های خود برای حفظ کنترل انسان است.

#هشدار تازه در پرونده عرضه اولیه سهام

آنتروپیک این موضوع را در بخش «عوامل خطر» تازه‌ترین نسخه اصلاح‌شده پرونده ثبت عرضه اولیه سهام خود، موسوم به S-1/A، مطرح کرده است. براساس گزارش مربوط به هشدار آنتروپیک، برآوردهای داخلی شرکت و انتظارات آن از مدل‌های آینده نشان می‌دهند که شاید مرحله‌ای از پیشرفت بسیار شتاب‌گرفته منتسب به هوش مصنوعی نزدیک باشد.

این هشدار درباره مدل‌های آینده است، نه مدل‌هایی که اکنون در اختیار آنتروپیک قرار دارند. شرکت صریحاً تأکید کرده است که هیچ‌یک از مدل‌های فعلی از آستانه تعریف‌شده عبور نکرده‌اند و ارزیابی داده‌های مرتبط همچنان ادامه دارد؛ بنابراین، نمی‌توان این پرونده را به‌معنای دستیابی فعلی آنتروپیک به هوش مصنوعی خودبهبودگر دانست.

آنتروپیک در سیاست مقیاس‌پذیری مسئولانه خود، این وضعیت را زمانی محقق‌شده می‌داند که سرعت بهبود دست‌کم دو برابر نرخ پایه شود و بتوان این افزایش سرعت را به استفاده از هوش مصنوعی نسبت داد. خود شرکت نیز گفته است در گذشته مواردی وجود داشته که شتاب قابل‌توجه توسعه مدل‌ها را تنها پس از وقوع آن تشخیص داده است.

#خودبهبودی بازگشتی دقیقاً چیست؟

خودبهبودی بازگشتی یا RSI به وضعیتی گفته می‌شود که یک سیستم هوش مصنوعی بتواند در بهبود خودش نقش داشته باشد و نسخه ارتقایافته نیز نسل بعدی را بهتر کند. اگر این چرخه ادامه پیدا کند، سرعت افزایش قابلیت‌های مدل‌ها می‌تواند به‌شکل چشمگیری بالا برود.

نگرانی آنتروپیک از جایی آغاز می‌شود که هوش مصنوعی بیش‌ازپیش برای تحقیق و توسعه مدل‌های جدید به کار گرفته شود. در چنین شرایطی ممکن است توانایی‌های مدل‌ها سریع‌تر از ظرفیت شرکت برای توسعه، اعتبارسنجی و اجرای تدابیر ایمنی، همسوسازی و امنیتی پیشرفت کنند.

این مفهوم در بحث‌های آینده هوش مصنوعی دو برداشت متفاوت ایجاد کرده است. گروهی آن را مسیری برای توسعه فناوری، پیشرفت علمی و افزایش بهره‌وری می‌دانند؛ در مقابل، منتقدان نگران‌اند سرعت توسعه مدل‌ها از توانایی انسان برای نظارت و کنترل آن‌ها جلو بزند.

#کنترل انسان همچنان محور برنامه آنتروپیک است

آنتروپیک انتظار ندارد در آینده نزدیک بتواند بدون نظارت یا درک معنادار انسان، از Claude برای طراحی و ساخت کاملاً خودمختار نسل‌های متوالی مدل‌های پیشرفته استفاده کند؛ حتی اگر چنین کاری از نظر فنی امکان‌پذیر شود. این تمایز مهم است: صحبت شرکت درباره یک خطر احتمالی و نیاز به آمادگی است، نه اعلام فعالیت یک چرخه مستقل و بدون کنترل انسانی.

آنتروپیک همچنین درحال بررسی اصلاح سیاست مقیاس‌پذیری مسئولانه خود است تا کنترل انسان بر توسعه مدل‌های پیشرفته حفظ شود. برای کاربران و توسعه‌دهندگان، پیام عملی این هشدار آن است که افزایش توانایی مدل‌ها فقط یک رقابت فنی نیست و روش‌های ارزیابی، نظارت و کنترل نیز باید هم‌زمان با آن پیشرفت کنند.

#جمع‌بندی

هشدار آنتروپیک نشان می‌دهد که حتی سازندگان مدل‌های پیشرفته نیز شتاب احتمالی توسعه هوش مصنوعی را مسئله‌ای جدی می‌دانند. هنوز هیچ مدل فعلی این شرکت به آستانه اعلام‌شده نرسیده، اما آنتروپیک می‌خواهد پیش از آنکه سرعت پیشرفت از تدابیر ایمنی جلو بزند، چارچوب کنترل انسانی را تقویت کند.