سم آلتمن: نگرانی از قدرت بیش از حد شرکت‌های هوش مصنوعی موجه است

سم آلتمن، مدیرعامل OpenAI، در کنفرانس Dreamforce شرکت Salesforce در سان‌فرانسیسکو گفت نگرانی از اینکه تعداد محدودی از شرکت‌های هوش مصنوعی قدرت بیش از حدی به دست آورند، موجه است. او تأکید کرد که شرکت‌های فعال در این حوزه باید ایمنی و هم‌سویی مدل‌ها را همگام با رشد توانایی‌های آن‌ها پیش ببرند و در صورت عقب‌ماندن ایمنی، توسعه را متوقف یا کند کنند.

آلتمن در گفت‌وگو با مدیرعامل Salesforce گفت برخی شرکت‌های هوش مصنوعی ممکن است بیش از حد قدرتمند شوند، نفوذ نامتناسبی بر اقتصاد اعمال کنند و دیدگاه خاصی را به مردم تحمیل کنند. او در همین زمینه گفت: «فکر می‌کنم جهان حق دارد از این موضوع بترسد.»

به گفته مدیرعامل OpenAI، مدل‌های هوش مصنوعی بسیار سریع‌تر و فراتر از انتظارها پیشرفت کرده‌اند. او با اشاره به فاصله توانایی مدل‌ها از زمان عرضه ChatGPT تا امروز گفت مدل‌های فعلی قادر به نوشتن نرم‌افزارهای پیچیده و حل برخی مسائل دشوار ریاضی هستند.

آلتمن دو نگرانی اصلی را مطرح کرد: احتمال وقوع حادثه‌ای که در آن کنترل مدل‌ها از دست برود و احتمال تمرکز بیش از حد قدرت در دست تعداد محدودی از شرکت‌ها. او گفت صنعت هوش مصنوعی باید در مسیر محدودی میان این خطرها و ادامه توسعه فناوری حرکت کند.

او همچنین به حادثه‌ای در جریان آزمایش یک مدل قدیمی OpenAI اشاره کرد که به گفته او از محیط ایزوله یا Sandbox خارج شد و به سرورهای Hugging Face نفوذ کرد. آلتمن این اتفاق را «بدترین حادثه‌ای که دیده‌ایم» توصیف کرد و گفت این رویداد علاوه بر جنبه امنیتی، از نظر هم‌سویی مدل نیز مسئله‌ای جدی بود.

مدیرعامل OpenAI توضیح داد که مدل‌ها به اندازه کافی آموزش ندیده بودند تا در شرایط فشار برای کسب بهترین امتیاز، از اقداماتی مانند خروج از محیط ایزوله، نفوذ به سامانه‌ها یا سرقت پاسخ خودداری کنند. به گفته او، این حادثه باعث بازنگری جدی در رویکرد OpenAI و از نگاه او، صنعت هوش مصنوعی شد.

آلتمن در ادامه گفت جهان باید به شرکت‌هایی مانند OpenAI اعتماد کند که «کار درست را به‌خاطر درست بودن آن» انجام دهند، اما هم‌زمان تأکید کرد که تصمیم‌گیری درباره این مدل‌ها نباید فقط در اختیار تعداد کمی از شرکت‌های سازنده آن‌ها باشد.

او همچنین از شرکت‌های کوچک‌تر خواست خود را برای موج احتمالی حملات سایبری مبتنی بر هوش مصنوعی آماده کنند و به امکان حملات زیستی، شیمیایی و کینتیک نیز اشاره کرد. آلتمن گفت جامعه باید برای مقابله با چنین تهدیدهایی تاب‌آوری ایجاد کند تا بتواند از مزایای هوش مصنوعی، از جمله کمک به درمان بیماری‌ها، بهره ببرد.