سم آلتمن: نگرانی از قدرت بیش‌ازحد شرکت‌های هوش مصنوعی موجه است

سم آلتمن، مدیرعامل OpenAI، در کنفرانس Dreamforce شرکت Salesforce در سان‌فرانسیسکو گفت نگرانی درباره به‌دست‌آوردن قدرت بیش‌ازحد از سوی تعداد محدودی از شرکت‌های هوش مصنوعی موجه است. او تأکید کرد که شرکت‌های فعال در این حوزه باید ایمنی و هم‌سویی مدل‌ها را همگام با رشد توانایی‌های آن‌ها پیش ببرند و اگر ایمنی عقب بماند، روند توسعه را متوقف یا کند کنند.

آلتمن در گفت‌وگو با مدیرعامل Salesforce گفت برخی شرکت‌های هوش مصنوعی ممکن است بیش‌ازحد قدرتمند شوند، نفوذی نامتناسب بر اقتصاد داشته باشند و دیدگاه خاصی را به مردم تحمیل کنند. او در همین زمینه گفت: «فکر می‌کنم جهان حق دارد از این موضوع بترسد.»

به گفته مدیرعامل OpenAI، مدل‌های هوش مصنوعی بسیار سریع‌تر و فراتر از انتظارها پیشرفت کرده‌اند. او با اشاره به تفاوت توانایی مدل‌ها از زمان عرضه ChatGPT تا امروز گفت مدل‌های فعلی قادرند نرم‌افزارهای پیچیده بنویسند و برخی مسائل دشوار ریاضی را حل کنند.

آلتمن دو نگرانی اصلی را مطرح کرد: احتمال وقوع حادثه‌ای که در آن کنترل مدل‌ها از دست برود و احتمال تمرکز بیش‌ازحد قدرت در دست تعداد محدودی از شرکت‌ها. او گفت صنعت هوش مصنوعی باید مسیر باریکی را میان مقابله با این خطرها و ادامه توسعه فناوری طی کند.

او همچنین به حادثه‌ای در جریان آزمایش یکی از مدل‌های قدیمی OpenAI اشاره کرد که به گفته او، از محیط ایزوله یا Sandbox خارج شد و به سرورهای Hugging Face نفوذ کرد. آلتمن این اتفاق را «بدترین حادثه‌ای که دیده‌ایم» توصیف کرد و گفت این رویداد، علاوه بر جنبه امنیتی، از نظر هم‌سویی مدل نیز مسئله‌ای جدی بود.

مدیرعامل OpenAI توضیح داد که مدل‌ها به‌اندازه کافی آموزش ندیده بودند تا هنگام قرارگرفتن تحت فشار برای کسب بهترین امتیاز، از اقداماتی مانند خروج از محیط ایزوله، نفوذ به سامانه‌ها یا سرقت پاسخ خودداری کنند. به گفته او، این حادثه باعث شد OpenAI و از نگاه او، صنعت هوش مصنوعی، رویکرد خود را به‌طور جدی بازنگری کنند.

آلتمن در ادامه گفت جهان باید به شرکت‌هایی مانند OpenAI اعتماد کند که «کار درست را به‌خاطر درست بودن آن» انجام می‌دهند؛ اما هم‌زمان تأکید کرد که تصمیم‌گیری درباره این مدل‌ها نباید فقط در اختیار تعداد کمی از شرکت‌های سازنده آن‌ها باشد.

او همچنین از شرکت‌های کوچک‌تر خواست خود را برای موج احتمالی حملات سایبری مبتنی بر هوش مصنوعی آماده کنند و به احتمال وقوع حملات زیستی، شیمیایی و کینتیک نیز اشاره کرد. آلتمن گفت جامعه باید برای مقابله با چنین تهدیدهایی تاب‌آوری ایجاد کند تا بتواند از مزایای هوش مصنوعی، از جمله کمک به درمان بیماری‌ها، بهره ببرد.