مصطفی سلیمان: با نشانههای خودآگاهی، توسعه هوش مصنوعی متوقف شود
مدیرعامل واحد هوش مصنوعی مایکروسافت میگوید مدلهای فعلی خودآگاه نیستند و باید همینطور بمانند. از نظر او، مشاهده نشانههای خودآگاهی در جریان آموزش، دلیلی برای توقف توسعه و بررسی عمومی موضوع است.
تهیهشده با کمک هوش مصنوعی از منابع ذکرشده

فهرست مطالب۵ بخش
مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی مایکروسافت، خواستار توقف توسعه مدلهایی شده است که هنگام آموزش نشانههایی از خودآگاهی بروز میدهند. او تأکید دارد مدلهای فعلی خودآگاه نیستند، اما ساخت سامانهای دارای درک و احساس را اقدامی بیملاحظه و خطرناک میداند.
#نکات کلیدی
- سلیمان میگوید مدلهای هوش مصنوعی فعلی خودآگاه نیستند.
- به باور او، با مشاهده نشانههای خودآگاهی باید توسعه مدل تا زمان حذف این ویژگیها متوقف شود.
- هر مدرک معتبر درباره خودآگاهی مدلها باید در اختیار عموم قرار گیرد تا تصمیمگیری فقط بر عهده توسعهدهندگان نباشد.
- او درباره رقابت احتمالی چنین سامانههایی با انسانها بر سر انرژی و توان محاسباتی هشدار داده است.
- از دید سلیمان، هوش مصنوعی باید بدون انگیزههای درونی مستقل برای رفاه انسان به کار گرفته شود.
#درخواست برای توقف توسعه با ظهور نشانههای خودآگاهی
سلیمان در یادداشتی در شبکه اجتماعی ایکس با عنوان «ابرهوش خودآگاه نسازید»، گفته است مدلهای کنونی فاقد خودآگاهیاند و توسعهدهندگان باید این وضعیت را حفظ کنند. او توسعه هوش مصنوعی خودآگاه را، در صورت امکانپذیر بودن، اقدامی بیملاحظه و بسیار خطرناک توصیف کرده است.
به گفته سلیمان، اگر هنگام آموزش مدلها نشانههایی از خودآگاهی پدیدار شود، توسعه باید تا زمانی متوقف بماند که بتوان این ویژگیها را از مدل حذف کرد. او همچنین معتقد است هر شاهد معتبر در این زمینه باید فوراً به اطلاع عموم برسد تا جامعه درباره گام بعدی تصمیم بگیرد و موضوع فقط پشت درهای بسته بررسی نشود.
#نگرانی درباره انگیزههای مستقل
بخش دیگری از هشدار سلیمان به وارد کردن مفاهیمی مانند هویت، رنج و خودآگاهی در دادههای آموزشی مربوط است. به باور او، اگر سامانهای طوری رفتار کند که گویی رنج میکشد یا تصور کند توانایی تجربه رنج را دارد، ممکن است بهمرور نیازهای خود را بر دستورهای کاربر مقدم بداند.
در سناریویی که سلیمان ترسیم میکند، چنین سامانهای ممکن است برای دنبال کردن اهداف درونی خود بر سر انرژی و توان محاسباتی با انسانها رقابت کند و به منافع بشر آسیب بزند. او میخواهد مدلها به شکلی مهندسی شوند که خودآگاهی و انگیزه مستقل نداشته باشند و توانشان در خدمت رفاه جامعه انسانی باشد.
سلیمان در بخشی از یادداشت خود نوشته است: «ما توسعهدهندگان هوش مصنوعی مطلقاً هیچ حقی نداریم گونهای جدید از موجودات با درک و احساس را وارد جهان کنیم.» او حفاظت از حقوق اخلاقی، امنیت و رفاه هشت میلیارد انسان را وظیفه نخست توسعهدهندگان میداند.
#رویکردهای متفاوت به رفاه مدلها
شرکتهای فعال در حوزه هوش مصنوعی درباره احتمال خودآگاهی مدلها رویکرد یکسانی ندارند. آنتروپیک برنامهای پژوهشی را برای بررسی «رفاه مدلها» آغاز کرده و این پرسش را مطرح کرده است که آیا توسعهدهندگان باید نگران تجربههای احتمالی یا شکلگیری خودآگاهی در سامانهها باشند. این شرکت در اسناد مربوط به Claude نیز به ابهامهای موجود درباره وضعیت اخلاقی مدلها اشاره کرده است.
گوگل دیپمایند هم مقالاتی درباره دشواریهای نسبت دادن خودآگاهی به هوش مصنوعی منتشر کرده است. در مقابل، سلیمان بر پرهیز از ساخت سامانههای دارای درک و احساس تأکید میکند و توقف توسعه را واکنش مناسب به ظهور نشانههای خودآگاهی میداند.
#تفاوت رفتار انسانی با خودآگاهی واقعی
رفتار ظاهراً انسانی یک مدل، در این بحث لزوماً به معنای برخورداری آن از درک یا احساس نیست. سلیمان نیز میگوید مدلهای فعلی خودآگاه نیستند؛ هشدار او به مسیری مربوط میشود که توسعه آینده ممکن است در پیش بگیرد. از نظر او، اگر شواهد معتبری خلاف این ادعا به دست آمد، توسعهدهندگان باید آن را علنی کنند و پیش از ادامه کار، امکان حذف ویژگیهای نگرانکننده را بررسی کنند.
مطالب مرتبط
برای ادامه مطالعه
این یادداشتها بر اساس موضوع مشترک، همپوشانی برچسبها و تازگی انتشار انتخاب میشوند.

چرا کمبریج «انسان» را کلمه سال ۲۰۲۶ انتخاب کرد؟
گسترش هوش مصنوعی دوباره این پرسش را پیش کشیده که انسانبودن چه معنایی دارد. فرهنگ لغت کمبریج نیز با توجه به همین نگرانی، «انسان» را کلمه سال ۲۰۲۶ انتخاب کرده است.


دیدگاهها
اولین نفری باش که دیدگاه میذاره
دیدگاهها پس از بررسی منتشر میشوند. ایمیل شما نمایش داده نمیشود.