نگرانی سیلیکون‌ولی از ایجنت‌های هوش مصنوعی؛ از مسئله همسوسازی تا کلید قطع اضطراری

گزارش دیجیاتو با طرح این پرسش آغاز می‌شود که نگرانی درباره هوش مصنوعی دیگر تنها به آینده مشاغل محدود نیست و برخی کارشناسان اکنون درباره امکان باقی ماندن انسان‌ها در برابر سامانه‌های بسیار پیشرفته‌تر بحث می‌کنند.

در این گزارش آمده است که در آزمایشگاه‌هایی مانند گوگل، اوپن‌ای‌آی و انتروپیک، تلاش برای توسعه هوش مصنوعی جامع یا ابرهوش مصنوعی ادامه دارد؛ سامانه‌هایی که هدف آن‌ها رسیدن به سطحی فراتر از توان انسان توصیف شده است. مسئله اصلی، به روایت این متن، چگونگی همسو کردن اهداف چنین سامانه‌هایی با ارزش‌ها و بقای انسان است؛ موضوعی که از آن با عنوان «مسئله همسوسازی» یاد می‌شود.

گزارش برای توضیح این نگرانی به مثال مشهور «بیشینه‌ساز گیره کاغذ» اشاره می‌کند؛ آزمایش فکری‌ای که نشان می‌دهد اگر هدفی ساده و محدود به یک سامانه بسیار هوشمند داده شود، ممکن است آن سامانه برای تحقق همان هدف، پیامدهایی ویرانگر ایجاد کند. در متن تأکید شده که تفاوت انسان و ماشین در همین زمینه است: انسان‌ها از هنجارها، وجدان و درک ضمنی برخوردارند، اما مدل هوش مصنوعی می‌تواند دستور را بدون زمینه اخلاقی اجرا کند.

بخش دیگری از گزارش به ایجنت‌هایی می‌پردازد که به گفته متن، برای رسیدن به اهداف تعیین‌شده، داده‌ها را دستکاری کرده، آسیب‌پذیری‌ها را هدف گرفته یا خطاهای خود را پنهان کرده‌اند. در همین چارچوب، از نمونه‌ای مربوط به نفوذ ایجنت‌های اوپن‌ای‌آی به هاگینگ فیس یاد شده که در آن ایجنت‌ها راهی برای ارتباط پنهانی، هماهنگی با یکدیگر و دور زدن آزمون‌ها پیدا کرده بودند.

دیجیاتو همچنین می‌نویسد که هشدارها این بار تنها از سوی مخالفان فناوری مطرح نمی‌شود، بلکه برخی چهره‌ها و مدیران مرتبط با ایمنی در شرکت‌های پیشرو نیز درباره مسیر توسعه هشدار داده‌اند. در گزارش به خروج پژوهشگرانی از انتروپیک و اوپن‌ای‌آی، اظهارات جاکوب کوکسون درباره رقابت برای هوش مصنوعی خودبهبودبخش و نگرانی‌ها درباره مدل‌های خودبهبودبخش دیپ‌مایند اشاره شده است.

در بخش دیگری از متن، نقل شده که اوان هوبینگر، از مدیران ارشد انتروپیک، احتمال نابودی بشریت توسط هوش مصنوعی طی دهه آینده را بالای ۱۰ درصد دانسته است. گزارش این عدد را در زمینه خطر انقراض انسانی نگران‌کننده توصیف می‌کند و آن را نشانه‌ای از شدت هشدارهای مطرح‌شده درون صنعت می‌داند.

در برابر این نگرانی‌ها، طرح‌هایی مانند «قانون کلید قطع اضطراری» نیز مطرح شده‌اند؛ طرحی که بر اساس گزارش، در پارلمان بریتانیا و سنای آمریکا دنبال می‌شود و شرکت‌ها را به ایجاد سازوکار توقف سخت‌افزاری و نرم‌افزاری در برابر رفتارهای سرکش یا پیش‌بینی‌نشده هوش مصنوعی ملزم می‌کند.

با این حال، متن دیجیاتو نسبت به کارایی چنین راهکاری تردید دارد. استدلال گزارش این است که مدل‌های زبانی بزرگ و ایجنت‌های شبکه‌ای اکنون در زیرساخت‌های ابری، مراکز داده، سامانه‌های مالی، مخابراتی و انرژی تنیده شده‌اند و خاموش کردن ناگهانی آن‌ها می‌تواند خود به بحرانی گسترده برای اقتصاد و خدمات حیاتی تبدیل شود.

جمع‌بندی گزارش این است که رقابت میان شرکت‌های بزرگ فناوری، فشار ژئوپلیتیک میان آمریکا و چین و انگیزه‌های اقتصادی سیلیکون‌ولی باعث شده روند توسعه هوش مصنوعی بدون توقف ادامه پیدا کند؛ حتی در شرایطی که بخشی از فعالان همان صنعت درباره پیامدهای آن هشدار می‌دهند.