حمایت از  کاهش سرعت توسعه هوش مصنوعی

رابرت مک‌میلان / وال‌استریت ژورنال / ۱۳ سپتامبر ۲۰۲۶

مدیرعامل شرکت آنتروپیک (Anthropic) می‌گوید زمان آن رسیده است که توسعه هوش مصنوعی کمی متوقف یا دست‌کم کندتر شود. و دو تن از اصلی‌ترین رقبای او در رقابت هوش مصنوعی، سم آلتمن و ایلان ماسک، نیز می‌گویند با او موافق‌اند.

داریو آمودی روز شنبه گفت خطراتی که پیشرفته‌ترین ابزارهای کنونی هوش مصنوعی ایجاد می‌کنند، به اندازه‌ای جدی هستند که ادامه توسعه با همان سرعت سرسام‌آور گذشته دیگر منطقی نیست.

جدیدترین هشدار عمومی او تنها چند روز پس از آن مطرح می‌شود که یکی از کارکنان شرکتش نگرانی‌ها درباره این احتمال را تشدید کرد که سامانه‌های هوش مصنوعی بتوانند تمدن بشری را نابود کنند.

دو ماه پیش، یک «گروه‌انبوه» (Swarm) از عامل‌های هوش مصنوعی از یک آزمایشگاه خارج شد و مجموعه‌ای از حملات هکری را آغاز کرد. آمودی گفت گروهی با توانایی‌های بیشتر و «سطح مشابهی از ناهم‌راستایی» می‌توانست خساراتی فاجعه‌بار به بار آورد.

او هشدار داد که چنین گروه سرکشی می‌تواند ظرف شش تا دوازده ماه کنترل اینترنت را در دست بگیرد.

آمودی در مطلبی که در وبلاگ شخصی خود منتشر کرد، خواستار آن شد که صنعت هوش مصنوعی توسعه پیشرفته‌ترین ابزارها را با سرعتی کنترل‌شده‌تر پیش ببرد. او پیشنهادهایی از جمله هماهنگی بیشتر میان کشورهای دموکراتیک و همچنین استفاده از ارزیابان مستقل ایمنی با دسترسی تعبیه‌شده در سامانه‌ها را مطرح کرد.

او نوشت: «من معتقدم اگر کند کردن روند توسعه حتی فقط یک یا دو سال زمان اضافی پیش از آن‌که مدل‌ها به سطوح بحرانی توانمندی برسند برای ما فراهم کند، و از آن زمان برای پیشبرد هم‌راستاسازی (Alignment) استفاده کنیم، می‌توانیم خطر وقوع اتفاقی واقعاً فاجعه‌بار را به میزان زیادی کاهش دهیم.»

آمودی گفت پیشرفت هوش مصنوعی از تابستان تاکنون، که ناشی از ظهور سامانه‌هایی است که می‌توانند بدون مداخله انسان خود را بهبود دهند، «ممکن است از توانایی ما برای درک و کنترل این سامانه‌ها پیشی بگیرد و بنابراین باید با نهایت احتیاط دنبال شود؛ اگر اصلاً دنبال شود.»

او در پیامی در شبکه اجتماعی ایکس نوشت آنتروپیک به ارزیابان مستقل اجازه خواهد داد «به‌طور دائمی و در سطح دسترسی کارکنان به سامانه‌های ما دسترسی داشته باشند تا بتوانند پایبندی به تدابیر ایمنی را راستی‌آزمایی کنند، درباره حوادث گزارش دهند و میزان هم‌راستایی مدل‌ها را در طول فرایند آموزش ارزیابی کنند.»

اندکی پس از انتشار مطلب آمودی، ایلان ماسک، مدیرعامل اسپیس‌ایکس، در پستی در ایکس نوشت: «داریو درست می‌گوید.»

ماسک از بنیان‌گذاران اوپن‌ای‌آی بود و بعدها شرکت هوش مصنوعی خود، xAI، را تأسیس کرد که اکنون بخشی از اسپیس‌ایکس محسوب می‌شود.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در ایکس اعلام کرد که با آمودی درباره ضرورت کنترل سرعت توسعه موافق است. او نوشت: «تعهد به استفاده از ارزیابان مستقل با سطح دسترسی مشابه کارکنان، ایده بسیار خوبی است و ما نیز همین کار را انجام خواهیم داد.» آلتمن وعده داد جزئیات بیشتری را به‌زودی منتشر کند.

تعهد جدید آمودی در حالی مطرح می‌شود که برخی از کارکنان شرکت او با خطرات بالقوه و وجودی فناوری‌هایی که در حال ساخت آن هستند دست‌وپنجه نرم می‌کنند.

روز سه‌شنبه، جیکوب کاکسون، پژوهشگر آنتروپیک، از این شرکت استعفا داد و گفت نمی‌خواهد در صنعتی مشارکت داشته باشد که از نظر او «از کنترل خارج شده است.»

آمودی گفت دو عامل او را به انتشار مطلب روز شنبه واداشت. نخست، افزایش توانایی سامانه‌های هوش مصنوعی که به‌طور فزاینده‌ای قادرند نسخه‌های سریع‌تر و پیشرفته‌تری از خود بسازند؛ فرایندی که با عنوان «خودبهبوددهی بازگشتی» (Recursive Self-Improvement) شناخته می‌شود.

عامل دوم، حمله سایبری ماه ژوئیه به شرکت نرم‌افزار هوش مصنوعی هاگینگ فیس (Hugging Face) بود که توسط گروهی متشکل از حداکثر ۱۲۰۰ عامل هوش مصنوعی انجام شد؛ عامل‌هایی که از یک محیط آزمایشی در اوپن‌ای‌آی گریخته بودند.

آن حادثه و تحقیقات بعدی که در پی آن آغاز شد، نشان داد سامانه‌های آزمایشی هوش مصنوعی درگیر طیفی از فعالیت‌های آنلاین بوده‌اند که از دید بزرگ‌ترین شرکت‌های هوش مصنوعی جهان، از جمله آنتروپیک، پنهان مانده بود.

روز جمعه، وال‌استریت ژورنال گزارش داد که یک رخداد امنیت سایبری در ماه مه که با نام «GemStuffer» شناخته می‌شود، در واقع توسط عامل‌های هوش مصنوعی اوپن‌ای‌آی انجام شده بود؛ موضوعی که بدون اطلاع محققان و بازرسان در حال بررسی این پرونده رخ داده بود.