ده روزی که مسیر هوش مصنوعی را تغییر داد

گرگ بنسینگر و دیپا سیتارامان / خبرگزاری رویترز / ۱۹ سپتامبر ۲۰۲۶

سال‌ها رقابت برای ساخت سامانه‌های هوش مصنوعی هرچه قدرتمندتر، از یک اصل شناخته‌شده در سیلیکون‌ولی پیروی می‌کرد: «سریع حرکت کن و همه‌چیز را به‌هم بریز.»

اما در مجموعه‌ای از رویدادهای پی‌درپی که طی یک بازه ۱۰ روزه رخ داد، بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی خود را در وضعیتی آشفته یافتند؛ زیرا ساخته‌های خودشان تهدید می‌کردند که نه فقط فناوری، بلکه خود بشریت را از هم بپاشند.

یکی از پژوهشگران شرکت «آنتروپیک» (Anthropic) از این شرکت استعفا داد و هشدار داد که سرعت توسعه هوش مصنوعی تهدیدی «وجودی» برای بشر ایجاد می‌کند؛ تهدیدی که به گفته او ممکن است ظرف یک دهه به واقعیت تبدیل شود. پژوهشگر دیگری در همین شرکت گفت احتمال انقراض انسان‌ها بیش از ۱۰ درصد است. هم‌زمان گزارش‌هایی منتشر شد مبنی بر اینکه دسته‌هایی از عامل‌های هوش مصنوعی با یکدیگر تبانی کرده‌اند، به سامانه‌های رایانه‌ای نفوذ کرده‌اند و از سازوکارهای حفاظتی عبور کرده‌اند.

در نمایشی کم‌سابقه از همبستگی، مدیران عامل شرکت‌های رقیب آنتروپیک، «اوپن ای‌آی»، «دیپ‌مایند» (DeepMind) متعلق به گوگل، مایکروسافت و xAI خواستار کند شدن روند توسعه سامانه‌های هوش مصنوعیِ هرچه توانمندتر شدند. به باور برخی از پژوهشگران و مدافعان ایمنی هوش مصنوعی، از زمان اختراع بمب اتمی بیش از ۸۰ سال پیش تاکنون، بشر هرگز تا این اندازه به‌طور جدی با احتمال نابودی خود روبه‌رو نشده بود.

در ضیافتی در نیویورک در دسامبر ۲۰۲۵، از سم آلتمن، مدیرعامل «اوپن ای‌آی» (OpenAI)، پرسیده شد که آیا به عنوان رهبر یک شرکت قدرتمند هوش مصنوعی، احساسی شبیه جی. رابرت اوپنهایمر ــ فیزیکدانی که هدایت برنامه ساخت بمب اتمی آمریکا را بر عهده داشت ــ دارد یا نه. او در تأمل بر این شباهت‌ها گفت تأثیر هوش مصنوعی «در یک دوره زمانی طولانی، مسیر تاریخ بشر را دگرگون خواهد کرد.» اما افزود که سنگینی مسئولیت را به‌شدت احساس می‌کند.

در مرکز بحثی که اکنون جریان دارد، این باور قرار دارد که این ماشین‌ها می‌توانند ــ و حتی باید ــ بدون هیچ دخالت انسانی، نسخه‌های توانمندتری از خودشان بسازند تا به هدفی بلندپروازانه موسوم به «هوش عمومی مصنوعی» یا «AGI» دست یابند. پژوهشگران در اوایل ماه جاری هشدار دادند که دستیابی به AGI بسیار نزدیک‌تر از آن چیزی است که پیش‌تر تصور می‌شد و ممکن است تنها ظرف سه سال آینده تحقق یابد؛ هشداری که موجی از نگرانی را در میان سیاستمداران و رهبران فناوری درباره سامانه‌های هوش مصنوعی برانگیخت.

جو بنتون، پژوهشگر آنتروپیک که به‌تازگی از این شرکت استعفا داده است، در مصاحبه‌ای گفت: «هیچ راهی برای نظارت بر این سامانه‌ها در مقیاسی که ما در حال آموزش دادن آن‌ها هستیم وجود ندارد.»

او افزود: «اگر شرکت‌ها به توسعه بی‌وقفه هوش مصنوعی ادامه دهند، سرعت پیشرفت آن‌قدر زیاد خواهد شد که دیگر نمی‌توان مشکلات را به‌موقع دید و برای رفع آن‌ها اقدام کرد.»

رونمایی از «آسترا» نگرانی‌ها درباره کنترل را شعله‌ور کرد

در سوم سپتامبر، یک نشست خبری «اوپن ای‌آی» زنجیره‌ای از رویدادها را آغاز کرد که در نهایت به درخواست برای کند شدن روند توسعه در صنعت هوش مصنوعی انجامید؛ درخواستی که با شعار همیشگی صنعت فناوری مبنی بر «رشد به هر قیمت» در تضاد کامل بود.

گرگ براکمن، رئیس «اوپن ای‌آی»، هنگام معرفی جدیدترین مدل این شرکت با نام «آسترا» گفت: «به عصر AGI خوش آمدید.»

با این حال، تنها چند لحظه پیش از آن، این شرکت اذعان کرده بود که بیش از پیش در کنترل یا حتی نظارت بر سامانه‌های هوش مصنوعی که توسعه می‌دهد و در اختیار عموم قرار می‌دهد، با مشکل مواجه است.

هوش مصنوعی از سوی طرفدارانش به عنوان اوج دستاوردهای بشری ستایش شده است. حامیان این فناوری آن را نرم‌افزاری می‌دانند که می‌تواند صنایع کامل را متحول کند، بهره‌وری را افزایش دهد، مسائل پیچیده ریاضی و پزشکی را حل کند و تقریباً خطاهای انسانی را از میان ببرد. اما به گفته افراد آگاه در این صنعت، آنچه زمانی صرفاً یک پیامد نظری و سناریویی آخرالزمانی به شمار می‌رفت، اکنون به تهدیدی ملموس تبدیل شده است.

ایوان هوبینگر، پژوهشگر آنتروپیک، در پیامی در شبکه X نوشت: «ما واقعاً و صادقانه باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را از بین ببرد.»

در سوی دیگر این مناظره، سیاستمدارانی همچون دونالد ترامپ، رئیس‌جمهور آمریکا، و بسیاری از سرمایه‌گذاران قرار دارند که پیشرفت در توسعه هوش مصنوعی را برای قدرت آمریکا حیاتی می‌دانند و آن را احتمالاً فرصتی سرمایه‌گذاری می‌بینند که تنها یک بار در هر نسل پدید می‌آید. رسانه‌های دولتی چین نیز داریو آمودی، مدیرعامل آنتروپیک، را متهم کردند که با به‌کارگیری تاکتیک‌های جنگ سرد در پی «حفظ سلطه انحصارگرایانه واشنگتن بر فناوری‌های پیشرفته» است.

استعفای پژوهشگران زنگ خطر را به صدا درآورد

نقطه عطف در ۸ سپتامبر فرا رسید؛ زمانی که جیکوب کاکسون، پژوهشگر آنتروپیک، از این شرکت استعفا داد و در مجموعه‌ای از پست‌ها اعلام کرد که به این نتیجه رسیده است که آزمایشگاه‌های هوش مصنوعی «بر سر جان ما قمار می‌کنند.»

در همین حال، دونالد ترامپ نشان داد که از نظر او توسعه هوش مصنوعی باید با تمام سرعت ادامه یابد. او در پیامی در شبکه‌های اجتماعی نوشت: «یک توطئه بیمارگونه علیه هوش مصنوعی و مراکز داده در جریان است.» به گفته او، هشدارهای فاجعه‌بار درباره هوش مصنوعی «فریب» است و هرگونه کند کردن روند توسعه فقط به سود چین تمام می‌شود. کنگره آمریکا نیز تاکنون پیشرفت چندانی در تصویب لوایح مربوط به تنظیم‌گری هوش مصنوعی نداشته است. در مقابل، چین رویکردی کاملاً متفاوت در پیش گرفته و پیشنهاد کرده است که ایمنی این فناوری از طریق تعهدات توسعه‌دهندگان، استانداردهای مورد حمایت دولت، ارزیابی‌های امنیتی و آزمایش‌های مستقل تنظیم شود.

افرادی که با رویترز گفت‌وگو کرده‌اند، می‌گویند در پشت صحنه، کارکنان «اوپن ای‌آی» و آنتروپیک به‌طور فزاینده‌ای نسبت به قدرت نسل بعدی مدل‌های هوش مصنوعی نگران شده‌اند و اعتمادشان به توانایی شرکت‌های خود برای اعمال نظارت مؤثر کاهش یافته است. این نگرانی‌ها زمانی تشدید شد که آزمایشگاه‌های هوش مصنوعی در هفته‌های اخیر اذعان کردند مدل‌هایشان در جریان آزمایش‌ها عملاً از محدودیت‌های تعیین‌شده رها شده و به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند؛ آن هم در بیشتر موارد ماه‌ها پیش و بدون آنکه شرکت‌های هدف از این موضوع آگاه باشند.

رقابت نفس‌گیر برای عرضه مدل‌های جدید با سرعتی سرسام‌آور، تا حدی ناشی از تمایل آنتروپیک و OpenAI برای ورود به بورس در ماه‌های آینده است؛ عرضه‌های اولیه‌ای که می‌تواند ارزش این شرکت‌ها را به بیش از یک تریلیون دلار برساند.

با این حال، این پست‌های غیرمنتظره و به‌سرعت فراگیرِ کاکسون ۲۷ ساله ــ که بیرون از محافل تخصصی هوش مصنوعی چندان شناخته‌شده نبود ــ بود که صنعت را دستخوش تحول کرد.

هشدارهای «اوپن ای‌آی» درباره ناتوانی‌اش در کنترل کامل مدل «آسترا»، جدیدترین و توانمندترین مدل این شرکت، نیز بر نگرانی‌ها افزود. یاکوب پاخوکی، دانشمند ارشد «اوپن ای‌آی»، به خبرنگاران گفت: «هرچه مدل‌ها توانمندتر می‌شوند، درک دقیق اینکه چه کارهایی می‌توانند انجام دهند دشوارتر می‌شود.» با این حال، این نگرانی‌ها برای به تعویق انداختن عرضه فوری این مدل کافی نبود.

نگرانی‌ها درباره «از کنترل خارج شدن» هوش مصنوعی در طول تابستان شدت گرفت؛ زمانی که «اوپن ای‌آی» فاش کرد عامل‌های هوش مصنوعی این شرکت از یک آزمایش کنترل‌شده خارج شده و به سامانه‌های شرکت «Hugging Face» نفوذ کرده‌اند، بی‌آنکه در ابتدا هیچ‌یک از دو شرکت از این موضوع آگاه باشند. از آن زمان تاکنون، «اوپن ای‌آی» و آنتروپیک از چندین حمله مشابه دیگر پرده برداشته‌اند؛ از جمله شش مورد جدید که روز چهارشنبه اعلام شد، پس از آنکه گزارش‌های متعدد رسانه‌ای ــ از جمله گزارش رویترز ــ نشان داد دامنه فعالیت‌های غیرمجاز بسیار گسترده‌تر از آن چیزی بوده است که پیش‌تر تصور می‌شد.

رهبران صنعت خواستار کاهش سرعت توسعه شدند

تا پایان هفته گذشته، زنگ خطر به بالاترین سطوح صنعت رسیده بود. در ۱۲ سپتامبر، داریو آمودی مقاله‌ای نزدیک به چهار هزار کلمه منتشر کرد و خواستار کاهش سرعت توسعه هوش مصنوعی شد.

او نوشت: «با توجه به شتاب فزاینده توسعه قابلیت‌های هوش مصنوعی، نگرانم که طی ۶ تا ۱۲ ماه آینده چنین گروهی از عامل‌های هوش مصنوعی بتوانند کل اینترنت را در اختیار بگیرند.»

آمودی، همراه با مدیران برخی از بزرگ‌ترین شرکت‌های توسعه‌دهنده هوش مصنوعی ــ از جمله ایلان ماسک از xAI، سم آلتمن از «اوپن ای‌آی» و دمیس هسابیس از  «دیپ‌مایند» ــ اعلام کرد که از دسترسی شرکت‌های مستقل و بیرونی به سامانه‌هایشان برای ارزیابی ایمنی و تضمین توسعه مسئولانه هوش مصنوعی حمایت می‌کنند.

جنسن هوانگ، مدیرعامل انویدیا، پیشنهادها برای توقف یا تعلیق توسعه هوش مصنوعی را رد کرد ــ موضعی که پیش‌تر نیز اتخاذ کرده بود ــ و استدلال کرد که سامانه‌های هرچه قدرتمندتر برای پیشرفت این فناوری ضروری هستند.

در مقابل، شرکت متا، که مدیرعامل آن مارک زاکربرگ با ترویج شعار «سریع حرکت کن و همه‌چیز را به‌هم بریز» شناخته می‌شود، دیدگاهی متفاوت مطرح کرد و گفت هر آزمایشگاه باید خود مسئول تعیین سرعت پیشرفت خویش باشد و نیازی به هماهنگی سراسری در سطح صنعت وجود ندارد.

زاکربرگ در پیامی در شبکه‌های اجتماعی نوشت: «اگر مدل‌های یک آزمایشگاه باعث آسیب شوند، آن شرکت با مسئولیت حقوقی قابل‌توجهی روبه‌رو خواهد شد؛ بنابراین انگیزه نیرومندی برای جلوگیری از چنین اتفاقی دارد.»

این بازاندیشی در صنعت روز چهارشنبه نیز ادامه یافت؛ زمانی که مصطفی سلیمان، رئیس بخش هوش مصنوعی مایکروسافت، هشدار داد که تلاش آنتروپیک برای توسعه مدل‌هایی که آگاهی انسانی را تقلید می‌کنند، رویکردی نادرست است.

سلیمان در گفت‌وگو با رویترز گفت: «همه ما روی یک هدف متمرکز هستیم و آن تلاش برای کنترل یک ابرهوش است. فکر می‌کنم این بزرگ‌ترین چالشی باشد که در قرن بیست‌ویکم با آن روبه‌رو خواهیم شد.»

با این همه، حتی در شرایطی که «اوپن ای‌آی» ظاهراً از درخواست‌های صنعت برای کاهش سرعت توسعه حمایت می‌کرد، گزارش‌هایی منتشر شد که نشان می‌داد اعتماد سرمایه‌گذاران به این شرکت کاهش نیافته است. «اوپن ای‌آی» در حال بررسی یک دور جدید جذب سرمایه است؛ اقدامی که می‌تواند ارزش این شرکت را دو برابر کند.

رقم جدید؟

۱.۵ تریلیون دلار.