لزوم یک نهاد نظارتی جهانی برای هوش مصنوعی

مایک الن، زکری باسو، مدیسون میلز / آکسیوس

دمیس هاسابیس، هم‌بنیان‌گذار و مدیرعامل گوگل دیپ‌مایند، از ایالات متحده می‌خواهد تا یک نهاد نظارتی جدید برای هوش مصنوعی ایجاد کند؛ نهادی که قدرت ارزیابی پیشرفته‌ترین مدل‌های جهان و هماهنگ کردن یک روند کندکننده در سطح کل صنعت را در صورت افزایش خطرات، داشته باشد.

هاسابیس، برنده جایزه نوبل و چهره پشت پرده مدل هوش مصنوعی «جمینای» (Gemini)، این برنامه را در بیانیه شخصی خود که صبح سه‌شنبه با عنوان «چارچوبی برای هوش مصنوعی پیشرو و آغاز یک عصر جدید» منتشر شد، تشریح کرده است.

چرا این موضوع اهمیت دارد: هاسابیس در مصاحبه‌ای اختصاصی با آکسیوس گفت زمان آن فرا رسیده است که رویکردی «سیستماتیک‌تر» برای قانون‌گذاری هوش مصنوعی اتخاذ شود؛ رویکردی که بودجه آن توسط خود این صنعت تأمین شود، کارشناسان فنی در سطح جهانی در آن فعالیت کنند و در برابر دولت ایالات متحده پاسخگو باشد.

هاسابیس از مقر خود در لندن به ما گفت که خطرات سایبریِ امروز که ناشی از هوش مصنوعی هستند، صرفاً «تیرهای هشدار» محسوب می‌شوند. به گفته او، ظرف ۱۸ ماه آینده، این قابلیت‌ها — به اضافه تهدیدات بیولوژیکی و هسته‌ای به مراتب جدی‌تر — می‌توانند در قالب مدل‌های متن-باز (Open-source) و فراتر از کنترل هر دولتی قرار گیرند.

هاسابیس به ما تأکید کرد که خطرات علاوه بر مدل‌های متن-باز، از سوی مدل‌های اختصاصی و قدرتمندترِ آینده در آزمایشگاه‌های بزرگ نیز ناشی خواهند شد.

او در بیانیه خود می‌نویسد: «آنچه ما اکنون به صورت جمعی انجام می‌دهیم، تعیین خواهد کرد که مرحله بعدی تمدن چگونه رقم می‌خورد.»

پشت صحنه: هاسابیس ماه‌هاست که در سکوت مشغول جلب حمایت برای این طرح بوده و پیش از علنی کردن آن، به دولت ترامپ، رهبران سایر آزمایشگاه‌های هوش مصنوعی و مقامات اروپایی گزارش داده است.

او درباره گفتگوهایش با دولت آمریکا — که پیش از هراس ناشی از مدل «میتوس» (Mythos)، رویکردی مبتنی بر عدم مداخله (Laissez-faire) در قبال تنظیم مقررات هوش مصنوعی داشت — گفت: «سیگنال‌هایی که دریافت کرده‌ام بسیار مثبت بوده‌اند.»

هاسابیس، دانشمندی که از احترام کم‌نظیری در میان جبهه‌های رقیب در دنیای هوش مصنوعی برخوردار است، می‌گوید دیگر رهبران آزمایشگاه‌های بزرگ نیز در سطوح کلان با او موافقند: «این همان مسیری است که صنعت باید به سمت آن حرکت کند.»

جدول زمانی او تهاجمی و سریع است. هاسابیس گفت: «صحبت از چند ماه است»، و ایده‌آل این است که این نهاد جدید «پیش از پایان سال جاری میلادی» عملیاتی شود.

نحوه کارکرد: هاسابیس پیشنهاد ایجاد یک نهاد استاندارد هوش مصنوعی را مطرح کرده است که از روی «فینرا» (FINRA - نهاد قانون‌گذار صنعت مالی) الگوبرداری شده است؛ نهاد نظارتی خصوصی که بودجه آن توسط صنعت تأمین می‌شود و تحت نظارت کمیسیون بورس و اوراق بهادار آمریکا (SEC) بر وال‌استریت نظارت می‌کند.

آزمایشگاه‌های پیشرو در ابتدا مدل‌های خود را به صورت داوطلبانه، تا ۳۰ روز پیش از عرضه، در اختیار این نهاد قرار می‌دهند تا آزمایش‌های ایمنی برای سنجش قابلیت‌های خطرناک سایبری، بیولوژیکی و «فریب‌کاری» روی آن‌ها انجام شود.

هاسابیس می‌نویسد پس از اینکه کارآمدی و استحکام این سیستم آزمایشی اثبات شد، رسمی‌شدن آن «می‌تواند به سرعت دنبال شود.» این بدان معناست که مدل‌های پیشرو برای اینکه بتوانند در بازار ایالات متحده عرضه شوند، ملزم به قبولی در این آزمایش‌ها خواهند بود.

هاسابیس هیئت‌مدیره‌ای را متصور است که اکثریت آن مستقل بوده و از برندگان جایزه تورینگ و دیگر کارشناسان برجسته و معتبر، در کنار نمایندگان صنعت، دولت و بخش متن-باز تشکیل شده باشد.

نکات جالب توجه: این قوانین برای همه مدل‌های کلاس پیشرو (Frontier-class) اعمال خواهد شد، «بدون توجه به کشور مبدأ آن‌ها یا اینکه متن-باز باشند یا انحصاری»؛ و شاخص‌های سنجش صلاحیت نیز به موازات تکامل قابلیت‌ها، به طور منظم به‌روزرسانی خواهند شد.

هاسابیس پیش‌بینی می‌کند که عنوان «پیشرو» نوعی اعتبار و پرستیژ به همراه خواهد داشت: مورد آزمایش قرار گرفتن یعنی شما اهمیت دارید. او به ما گفت: «فکر می‌کنم این یک دارایی بسیار خوب و اعتباری برای داشتن است.»

تصویر بزرگ‌تر: هاسابیس گفت سرکوب ناگهانی و بداهه مدل‌های «میتوس» (Mythos) و «فیبل» (Fable) متعلق به شرکت آنتروپیک (Anthropic) توسط دولت ترامپ در ماه گذشته، «یک جور زنگ خطر» بود — مدرکی دال بر اینکه واشنگتن به چیزی مستحکم‌تر از دستورالعمل‌های موقت و موردی نیاز دارد.

شرکت آنتروپیک شاهد بود که قدرتمندترین مدل‌هایش یک‌شبه به دلیل دستور کنترل صادرات مسدود شدند و سپس ۲.۵ هفته را صرف مذاکره برای آزادسازی آن‌ها کرد، آن هم بدون اینکه هیچ قانون، پروتکل یا دستورالعمل مشخصی وجود داشته باشد.

اوپن‌ای‌آی (OpenAI) نیز به امید جلوگیری از سرنوشتی مشابه، موافقت کرد که دسترسی به مدل GPT-5.6 را در زمان عرضه، محدود به شرکای تأییدشده از سوی دولت کند. این مدل هفته گذشته پس از مذاکرات و آزمایش با وزارت بازرگانی، به صورت عمومی منتشر شد.

نکات پنهان متن: داریو آمودی، مدیرعامل آنتروپیک نیز پیش از این خواستار وضع مقررات الزام‌آور شده و آژانسی شبیه به اداره هوانوردی فدرال (FAA) را متصور شده بود که قدرت مسدود کردن مدل‌های ناایمن را داشته باشد.

رؤسای آزمایشگاه‌های پشت مدل‌های جمینای و کلود اکنون هم‌عقیده‌اند که واشنگتن باید بر آن‌ها نظارت کند و اختلاف نظر اصلی آن‌ها تنها بر سر این است که چه کسی این مرجعیت و اختیار را در دست داشته باشد.

کلام آخر: هاسابیس معتقد است که هوش مصنوعی عمومی (AGI) — سیستمی با تمام قدرت‌های شناختی مغز انسان — «احتمالاً تنها چند سال کوتاه با ما فاصله دارد» و ما در «دامنه کوه تکینگی (Singularity)» ایستاده‌ایم.

او در بیانیه خود می‌نویسد: «ما اساساً راهی پیدا کرده‌ایم که به شن و ماسه قدرت تفکر بدهیم. این معجزه‌آسا است.»