۱۲ ژوئن ۲۰۲۶
دولت ایالات متحده، با استناد به اختیارات امنیت ملی، دستوری در زمینه کنترل صادرات صادر کرده که بر اساس آن دسترسی هر اتباع خارجی — چه در داخل و چه در خارج از ایالات متحده، از جمله کارمندان خارجی آنتروپیک — به Fable 5 و Mythos 5 به حالت تعلیق درمیآید. نتیجه عملی این دستور آن است که ما ملزم هستیم دسترسی به Fable 5 و Mythos 5 را برای تمامی مشتریان بهطور ناگهانی قطع کنیم تا از رعایت مقررات اطمینان حاصل شود. دسترسی به سایر مدلهای آنتروپیک تحت تأثیر قرار نخواهد گرفت.
این دستور امروز ساعت ۵:۲۱ بعدازظهر (به وقت شرقی) به ما ابلاغ شد. در این نامه، جزئیات مشخصی درباره نگرانیهای امنیت ملی ذکر نشده است. بر اساس برداشت ما، دولت بر این باور است که از روشی برای دور زدن یا «جیلبریک»(*) Fable 5 آگاه شده است. ما نمایشی از این تکنیک خاص را بررسی کردیم که در آن تعداد اندکی از آسیبپذیریهای جزئی و از پیش شناختهشده شناسایی شده بودند. این آسیبپذیریها همگی بهنظر نسبتاً ساده میرسند و ما به این نتیجه رسیدهایم که سایر مدلهای در دسترس عموم نیز قادرند آنها را بدون نیاز به دور زدن محدودیتها کشف کنند.
موضع آنتروپیک در قبال پادمانهای Fable، همانگونه که در پست وبلاگ راهاندازی آن توضیح دادهایم، به شرح زیر است:
ما پادمانهای قدرتمندی را اعمال کردهایم که احتمال سوءاستفاده از Fable برای وظایف مرتبط با امنیت سایبری (و سایر موارد) را بهمیزان قابل توجهی کاهش میدهند. در واقع، پادمانهای ما به قدری قوی هستند که بسیاری از کاربران از فراگیر بودن بیش از حد آنها شکایت داشتهاند.
در هفتههای منتهی به راهاندازی Fable، آنتروپیک با همکاری دولت ایالات متحده، مؤسسه ایمنی هوش مصنوعی بریتانیا (AISI)، چندین سازمان خصوصی ثالث و تیمهای داخلی، مجموعاً هزاران ساعت پادمانهای Fable را در برابر حملات آزمایشی (red-team) ارزیابی کرد.
نتایج این آزمونها نشان داد که پادمانهای Fable بهطور چشمگیری از پادمانهای هر مدل پیشتر مستقر شدهای مؤثرتر هستند. تاکنون هیچیک از آزمونکنندگان موفق به یافتن یک جیلبریک جهانی نشدهاند؛ یعنی روشی که بتواند بهصورت گسترده از پادمانهای مدل عبور کرده و طیف وسیعی از قابلیتهای سایبری را آزاد کند.
ما بر این گمانیم که مقاومت کامل در برابر جیلبریک در حال حاضر برای هیچ ارائهدهندهای ممکن نیست. هر پادمانی که در این صنعت بهکار میرود در برابر جیلبریکهای غیرجهانی (که میتوانند در شرایط خاص اطلاعات سایبری را استخراج کنند) آسیبپذیر است، و احتمالاً در آینده جیلبریکهای جهانی نیز پیدا خواهند شد. ما این موضوع را بهصراحت هنگام انتشار Fable 5 اعلام کردیم.
از آنجا که مقاومت کامل در برابر جیلبریک در حال حاضر ممکن به نظر نمیرسد، آنتروپیک رویکرد «دفاع در عمق» را برای Fable 5 اتخاذ کرد. هدف ما این بود که جیلبریکها را یا محدود نگه داریم (در مورد جیلبریکهای غیرجهانی) یا تولید آنها را بسیار پرهزینه کنیم (در مورد جیلبریکهای جهانی)، و این رویکرد را با نظارت جامع ترکیب کنیم تا هرگونه حمله موفق را بهسرعت شناسایی و متوقف کنیم. به همین دلیل است که آنتروپیک نگهداری ۳۰ روزه دادههای مشتریان را برای Fable الزامی کرده است — تغییر سیاستی که هزینههای واقعی برای ما با مشتریان در بر داشته، اما امکان تحقیق و رفع جیلبریکها را فراهم میکند.
ما پشت این استراتژی دفاع در عمق میایستیم. این رویکرد ریسکهای ناشی از Fable را کاهش میدهد و آنها را با ریسکهای مدلهای موجود که در سراسر صنعت مستقر شدهاند، قابل مقایسه میسازد.
ما حتی افشای یک جیلبریک غیرجهانی نگرانکننده که به نتیجهای مضر منجر شده باشد را دریافت نکردهایم. جیلبریکهای احتمالی که به ما افشا شدهاند، یا کاملاً بیخطر هستند یا یافتههای جزئیاند که هیچ مزیت خاصی در زمینه Mythos ارائه نمیدهند.
تاکنون، دولت تنها شواهد شفاهی از یک جیلبریک احتمالی محدود و غیرجهانی به ما ارائه داده است که اساساً شامل درخواست از مدل برای خواندن یک پایگاه کد خاص و رفع هرگونه نقص نرمافزاری میشود. بر اساس درک ما، یک جیلبریک احتمالی با دولت به اشتراک گذاشته شده است. ما گزارشی را که به اعتقادمان مبنای دستور دولت است بررسی کردهایم و تأیید کردهایم که سطح قابلیت نمایشدادهشده در آن، بهطور گسترده از سایر مدلها (از جمله GPT-5.5 شرکت OpenAI) قابل دسترس است و هر روزه توسط متخصصان دفاعی که از سیستمها محافظت میکنند مورد استفاده قرار میگیرد. در ۲۴ ساعت آینده جزئیات بیشتری را به اشتراک خواهیم گذاشت.
ما با دستور قانونی دولت همکاری میکنیم و دسترسی به Fable 5 و Mythos 5 را برای تمامی کاربران حذف میکنیم. با این حال، ما با این نظر که یافتن یک جیلبریک احتمالی محدود باید دلیلی برای فراخوانی یک مدل تجاری که در اختیار صدها میلیون نفر قرار داشته باشد، مخالفیم. اگر این معیار در سراسر صنعت اعمال شود، به اعتقاد ما عملاً تمامی استقرارهای مدلهای جدید برای همه ارائهدهندگان مدل مرزی را متوقف خواهد کرد.
همانگونه که بهصورت عمومی اعلام کردهایم، ما بر این باوریم که دولت باید از اختیار توقف استقرارهای ناامن برخوردار باشد، و این در چارچوب یک فرآیند قانونی که شفاف، منصفانه، روشن و مبتنی بر واقعیتهای فنی باشد. این اقدام با آن اصول انطباق ندارد.
از اختلال ایجادشده برای مشتریان خود عذرخواهی میکنیم. ما بر این باوریم که این موضوع یک سوءتفاهم است و در حال تلاش برای بازیابی دسترسی در اسرع وقت هستیم.
——————
* «جیلبریک» به معنای اقدام به دور زدن مقررات و دستورالعملهای محدودکننده یک سیستم نرمافرازی ـــ در اینجا مدل هوش مصنوعی ـــ با استفاده از نقاط ضعف و آسیبپذیریهای آن است.