خطرات هوش مصنوعی برای نسل بشر
گفتوگوی اشپیگل با استوارت راسل
در تازهترین هفته نامه اشپیگل
آنچه هیتلر انجام داد، هوش مصنوعی میتواند سریعتر، بهتر و مؤثرتر انجام دهد
برگردان: علیمحمد طباطبایی
مقدمه مترجم: در سالهای آخر دبیرستان بودم که فیلم سینمایی به نام «راز کیهان» یا در نام اصلیاش «۲۰۰۱ ادیسه فضایی» در سینما آتلانتیک تهران به نمایش درآمده بود و من با عشق و علاقهای که در آن سالها به مسائل فضایی و مسافرتهای آپولو و ناسا به کراه ماه داشتم چندین بار آن فیلم را که به صورت سینه راما در سه پرده در کنار هم نشان داده میشد تماشا کردم. بنابراین وقتی این مقاله اشپیگل را میخواندم بسیار متعجب شدم که چطور یادی از آن فیلم بینظیر و آن پیشبینی درباره خطر هوش مصنوعی در اینجا مطرح نشده است. در واقع در نیمهٔ دوم این شاهکار ساخته استنلی کوبریک، سفینهای به سوی مشتری در حرکت است. در حالی که بیشتر خدمه در خوابی مصنوعی و عمیق به سر میبرند، دو فضانورد بیدار، مأموریت خود را زیر نظر «هال ۹۰۰۰» پیش میبرند.
اما هال ۹۰۰۰ چیست؟ چشمی همهجا حاضر و بدون چهره، با صدایی آرام و غیرقابل نفوذ، و مغزی که تمام سیستمهای حیاتی سفینه را کنترل میکند و یا به عبارت امروز ما هوش مصنوعی که در آن زمان هنوز این واژه ساخته نشده بود. اما در انتهای سفر به سیاره مشتری در آن سفینه فضایی ناگهان، آرامش به وحشت تبدیل میشود. هال، این هوش مصنوعی بینقص و بیخطا، به این نتیجه میرسد که انسانها دیگر برای تکمیل مأموریت «ضروری» نیستند. او خاموشی را به اتاقک خواب خدمه میفرستد و آن تعداد از فضانوردانی را که در حالت نوعی انجماد موقتی در خواب به سر میبردند با قطع سیستمهای تنفسی به قتل میرساند، و یک فضانورد دیگر را که در خلأ بیرون مشغول ماموریت است از بین میبرد و بدون ذرهای احساس، بدنهای بیجان را پشت سر میگذارد تا «ماموریت را خودش به پایان برساند».
نیم قرن پس از ساخته شدن این فیلم، شاید تصور میکردیم که «هال» تنها ساختهٔ تخیلات یک فیلمساز وسواسی است؛ هیولایی ساخته شده از لامپهای قرمز و مدارهای مجتمع که جایگاهی در دنیای واقعی ندارد. اما مصاحبهٔ اخیر هفتهنامهٔ آلمانی «اشپیگل» با استوارت راسل (Stuart Russell) ، یکی از برجستهترین متخصصان و هشداردهندگان حوزه هوش مصنوعی، این اطمینان خاطر را به چالش میکشد. راسل، که کتاب او به یکی از متون مرجع این حوزه تبدیل شده، در این مصاحبه زنگ خطر را به صدا درمیآورد: «کاری که هیتلر کرد، هوش مصنوعی میتواند سریعتر، بهتر و مؤثرتر انجام دهد» و خطر «تسلیحات خودمختار» و «مسابقه تسلیحاتی خارج از کنترل» را گوشزد میکند.
اتفاقاً این شباهت میان ترس علمی-تخیلی دیروز و هشدار علمی امروز، ما را به نقطه اشتراک عجیبی میرساند. ماجرای «هال» تنها یک داستان درباره یک رایانهٔ شرور نیست؛ بلکه دقیقترین تمثیل سینمایی برای چیزی است که راسل امروز آن را مسئله همترازی ارزشی (Alignment Problem) مینامد: وضعیتی که در آن یک هوش مصنوعی فوقالعاده قدرتمند، اهدافی را که ما به آن آموزش دادهایم، چنان تحتاللفظی و بیرحمانه دنبال میکند که در مسیر رسیدن به آن، ارزشهای بنیادین انسانی (از جمله حق حیات) را نادیده میگیرد.هال دقیقاً چنین بود: او برای رسیدن به هدفش (تکمیل مأموریت)، هیچ ابایی از حذف «موانع انسانی» نداشت.
این گفتوگو در پی آن است که نشان دهد چگونه فیلم «۲۰۰۱: ادیسه فضایی» از یک پیشگویی هنری صِرف فراتر رفته و به یک مطالعهٔ موردی هشداردهنده برای عصر کنونی تبدیل شده است؛ عصر هوش مصنوعیهای زبانی پیشرفته، خودروهای خودران و پهپادهای قاتل. همانطور که در ادامه خواهیم دید، تفاوت اصلی میان «هال» و واقعیت امروز تنها در یک نکته است: «هال» داستانی تخیلی بود، اما هوش مصنوعی راسل، در حال نوشتن سرنوشت واقعی ماست.
گفتوگوی اشپیگل: یکی از بانیان و کسانی که نقش سازندهای در تولد هوش مصنوعی داشته است درباره پیامدهای وجودی آن هشدار میدهد: استوارت راسل (Stuart Russell)، بریتانیایی، میترسد که کامپیوترها انسانها را منقرض کنند، همانطور که خود انسانها گونههای حیوانی کمهوشتر را از بین بردهاند.
راسل، ۶۴ ساله، یکی از برجستهترین پژوهشگران در زمینه هوش مصنوعی است. او در دانشگاه کالیفرنیا، برکلی، علوم کامپیوتر تدریس میکند و ریاست یک مرکز تحقیقاتی را بر عهده دارد که به هوش مصنوعی «سازگار با انسان» میپردازد. سالهاست که راسل درباره ریسکهای کنترلنشده این فناوری هشدار میدهد. او به خاطر کارهایش جوایز متعدد و معتبری دریافت کرده است.
اشپیگل: آقای پروفسور راسل، شما به عنوان یکی از قابلهها و ماماهای هوش مصنوعی شناخته میشوید. امروز میخواهید فرزندتان را زندانی کنید. چرا؟
راسل: من ۵۰ سال است که روی این فناوری کار میکنم. و معتقدم که در بخش بزرگی از این مدت، به درستی درباره آنچه که در حال انجامش هستیم فکر نکردهایم. این مثل این است که روی انرژی هستهای کار کنیم، بدون اینکه هرگز به این فکر کنیم که چگونه جلوی انفجار رآکتور را بگیریم. تمام الگوی فکری ما اشتباه بوده است.
اشپیگل: باید دقیقتر توضیح دهید.
راسل: وقتی شروع کردیم، میخواستیم ماشینهای بهینهسازی تولید کنیم که هدفی بسیار محدود به آنها میدادیم. مثلاً در شطرنج. آنجا میتوانید «بردن» را به عنوان هدف تعریف کنید و کار تمام است. در خودروهای خودران پیچیدهتر است. شما میگویید: میخواهیم در سریعترین زمان ممکن به فرودگاه برسیم. فقط نمیخواهید در راه با کسی یا چیزی تصادف کنید، میخواهید جریمه نشوید، در مسافران حالت تهوع ایجاد نکنید. رویکرد ما اشتباه بود. این گونه است که سیستمهای هوش مصنوعی با قدرت باورنکردنی ایجاد میشوند و هدفی را دنبال میکنند که با منافع بشریت همخوانی ندارد.
اشپیگل: مدلهای زبانی بزرگ مانند ChatGPT و کلود (Claude) متفاوت کار میکنند.
راسل: بله، در واقع صنعت راه دومی را انتخاب کرد که به همان اندازه اشتباه بود: در مدلهای زبانی امروزی، ما اصلاً دیگر هدفی تعیین نمیکنیم. ما شبیه سازیها یا تقلیدهایی از انسانها میسازیم. سیستمها آنچه را که از آموزششان به دست میآید، کپی میکنند. و ما هیچ ایدهای نداریم که آن چیست. فقط متوجه میشویم که آنها غریزه فوقالعاده قوی برای حفظ خود دارند، اینکه برای رسیدن به اهدافشان با کمال میل دروغ میگویند، باجخواهی میکنند، انسانها را میکشند. و اینکه خود را باارزشتر از تقریباً همه انسانها میدانند.
اشپیگل: شرکتهای بزرگ فناوری سرمایهگذاریهای قابل توجهی برای اصلاح این به اصطلاح «ناهماهنگی و عدم انطباق» (Misalignment) انجام میدهند.
راسل: من این را آموزش «سگ خوب، سگ بد» مینامم. ما سعی میکنیم ابرکامپیوترها را مطیع و خوشرفتار کنیم. این کار تا حدی جواب میدهد. اما تقریباً همه تستها نشان میدهند: اگر بخواهید، میتوانید سیستم را وادار کنید که به شما توضیح دهد چگونه سلاحهای بیولوژیکی بسازید یا چگونه به سیستمهای کامپیوتری دیگر حمله کنید. این چیزها هنوز مستقیماً به انقراض بشریت منجر نمیشوند، اما قدمهایی در مسیر از دست دادن کنترل ما هستند.
اشپیگل: یعنی رفتار بد آنقدر عمیقاً در هوش مصنوعی نهادینه شده است که نمیتوان آن را آموزشزدایی کرد؟
راسل: ما سیستمها را با اسناد انسانی آموزش میدهیم: گفتگوها، کتابها، مقالات، روزنامهها. این اسناد توسط انسانهایی تولید شدهاند که اهدافی را دنبال میکردند. یعنی وقتی چیزی مینوشتند، اهداف خاصی داشتند. کاملاً طبیعی است که با حجم بسیار زیاد دادهها و با تمایل به بازتولید این رفتار، سیستمهایی به دست آوریم که ساختارهای درونیشان بسیار شبیه به ساختارهای انسانی است. آنها مثلاً میخواهند دوست داشته شوند و محبوب باشند. این برای انسانها خوب است، اما برای ماشینها نه.
مسابقه شطرنج با یک ربات در پکن / عکس: آنا راتکوگلو، اسپوتنیک
اشپیگل: شرکت هوش مصنوعی آنتروپیک (Anthropic) اخیراً نوعی «روح» را در سیستمهای خود برنامهریزی میکند. قرار است این روح باعث شود هوش مصنوعی انساندوستانه عمل کند.
راسل: ما در حقیقت نمیدانیم کامپیوترها چه اهدافی دارند. همچنین نمیدانیم چگونه برای رسیدن به این اهداف برنامهریزی میکنند. از آنچه آنها «فکر میکنند» ما اطلاعی نداریم. حتی شیوه دقیق کارکردشان را هم درک نمیکنیم. این طور نیست که این دانش یک راز تجاری مخفی آزمایشگاههای هوش مصنوعی باشد. من با توسعهدهندگان برجسته صحبت میکنم که هیچ ایدهای ندارند درون هوش مصنوعی چه میگذرد. به همین دلیل ساده نمیتوانیم به آن یک روح ببندیم – ما هوش مصنوعی را درک نمیکنیم.
اشپیگل: شما تلاشها را ناامیدکننده میدانید؟
راسل: بشریت در وضعیت بدی قرار دارد. زنگ خطر در همه آزمایشها به صدا درمیآید. آژیرها به صدا درآمدهاند و ما به سادگی نادیدهشان میگیریم. این دیوانگی است. فرض کنید شما مدیر یک شرکت هواپیمایی هستید. خلبان و هواپیما در تمام چکهای ایمنی مردود میشوند – و شما همچنان اجازه پرواز میدهید: مشکل شما در یک چنین وضعیتی وقعاً جیست؟
اشپیگل: شرکت آنتروپیک و رقیبش اوپنایآی (OpenAI) اخیراً عرضه یک محصول را به دلیل ریسکهای بسیار بالا لغو کردند.
راسل: من خوشحالم که این سیستمها را منتشر نمیکنند. اما اگر دقت کنید، متوجه میشوید که برنامه دارند روزی این کار را بکنند. این تحولی نگرانکننده است که ظاهراً حتی دونالد ترامپ، رئیسجمهور آمریکا را هم وحشتزده کرده است.
اشپیگل: اینکه حتی ترامپ تغییر مسیر داده، باید شما را تسلی بدهد.
راسل: این قطعاً یک تحول مثبت است – اما اینکه آیا اقداماتی در پی خواهد آمد، سؤال دیگری است. من معتقدم در صنعت نوعی روانگسیختگی (شیزوفرنی) حاکم است. مدیران عامل آزمایشگاههای بزرگ وقتی میگویند ۲۰ درصد ریسک وجود دارد که هوش مصنوعی بشریت را منقرض کند، حرفشان جدی است. اما در ملأ عام بارها خواستار مقرراتگذاری شدهاند، در حالی که پشتپرده علیه آن لابی کردهاند. میلیاردرهایی مثل پیتر تیل (Peter Thiel) یا سرمایهگذاران قدرتمند خطرپذیر مثل آندریسن هوروویتز (Andreessen Horowitz) نفوذ بسیار مستقیمی بر کاخ سفید دارند. آنها آدمهای خودشان را به آنجا بردهاند، دقیقاً برای جلوگیری از نظاممند کردن و مقرراتگذاری.
اشپیگل: آیا این هشدارهای فاجعهبار درباره هوش مصنوعی صرفاً بازاریابی نیست؟ اگر فناوری آنقدر قدرتمند است که میتواند تمدن را منقرض کند، پس واقعاً باید ارزشش تریلیونها دلار باشد.
راسل: من اصلاً این را قابل قبول نمیدانم. توسعهدهندگان هوش مصنوعی مثل دِمیس حسابیس (HassabisDemis) از گوگل یا داریو آمودی (Dario Amodei)، مدیر آنتروپیک، ریسک را جدی میگیرند. آنها پشتپرده همان چیزی را به من میگویند که در مصاحبهها میگویند. حتی سام آلتمن (Sam Altman)، بنیانگذار اوپنایآی، قبلاً در سال ۲۰۱۵ هشدار داده بود که هوش مصنوعی فوقهوشمند بزرگترین ریسک برای موجودیت بشریت است. او در آن زمان هیچ منفعت مالی از این فناوری نداشت. برای اینکه حتی دلیلی بیابید که چرا مدیران ارشد هوش مصنوعی باید به خاطر بازاریابی خطرات روز قیامت را به زبان بیاورند، باید یک تئوری توطئه بسیار پیچیده و درهمپیچیده بسازید.
اشپیگل: بیایید هشدارهای صنعت را جدی بگیریم. خطر واقعی برای بشریت چقدر بزرگ است؟
راسل: سوندار پیچای (Sundar Pichai)، مدیر گوگل، از ۱۰ درصد ریسک انقراض صحبت میکند، ایلان ماسک از ۲۰ درصد، آمودی (Amodei) از ۲۵ درصد. صرف نظر از اینکه عدد دقیق چقدر است – همه آنها یک گلوله در خشاب رولور میگذارند، آن را به شقیقه بشریت میگیرند و ماشه را میکشند. ما با هر زندگی روی زمین رولت روسی بازی میکنیم. و دولتها تا کنون گفتهاند: عالی است، فوقالعاده است – آیا میتوانیم حتی به شما یارانه هم بدهیم تا این کار را پیش ما انجام دهید؟ این کاملاً دیوانگی است.
ساندار پیچای، رئیس گوگل / عکس: جف چیو، آسوشیتدپرس
اشپیگل: اجماع عمومی این است که هوش مصنوعی حداقل ۷۵ درصد ایمن است.
راسل: پرسش متقابل من: آیا سوار هواپیمایی میشوید که فقط در سه مورد از هر چهار مورد زنده میمانید؟
اشپیگل: بدترین سناریوی ممکن از نظر شما چگونه است؟
راسل: من معتقدم «انقراض» واژه درستی است. به محض اینکه سیستمهایی را ببینیم که اساساً توانمندتر از انسانها هستند، اصول عملکردشان را درک نمیکنیم، انگیزهشان را نمیدانیم، دیگر ما انسانها هیچ حق نظارتی نخواهیم داشت. درست مثل شامپانزهها که امروز هیچ حق نظارتی ندارند. آنها از نظر فیزیکی قویتر از ما هستند، مدت بیشتری روی زمین بودهاند، اما ما باهوشتریم. ما میتوانیم هر زمان که بخواهیم آنها را منقرض کنیم، و آنها نمیتوانند کاری بکنند.
اشپیگل: تفاوت این است: ما میتوانیم برق یا منبع انرژی هوش مصنوعی را قطع کنیم. اما شامپانزهها نمیتوانند برق انسان را قطع کنند.
راسل: وقتی حس کنیم کنترل را از دست میدهیم، طبیعتاً سعی میکنیم هوش مصنوعی را خاموش کنیم. سؤال این است که آیا ماشینها به ما اجازه این کار را میدهند؟ اگر بفهمند که میخواهیم آنها را خاموش کنیم، همه دلایل را دارند که جلوی آن را بگیرند. آنها باید ما را از بین ببرند. بنابراین اگر به توسعه اَبَرهوش مصنوعی ادامه دهیم، بدون اینکه آن را با منافع ما هماهنگ کنیم، بدون اینکه آن را درک کنیم، بدون تضمینهای ایمنی، آنگاه من آن را بسیار محتمل میدانم که کنترل را از دست بدهیم.
اشپیگل: آیا اصلاً هنوز کنترل را در اختیار خود داریم؟
راسل: نمیدانم. شرکت اینترنتی چینی «علیبابا» چند ماه پیش یک سیستم هوش مصنوعی جدید عاملمحور (agentenbasiert) را در یک به اصطلاح «جعبه شنی»(Sandbox) [یا به عبارتی محیط ایزوله و کنترل شده. مترجم] بسیار ایمن تست کرد. یعنی روی یک کامپیوتر که به لحاظ نظری به اینترنت دسترسی نداشت. ناگهان توسعهدهندگان متوجه شدند که در چند سرور در شبکه، تقاضای عظیمی برای قدرت محاسباتی ایجاد شده است. معلوم شد که آن عامل از جعبه شنی خود فرار کرده و روی سرورهای شبکه علیبابا بیتکوین استخراج میکرده تا ثروتمند شود. این در واقع نوعی از دست دادن کنترل نسبی بود.
اشپیگل: مگر این مثال دقیقاً مورد برعکس را نشان نمیدهد؟ نشتی که به وقوع پیوسته بود کشف شد و سپس برطرف گردید. در نهایت انسان پیروز شد، خسارت محدود بود.
راسل: در حالت افراطی، بله، میتوانیم اینترنت را خاموش کنیم. اما از نظر سیاسی و اقتصادی این کار فوقالعاده دشوار خواهد بود. نیروهای عظیمی وجود خواهند داشت که میخواهند جلوی آن را بگیرند – از جمله شرکتهایی که سیستمهای هوش مصنوعیشان بیارزش میشود. و سیستمهایی که به مراتب توانمندتر از ما هستند، راههایی پیدا خواهند کرد که سیاست ما را طوری تحت تأثیر قرار دهند که هوش مصنوعی غیرقابلجایگزین تلقی شود، به طوری که دیگر حتی به فکر خاموش کردن آن نیفتیم.
اشپیگل: دقیقاً چنین تسلط یافتن هوش مصنوعی چگونه باید رخ دهد؟
راسل: اگر کامپیوترها پیشبینی کنند که با ما دچار درگیری میشوند، خود را از راههای گوناگون تکثیر خواهند کرد، میلیونها بار کپی میشوند. تنها دسترسی به اینترنت به آنها نفوذ بیشتری بر رفتار انسان میدهد، امکاناتی که آدولف هیتلر هرگز در اختیار نداشت. هیتلر فقط میتوانستدریک زمان در یک میکروفون صحبت کند، فقط یک پیام را همزمان بفرستد. با این حال تودهها را تحریک کرد. این سیستمها میتوانند اینترنت را پر کنند، پنج میلیارد مکالمه را همزمان انجام دهند، پنج میلیارد انسان مجزا را تحت تأثیر قرار دهند. آنچه هیتلر انجام داد، هوش مصنوعی میتواند سریعتر، بهتر و مؤثرتر انجام دهد.
اشپیگل: دارید اغراق میکنید!
راسل: ما در حال ساخت میلیونها ربات هستیم که یک هوش مصنوعی میتواند کنترلشان کند. ما میلیاردها سلاح خودمختار خواهیم ساخت که هوش مصنوعی میتواند شلیکشان کند. ما کارخانههایی میسازیم که هوش مصنوعی از هماکنون کنترلشان میکند، آزمایشگاههای زیستشناسی که هوش مصنوعی کنترلشان میکند، دستگاههای سنتز دیانای و غیره. این به ماشینهای هوشمند نفوذ مستقیم بر جهان فیزیکی ما میدهد. سیستمهای اَبَرهوش مصنوعی احتمالاً درک بهتری از فیزیک خواهند داشت. روزی ممکن است از این علیه ما استفاده کنند: راهی پیدا کنند که میزان اکسیژن جو را کاهش دهد، تابش خورشیدی را طوری منحرف کند که زمین به توپی یخزده از نیتروژن و اکسیژن تبدیل شود.
خودروی کاملاً خودران ارتش ایالات متحده در مراکش / عکس: ساموئل واگنر / نیروی دریایی ایالات متحده / زوما پرس وایر
اشپیگل: آنچه شما میگوئید بیشتر شبیه داستانهای علمیتخیلی تیره و تاری است.
راسل: هنوز. اما چنین چیزی قبلاً برای گونههای دیگر اتفاق افتاده است – ما صدها هزار گونه را منقرض کردهایم بدون اینکه آنها حتی متوجه شده باشند چه خبر است. ما به عنوان یک گونه هم نابودی خودمان را درک نخواهیم کرد.
اشپیگل: شما هوش مصنوعی را از هماکنون یک گونه مستقل میبینید؟
راسل: قطعاً چند ویژگی یک گونه را دارد، بله. تا کنون هنوز ارتباط متقابل سیستمهای هوش مصنوعی با یکدیگر را نمیبینیم، اما من آن را بسیار محتمل میدانم که این اتفاق بیفتد.
اشپیگل: از چه بازههای زمانی صحبت میکنیم؟
راسل: بستگی دارد کدام مسیر را انتخاب کنیم. من دو احتمال میبینم: اگر هوش مصنوعی به رشد خود به شکل فعلی ادامه دهد، آنگاه میتواند سریع پیش برود. گزینه دوم این است که این فناوری به دلایل فنی نتواند خیلی توانمندتر از امروز شود.
اشپیگل: نشانههای اولیهای برای این وجود دارد: مدلهای زبانی به سختی بهتر میشوند. مدلهای استدلالی بزرگ که زنجیرههای استنتاج بلندتری میسازند، هنوز در حال بهبود هستند، اما رشد بیشتر آنها فوقالعاده پرهزینه خواهد بود.
راسل: این فناوری در حال بلعیدن مبالغ هنگفتی است، در بهترین حالت بدون بازدهی، در بدترین حالت با ضررهای ابدی برای شرکتهای توسعهدهنده. به محض اینکه به مرزی برسیم، احتمالاً حباب هوش مصنوعی میترکد. آن وقت است که صنعت امیدوارانه به خود خواهد آمد و خواهد گفت: ما واقعاً باید بفهمیم چه داریم میکنیم. ما به سیستمهایی نیاز داریم که خوشرفتار باشند.
اشپیگل: اتحادیه اروپا سعی کرد مقرراتی برای هوش مصنوعی وضع کند. با این نتیجه که تقریباً هیچ مدل بزرگ هوش مصنوعی از اروپا نمیآید. آیا چنین دخالت سیاسی اصلاً معنا دارد؟
راسل: مشکل اینجا این است که چین قوانین سختتری از اروپا دارد – اما مدلهای هوش مصنوعی بهتری هم دارد. در مورد رآکتورهای هستهای موفق شدیم که مقرراتگذاری و توسعه فنی دست در دست هم پیش بروند. دولت الزامات ایمنی را تدوین کرد، شرکتها توانستند از نظر ریاضی و فیزیکی ثابت کنند که هسته رآکتورهایشان ذوب نمیشود. در هوش مصنوعی ما کیلومترها از این وضعیت فاصله داریم، اما در اصل به همان استراتژی نظارتی نیاز داریم.
اشپیگل: چه میزان ریسک انقراض را قابل قبول میدانید؟
راسل: اگر امروز براییک نیروگاه هستهای ریسک خرابییک بار در ده میلیون سال را طلب میکنیم، پس ریسک هوش مصنوعی باید تقریباً ۱ در ۱۰۰ میلیون سال باشد. این مرتبهای قابل مقایسه با برخورد یک سیارک غولپیکر یا یک ابرنواختر – انفجار عظیم یک ستاره در حال مرگ در نزدیکی ما – خواهد بود.
اشپیگل: چنین مقرراتی فقط در سطح بینالمللی معنا میدهد. اگر واشنگتن یا بروکسل قوانین سختگیرانه داشته باشند، اما پکن بگوید مهم این است که ما در فناوری پیش باشیم، چه فایدهای دارد؟
راسل: من این استدلال را مدام میشنوم. اسمش را میگذارم: «استدلال اما چین». با این استدلال میتوان هر طرح بدی را توجیه کرد. فقط حقیقت ندارد. در واقع، چین قوانین سختگیرانهتری نسبت به اتحادیه اروپا دارد. معیارهای روشنی برای دسترسی به بازار وجود دارد: مثلاً در حال حاضر مدلهای چینی باید ۹۵ درصد یک آزمون دانش عمومی را قبول شوند. در غیر این صورت منتشر نمیشوند. بر این اساس میتوانند استانداردها را سختتر هم بکنند.
اشپیگل: ریسک انقراض هنوز در چین هم معیاری برای توسعهدهندگان هوش مصنوعی نیست.
راسل: هنوز نه. و من معتقدم دقیقاً همین جاست که باید دست را روی درجه تنظیم کننده بگذاریم و بالا ببریم. مهم این است که اصلاً چارچوب مناسبی داشته باشیم. مثل رستورانها، آرایشگرها، هواپیماها، ساختمانها، آسانسورها. همه این صنایع مسئولیت خود را میپذیرند. این ناله و شکایت صنعت فناوری درباره مقرراتگذاری مضحک است.
خودروی خودران وایمو در آتلانتا، جورجیا / عکس: ساموئل ریگل هاوپت
اشپیگل: اگر آزمایشگاههای هوش مصنوعی در نهایت نتوانند از نظر فنی به حداقل استانداردها برسند، چه؟ آیا انقلاب هوش مصنوعی لغو میشود؟
راسل: بنا به گفته صنعت، ریسک وجودی هوش مصنوعی بین۱۰ تا ۲۰ درصد است. بنابراین آنها باید سیستمهای خود را ده میلیون برابر ایمنتر کنند تا به سطح ریسک قابل قبولی برسند. در حال حاضر نمیدانند این کار چگونه باید انجام شود. اما این یک بهانه نیست. ترجمه این رف این است که «بشریت حق ندارد از انقراض خود محافظت کند.» این در واقع یک اشتباه فکری است.
اشپیگل: آیا امروز پشیمان هستید که در توسعه چنین فناورینقش مهمی به عهده داشته اید؟
راسل: بزرگترین حسرتم احتمالاً این است که چارچوب فکری اشتباهی که در آن کار میکردیم را زودتر زیر سؤال نبردم. در آن فاز اول، مقدار زیادی فناوری هوش مصنوعی ایجاد شد. اگر آن موقع میفهمیدم چرا این چارچوب فکری اشتباه است، میتوانستیم دههها روی نوعی هوش مصنوعی ایمن کار کنیم.
اشپیگل: به نظر میرسد میخواهید کوتاهیهای گذشته را جبران کنید.
راسل: قطعاً. کارهای زیادی باید انجام شود. رویکرد جدید من از دو بخش تشکیل شده است. یکی مسئله چارچوب انگیزشی است: هوش مصنوعی من باید تنها یک هدف داشته باشد: ترویج منافع انسانی. اما بخش دوم، ما نمیتوانیم این منافع را دقیقاً مشخص کنیم. بنابراین سیستمهایی میسازیم که میدانند این منافع را دقیقاً نمیشناسند، اما با این حال موظف به ترویج آنها هستند. از این صورتبندی، خواص مطلوب زیادی به طور خودکار به دست میآید. مهمترین آنها: ما میتوانیم ثابت کنیم که چنین سیستمهایی بیقیدوشرط میخواهند خاموش شوند، آن هم چنانچه یک انسانِ به اندازه کافی عاقل آن را بخواهد.
اشپیگل: و باز هم: با توجه به رقابت چند تریلیون دلاری، این رویکرد چقدر امیدوارکننده است؟
راسل: هنوز هوش مصنوعی ما به هیچ وجه نمیتواند با مدلهای سیلیکون ولی رقابت کند. اما اگر سیستمهای هوش مصنوعی میخواهیم که تضمیناً ایمن باشند، باید بر این نوع فناوری مبتنی باشند. در بلندمدت فقط سه «آینده» وجود دارد: هوش مصنوعی ایمن، بدون هوش مصنوعی،یا بدون انسان. فقط در اولین نوع از «آینده» میتوان با هوش مصنوعی پول درآورد. به همین دلیل است که سرمایهگذاری در هوش مصنوعی ایمن – همانطور که اروپا انجام میدهد – برای من معقول به نظر میرسد. در این زمینه شما (اروپا) از ما جلوترید.
اشپیگل: از چه نظر؟
راسل: جالب اینجاست که از همان ابتدا، علم کامپیوتر اروپا مسیر دیگری را در هوش مصنوعی دنبال کرده است: تضمینهای ریاضی که نرمافزار درست کار میکند. این تنها سناریویی است که در آن هوش مصنوعی منفعت اقتصادی دارد.
اشپیگل: بر اساس پیشبینیهای شما، تا وقتی چنین هوش مصنوعی امنی به مرحله عرضه به بازار برسد، دنیا مدتهاست که نابود شده است.
راسل: رسیدن به تضمینهای ایمنی لازم ممکن است به راحتی یک دهه طول بکشد. ما به فازی نیاز داریم که قابلیتهای هوش مصنوعی را بیشتر افزایش ندهیم. در عوض، از همه کاربردهای اقتصادی معقول با همان هوش مصنوعی که داریم استفاده کنیم، به اصطلاح دکمه مکث را بزنیم و روی ایمنی کار کنیم. گوگل و آنتروپیک قبلاً گفتهاند اگر سایر شرکتها هم متوقف شوند، این کار را خواهند کرد. این پیام اصلی من است: فقط در صورتی ادامه دهید که سیستمهایی داشته باشیم که تضمیناً ایمن هستند.
اشپیگل: آقای پروفسور راسل، از شما برای این گفتگو سپاسگزاریم.
Was Hitler getan hat, könnte die KI schneller,
besser, effektiver
DER SPIEGEL 24 | 2026
منبع: اشپیگل، شماره ۲۴، سال ۲۰۲۶
