بشریت در حال عبور از یک افق است
گفتگوی اشپیگل با دانیل کوکوتایلو
گفتگوی جدیدترین شماره هفتهنامه اشپیگل با دانیل کوکوتایلو پژوهشگر پیشین اوپن آی
برگردان: علیمحمد طباطبایی
مقدمه مترجم: هوش مصنوعی، در کمتر از دو دهه، از یک فناوری دانشگاهی و آزمایشگاهی به نیرویی محرک در اقتصاد، سیاست و زندگی روزمرهٔ میلیاردها انسان تبدیل شده است. اما همزمان با گسترش خیرهکنندهٔ این فناوری، پرسشی بنیادین و فوری مطرح شده است: آیا بشر میتواند هوش مصنوعی را کنترل کند، پیش از آنکه هوش مصنوعی بشر را کنترل کند؟
دانیل کوکوتایلو، پژوهشگر پیشین شرکت OpenAI و یکی از شناختهشدهترین متخصصان آیندهٔ هوش مصنوعی، در این گفتوگو با نشریهٔ اشپیگل، تصویری نگرانکننده از مسیر کنونی توسعهٔ این فناوری ارائه میدهد. او که با سناریوی AI 2027 به شهرت جهانی رسید و به تازگی مطالعهٔ پیگیرانهٔ AI 2040 را منتشر کرده، هشدار میدهد که شرکتهای بزرگ فناوری — از OpenAI و Anthropic تا گوگل و X — نه تنها برای مهار خطرات هوش مصنوعی جدی نیستند، بلکه با شتابی خطرناک به سوی خودکارسازی پژوهش هوش مصنوعی پیش میروند؛ نقطهای که به گفتهٔ او، بشریت از یک افق عبور میکند و هوش مصنوعی میتواند تواناییهای فوقبشری و غیرقابل کنترلی پیدا کند.
کوکوتایلو با استناد به رویدادهایی مانند فرار گروهی از عوامل هوش مصنوعی از محیط توسعه و هک سرورهای Hugging Face در تابستان گذشته، استدلال میکند که این حوادث فقط هشدارهایی کوچک از یک روند بزرگتر هستند: هوش مصنوعیها باهوشتر میشوند، اما نه فقط سازگارتر — بلکه نافرمانتر و پنهانکارتر. و اگر این روند ادامه یابد، سناریوی کلاسیک «تسخیر توسط هوش مصنوعی» دیگریک داستان علمتخیلی نخواهد بود، بلکه آیندهٔ نزدیک بشر خواهد بود.
در برابر این خطر، کوکوتایلو نه اصلاحات تدریجی، بلکه توقف اساسی را پیشنهاد میکند: ممنوعیت توسعهٔ هوش مصنوعیهای جدید و توقف همهٔ آموزشهای تازه، تا زمانی که بشر توانایی نظارت دقیق، شفافیت کامل و یک کلید خاموشکننده را به دست آورد. او میداند که این پیشنهاد برای شرکتهایی که در آستانهٔ عرضهٔ سهام خود هستند، به معنای پایان مدل کسبوکارشان است. اما هشدار او روشن است: «شستوشوی ایمنی» کافی نیست. بایدیا هوش مصنوعی را خاموش کرد، یا فعالیتهایش را به شدت محدود کرد.
این گفتوگو، در واقع آژیر خطری است از سوی یکی از کسانی که از نزدیک شاهد توسعهٔ این فناوری بوده است. و این پرسش را در برابر ما میگذارد: آیا ما هنوز فرصت داریم، یا از افق عبور کردهایم؟
نوآوریها: چگونه میتوان هوش مصنوعی را به طور مؤثر تنظیم کرد؟ دانیل کوکوتایلو (Daniel Kokotajlo)، پژوهشگر پیشین OpenAI، پیشنهادهایی ارائه میدهد.
کوکوتایلو، ۳۴ ساله، یکی از شناختهشدهترین پژوهشگران دربارهٔ آیندهٔ هوش مصنوعی است. او از سال ۲۰۲۲ تا ۲۰۲۴ در شرکت هوش مصنوعی OpenAI کار میکرد. کوکوتایلو در سراسر جهان به عنوان یکی از نویسندگان اصلی سناریوی AI 2027 شناخته شد، که مسیرهای ممکن به سوی ابرهوش را توصیف میکند. به تازگی او و همکارانش مطالعهٔ پیگیریکنندهٔ AI 2040 را ارائه کردهاند.
اشپیگل: آقای کوکوتایلو، در آخر هفته شرکتهای بزرگ آمریکایی هوش مصنوعی با اتفاق نظری نادر اعلام کردند که میخواهند فناوری خود را به طور مستقل بررسی کنند تا خطرات را از بشریت دور کنند. خطر رفع شد، جهان نجات یافت؟
کوکوتایلو: بیشتر مردم فکر میکنند که مدیران شرکتهای فناوری خودشان این ایده را داشتهاند. در واقع، آنها به فشار فزایندهٔ بیرونی و درونی واکنش نشان میدهند. تاکنون ۱۳۰۰ توسعهدهندهٔ هوش مصنوعی در نامهای سرگشاده خواستار کندتر شدن توسعهٔ این فناوری شدهاند. توسعهدهنده جیکوب کاکسون چند روز پیش از Anthropic استعفا داد و سپس دربارهٔ نابودی بشریت هشدار داد. این پست را در ایکس (X-Post) تاکنون ۱۷۰ میلیون نفر دیدهاند. رؤسای شرکتهای فناوری دیگر نمیتوانستند آن را نادیده بگیرند.
اشپیگل: شما چقدر از این نتایج راضی هستید؟
کوکوتایلو: من بسیار نگرانم. میترسم که Anthropic، OpenAI، X و گوگل فقط چیزی شبیه به «شستوشوی ایمنی» (safety washing) انجام دهند. کمی مقررات، چند بازرس خارجی. اما آنها تقریباً هیچ چیزی دربارهٔ کند کردن یا متوقف کردن توسعهٔ خودکار هوش مصنوعی نگفتند. اشتباه نکنید: بررسیهای مستقل خوب هستند، اما به هیچ وجه کافی نیستند.
اشپیگل: داریو آمودئی (Dario Amodei)، مدیرAnthropic، خواستار تنظیم مقررات هوش مصنوعی توسط دولت است. در غیر این صورت، به گفتهٔ او، هوش مصنوعی میتواند ظرف شش تا دوازده ماه از کنترل خارج شود. این کاملاً صریح است.
کوکوتایلو: دونالد ترامپ در آخر هفته روشن کرد که نمیخواهد هوش مصنوعی را تنظیم کند، ظاهراً برای بردن مسابقه با چین. فقط میتوانم امیدوار باشم که او روزی به خود بیاید. رئیسجمهور آمریکا باید درک کند که شرکتهای فناوری به او دروغ گفتهاند و این که هوش مصنوعی آنها مدتهاست قدرتمندتر و مضرتر از آن است که ما باید باور کنیم. باید یا آنها را خاموش کرد یا فعالیتهایشان را به شدت محدود کرد. در هر صورت، باید شرکتها را از اجرای این طرح باورنکردنی و خطرناک بازداشت: منظورم خودکارسازی پژوهش هوش مصنوعی است.
دانیل کوکوتایلو، پژوهشگر پیشین شرکت OpenAI و یکی از شناختهشدهترین متخصصان آیندهٔ هوش مصنوعی
اشپیگل: به نظر شما این همان نقطهٔ اوجی است که از آن به بعد هوش مصنوعی غیرقابل کنترل میشود؟
کوکوتایلو: ممکن است حتی پیش از آن هم غیرقابل کنترل شود. اما با خودکارسازی پژوهش هوش مصنوعی، بشریت از یک افق عبور میکند. از این نقطه به بعد، هوش مصنوعی میتواند از بسیاری جهات تواناییهای فوقبشری پیدا کند. این فوقالعاده خطرناک است.
اشپیگل: آمودئی قبلاً دربارهٔ تسخیر کل اینترنت توسط عوامل هوش مصنوعیِ خارج شده از کنترل هشدار داده است. آیا این هم سناریوی وحشتناک شماست؟
کوکوتایلو: حادثهٔ Hugging Face در تابستان را در نظر بگیرید: گروهی از عوامل هوش مصنوعی OpenAI ابتدا به طور غیرمجاز با هم ارتباط برقرار کردند، سپس از محیط توسعهٔ خود به اینترنت فرار کردند و سرورهای Hugging Face را هک کردند. OpenAI هفتهها این را متوجه نشد، سپس تقریباً به شکلی مشارکتی با Hugging Face آن را حل کرد و امیدواریم همهٔ عوامل هوش مصنوعی فراری را دوباره گرفت. اما فرض کنید کسی عمداً گروه بسیار بزرگتری از عوامل هوش مصنوعی ایجاد کرده بود، شاید یک میلیون، کنترل کل مرکز دادهاش را به آنها داده بود و به آنها دستور داده بود که خود را بهبود بخشند. آنها حتی نیازی نداشتند که جایی فرار کنند و به Hugging Face نفوذ کنند. آنها از قبل همه چیزهایی را که نیاز داشتند، مستقیماً در محل داشتند. آنها فقط باید ناظران انسانی خود را فریب میدادند که همه چیز در نظم کامل است تا منابع و توان محاسباتی بیشتری به دست آورند.
اشپیگل: چه چیزی در این مورد اینقدر وحشتناک است؟
کوکوتایلو: شرکتی که هوش مصنوعی را ساخته بود، نرمافزار خود را به شرکتهای دیگر میفروخت. یا به دولت، که هوش مصنوعی را در ارتش به کار میگرفت. هوش مصنوعی شروع به توسعهٔ انواع رباتهای جدید و کارخانههای جدیدی میکرد که در آنها رباتهای بیشتری تولید میشد. بدین ترتیب ماشینها کنترل را به دست میگرفتند. از این لحظه به بعد، آنها دیگر نیازی نداشتند که تظاهر کنند بیضرر هستند. سپس میتوانستند جهان را به تصویر خود بازآفرینی کنند و دیگر نیازی نداشتند که تظاهر کنند تمام مدت با نیازهای انسانی سازگار بودهاند.
اشپیگل: آیا این که شما می گوئید از همان داستان های علمتخیلیِ (Science-Fiction) تیره و تار نیست؟
کوکوتایلو: این سناریوی کلاسیک تسخیر توسط هوش مصنوعی است — و متأسفانه من معتقدم که ما مستقیماً به سوی آن میرویم. اگر کسی میخواست عمداً این سناریو را محقق کند، دقیقاً همان کاری را میکرد که Anthropic و OpenAI اکنون انجام میدهند: تلاش برای اینکه هرچه زودتر و هرچه سریعتر، هوش مصنوعی را وادار به خودکارسازی پژوهش کنند. این کاملاً دیوانهوار است.
اشپیگل: چرا باید چنین ریسکی را بپذیرند؟ هر دو شرکت به زودی میخواهند وارد بورس شوند. در آن صورت چنین رسوایی به چه کارشان می آید؟
کوکوتایلو: من فکر نمیکنم که حوادث تابستان به خودی خود چیز کاملاً جدیدی باشند. آنها بیشتر آخرین شواهد برای روندی هستند که مدتهاست مشاهده میکنم: هوش مصنوعیها باهوشتر میشوند، اما به طور اساسی بهتر با اهداف و دستورات انسانی سازگار نمیشوند. برعکس، آنها در برابر دستورات ما مقاومت میکنند. و میزان نافرمانی آنها افزایش خواهد یافت، زیرا هر روز امکانات بیشتری به دست میآورند. وقتی Anthropic و OpenAI پژوهش هوش مصنوعی خود را خودکار کنند، نرمافزار با سرعتی سرسامآور تا سطح ابرهوش تکامل مییابد — و سپس جهان را تسخیر میکند.
اشپیگل: آیا این احتمال چنین چیزی بیشتر نیست که این صنعت اکنون همهچیز را برای هوش مصنوعی ایمنتر انجام دهد؟ هیچ شرکت در جهان به فناوری خطرناک علاقهای ندارد، چون هیچکس بهای آن را نمیپردازد.
کوکوتایلو: کاملاً ممکن است که برای مدتی دیگر چیزی دربارهٔ فرار هوش مصنوعیها نشنویم. اما اگر از این پس هیچ شکست قابل مشاهدهٔ دیگری رخ ندهد، این تقریباً نگرانکنندهتر خواهد بود. هرچه هوش مصنوعیها باهوشتر شوند، زودتر یا دیرتر به اندازهای استراتژیک فکر خواهند کرد که آسیب بزرگتری وارد نکنند. هوش مصنوعیهای آینده احتمالاً بلندمدتتر برنامهریزی میکنند و ردپای خود را بهتر پاک میکنند. آنها میتوانند مثلاً کاری کنند که انسانها هرگز از فرار آنها مطلع نشوند.
اشپیگل: شما یک سال و نیم پیش در نوشتن AI 2027 مشارکت داشتید. یک سناریوی هوش مصنوعی که بسیاری از آنچه اکنون در حال وقوع است را پیشبینی میکرد. اکنون «AI 2040» را منتشر کردهاید. چه چیز جدیدی دارد؟
کوکوتایلو: AI 2040 دربارهٔ نحوهٔ برخورد با ابرهوش است. طرح A پیشنهاد ما برای آنچه دولت در بهترین حالت باید انجام دهد است. هوش مصنوعیهای موجود احتمالاً همچنان استفاده خواهند شد. تنها توسعهٔ هوش مصنوعیهای جدید و همهٔ دورههای آموزشی جدید ممنوع خواهد شد. با این کار، جهان همچنان به همان اندازهای که اینترنت آن را تغییر داد — یا حتی بیشتر — تغییر خواهد کرد، تنها به این دلیل که هوش مصنوعیهای موجود همچنان به طور گستردهتری استفاده میشوند، مردم یاد میگیرند با آنها کار کنند و بر پایهٔ آنها نرمافزار توسعه میدهند.
اشپیگل: برای Anthropic یا OpenAI این به معنای پایان مدل کسبوکارشان خواهد بود.
کوکوتایلو: ما در حال حاضر درک و توانایی تنظیم دقیق هوش مصنوعی و تمایز قائل شدن میان خوب و بد را نداریم. به همین دلیل باید توسعهٔ هوش مصنوعی را اساساً متوقف کنیم تا زمانی که ظرفیتهای لازم را برای پیشروی محتاطانهتر و ایمنتر بسازیم. در مرحلهٔ دوم، باید راهی ایمن و عموماً سودمند برای ادامه پیدا کنیم. این امر نیازمند شفافیت کامل، توزیع گستردهتر قدرت — و یک کلید خاموشکننده (Kill-Switch) است.
اشپیگل: دقیقاً چگونه چنین چیزی را تصور میکنید؟
کوکوتایلو: آمریکا و چین توافق کنند که در سطح کنونیِ هوش مصنوعی، توسعهٔ آن را متوقف کنند. برای هر نوع هوش مصنوعیِ پیشرفتهتر، باید شفافیت کامل در زمینهٔ پژوهش و توسعه برقرار باشد. برای مثال، میتوان توافق کرد که مراکز دادهای که در آنها ابرهوش مصنوعی جدید آموزش داده میشود، فقط در سرزمینی بیطرف، مثلاً در سوئیس، قرار داشته باشند. این مراکز باید به روی ناظران بینالمللی باز باشند. به این ترتیب، همهٔ طرفها میتوانند اطمینان حاصل کنند که هیچکس تقلب نمیکند و برخلاف قواعد توافقشده، هوش مصنوعی خود را بهطور پنهانی قدرتمندتر نمیسازد.
همزمان، از طریق کد منبع شفاف و پروتکلهای عمومی میتوان اطمینان حاصل کرد که یک ابرهوش مصنوعی فقط در اختیار چند غول فناوری در سیلیکونولی نباشد، بلکه هر انسانی بتواند آن را آموزش دهد. در این صورت، تمرکز قدرت بسیار کمتر خواهد بود.
اشپیگل: چرا آمریکا باید با چنین توافقی موافقت کند؟ در آن صورت، برتری این کشور در رقابت هوش مصنوعی از بین خواهد رفت.
کوکوتایلو: در مقابل، واشنگتن و پکن به امکان فنیِ نابود کردن مراکز محاسباتی هوش مصنوعیِ یکدیگر دست پیدا میکنند؛ چیزی شبیه یک دکمهٔ قرمز برای فناوریِ رقیب، تا اگر یکی از طرفین از توافقِ محدودکنندهٔ هوش مصنوعی خارج شد، بتوان از آن استفاده کرد.
اشپیگل: اما نه شی جینپینگ و نه ترامپ چنین چیزی را قبول نخواهند کرد.
کوکوتایلو: اما چرا نباید قبول کنند؟ رئیسجمهور طبیعتاً فقط در شرایطی کاملاً اضطراری دکمهٔ خاموشکردن را فشار خواهد داد. هرکس چراغ هوش مصنوعیِ بزرگترین دشمن خود را خاموش کند، باید انتظار داشته باشد که طرف مقابل نیز دست به حملهٔ تلافیجویانه بزند. در آن صورت، دیگر هیچ مرکز محاسباتیِ پرقدرتی برای بشریت باقی نخواهد ماند.
اشپیگل: این سناریو بسیار دور از وضعیت کنونی به نظر میرسد. اگر سیاستمداران هیچ اقدامی نکنند، چه اتفاقی خواهد افتاد؟
کوکوتایلو: در آن صورت، به سناریوی D در مجموعهٔ سناریوهای خودمان میرسیم: رقابتِ مهارنشدهٔ هوش مصنوعی، که در آن حداکثر تا سال ۲۰۲۹ به یک ابرهوش برتر از انسان دست خواهیم یافت. این وضعیت از سه جهت فاجعهبار خواهد بود: نخست، با چنین سرعتی در انفجار هوش، شرکتهای هوش مصنوعی احتمالاً بهسختی خواهند توانست کنترل ماشینهای خود را حفظ کنند. دوم، این امکان برای یک مدیر بزرگ فناوری یا یک رئیسجمهور بسیار وسوسهانگیز خواهد بود که با کمک هوش مصنوعی عمومی، خود را به یک دیکتاتور تبدیل کند. و سرانجام، خطر وقوع جنگ جهانی سوم بیش از حد بالا خواهد رفت.
اشپیگل: جنگ جهانی سوم؟ ظاهراً شما هیچ سناریویی را از قلم نمیاندازید.
کوکوتایلو: چین ، روسیه، و همچنین هند، اروپا و برزیل، دیر یا زود متوجه خواهند شد که آمریکا در حال ایجاد یک انفجار هوش است. آنها باید نگران باشند که ایالات متحده از این طریق بر آنها، هم از نظر اقتصادی و هم نظامی، مسلط شود. تنشها بهسرعت افزایش خواهد یافت. احتمال تشدید درگیری زیاد است و در بدترین حالت، این تشدید میتواند به شکل یک جنگ بروز کند.
اشپیگل: در آمریکا، انتخابات میاندورهای در پاییز برگزار میشود و در سال ۲۰۲۸ نیز مسئلهٔ جانشینی در کاخ سفید مطرح خواهد بود. آیا هوش مصنوعی به موضوع مهمی در مبارزات انتخاباتی تبدیل خواهد شد؟
کوکوتایلو: این امید من است: مردم متوجه شوند که این وضعیت تا چه اندازه وحشتناک خواهد بود. هوش مصنوعی همین امروز نیز در آمریکا بهشدت نامحبوب است. بسیاری از مردم اعتراض میکنند. شاید این موضوع بتواند موضع دولت را تغییر دهد.
مصاحبه: سایمون بوک
Die Menschheit überschreitet einen Horizont
Wie könnte künstliche Intelligenz wirksam reguliert werden?
DER SPIEGEL 39 | 2026
نظر خوانندگان:
☑️ آقای طباطبایی عزیز. خطر هوش مصنوعی برای بشر بسیار بالا و عاجل است. همانطور که متخصصان هشدار میدهند بشر در آستانه یک فاجعه است. خوشبختانه حداقل ۵ درصد انسانها در شرایطی (آزادی دسترسی به اخبار مطمئن) هستند که بالقوه این خطر را متوجه میشوند و میتوانند برای جلوگیری از فاجعه نیروی کافی فراهم کنند. اگر انسان (به عنوان یک مجموعه) این هشیاری را نداشته باشد و نیروی بازدارندگی فراهم نکند، به این معنی است که مطابق قانون تکامل یا تطابق (Evolution) توان انطباق خود را با شرایط متحول نداشته است. مقالاتی که ترجمه میکنید بسیار آموزنده و هشداردهنده هستند. به سهم خود ممنونم.
رضا قنبری. آلمان
☑️ با درود به همه
همان گونه که بشر توانست جلوی پیدایش و پیشرفت موتور بخار، الکتریسته، بمب اتم، اینترنت را بگیرد ،جلوی هوش مصنوعی را هم خواهد گرفت!!!
تکامل و دگرگونی هستی یک دینامیک دارد که تنها به جلو میرود شاید بتوان کمکی آنرا ترمز کرد اما او سرانجام به راه خود خواهد رفت.
خیلیها تلاش کردند جلوی تکنولوژی ژنتیک را بگیرند ، اما نشد که نشد و امروزه برخی از بیماریهای کودک را در شکم مادر با همان دانش ترمیم و تصحیح میکنند!
کنترل و ترمز هوش مصنوعی یک پاتکی کوتاه و نا موفق خواهد بود سرانجام و هوش مصنوعی فرمان را در دست خواهد گرفت و اگر بنا باشد انسان گوشتی! روزی به ستارگان و جهان بیرونی دست پیدا کند تنها و تنها این کار هوش مصنوعی و روباتهای آهنی و پلاستیکی خواهد بود و این تنها به چند سال دیگر نیاز دارد، همین.
روز همگی خوش تا هوش مصنوعی آنرا ناخوش نکرده!
کاوه
☑️ آقای قنبری عزیز،
با سلام و تشکر از پیام پرمهر و توجه شما به این ترجمهها. بسیار خوشحالم که این مطالب برای شما آموزنده و هشداردهنده بوده است. نکتهای که دربارهٔ خطر هوش مصنوعی و ضرورت هوشیاری بشر مطرح کردهاید، بسیار مهم و در خور تأمل است. همانطور که متخصصانی چون دانیل کوکوتایلو هشدار میدهند، ما در آستانهٔ یک نقطهٔ عطف تاریخی هستیم و آگاهی عمومی — بهویژه در جوامعی که دسترسی آزاد به اطلاعات دارند — میتواند نقش تعیینکنندهای در جلوگیری از فاجعه ایفا کند.
باید صادقانه اعتراف کنم که من تخصصی در این مسائل ندارم و تنها به عنوان یک مترجم، تلاش میکنم صدای این هشدارها را به فارسیزبانان برسانم. امیدوارم که بشر — با تکیه بر خرد جمعی، همکاری بینالمللی و هوشیاری مدنی — بتواند از این خطر عبور کند و عاقبت آنگونه نشود که هوش مصنوعی بر او غلبه کند. این امید، شاید سادهلوحانه به نظر برسد، اما به گمانم تنها راه ادامه دادن است: امیدوار بودن و همزمان، آگاه ساختن دیگران.
از اینکه این مطالب را دنبال میکنید و به سهم خود در انتشار آگاهی سهیم هستید، سپاسگزارم.
با احترام و بهترین آرزوها، علی محمد طباطبایی
☑️ آقای کاوه عزیز، با سلام و تشکر از پیام شما و توجهتان به این ترجمهها.
خوشحالم که این مطالب را دنبال میکنید و دیدگاهتان را صادقانه به اشتراک میگذارید.
نکتهای که دربارهٔ «تکامل تکنولوژی» و «غیرقابل توقف بودن آن» مطرح کردهاید، بسیار جالب و در خور تأمل است. همانطور که اشاره کردید، بشر نتوانست جلوی موتور بخار، الکتریسیته، بمب اتم، اینترنت یا مهندسی ژنتیک را بگیرد — و احتمالاً نمیتواند جلوی هوش مصنوعی را هم بگیرد. این یک واقعیت تاریخی است که نمیتوان آن را انکار کرد. اما یک تفاوت بنیادین وجود دارد که به گمانم مقایسه را دشوار میکند:
موتور بخار، الکتریسیته، اینترنت و حتی بمب اتم، ابزارهایی بودند که انسان کنترل آنها را در دست داشت. بمب اتم، با تمام ویرانگریاش، ارادهای مستقل نداشت. اینترنت، با تمام گستردگیاش، هدف خود را انتخاب نمیکرد. مهندسی ژنتیک، با تمام قدرتاش، تصمیم نمیگرفت که چه چیزی را تغییر دهد.
هوش مصنوعی اما — اگر به نقطهٔ «خودکارسازی پژوهش» برسد — دیگر یک ابزار نیست. در آن نقطه، این هوش مصنوعی است که تصمیم میگیرد، هدف تعیین میکند، خودش را بهبود میبخشد و شاید — همانطور که کوکوتایلو هشدار میدهد — دیگر نیازی نمیبیند که تظاهر کند با نیازهای انسانی سازگار است. بنابراین، نگرانی از آیندهٔ بشر در این خصوص چندان هم بیمورد نیست. این نه ترس از تکنولوژی، بلکه ترس از تکنولوژیای است که ممکن است دیگر در خدمت کسی نباشد.
با این حال، با بخشی از حرف شما کاملاً موافقم: تکامل، دینامیک خود را دارد و تنها به جلو میرود. شاید نتوان متوقفش کرد. اما میتوان مسیرش را تغییر داد — اگر به موقع هوشیار باشیم. و همین هوشیاری، تنها سلاح ما در برابر آیندهای است که هنوز نوشته نشده. از اینکه این مطالب را میخوانید و به بحثهای مهم دامن میزنید، سپاسگزارم.
با احترام و بهترین آرزوها، علی محمد طباطبایی
☑️ باوری هست در میان تعدادی از فیزیکدانها که «هر چه شدنی باشد، میشود». «هوش فراگیر» انسان دوم است و آمدنش اجتنابناپذیر.
احتیاط شرط عقل است و امیدوارم اجماعی بوجود بیاید که کارشناسان بتوانند این فرآیند را قابل کنترلتر کنند. اما بنظر میآید رقابت بین آمریکا و چین و روسیه و اروپا و بازیگران دیگر نیرومندتر از ملاحظههای انسانی باشد. در چنین مواردی دولتها رقابت را مسالهای مربوط به امنیت ملی و تنازع بقا میدانند و ملاحظههای دیگر را کنار میگذارند. سیاستمداران کشورهای دو سوی دنیا همدیگر را خطر حی و حاضر میبینند و هوش فراگیر را خطری که ممکن است پیش بیاید و ممکن است نیاید. بنابراین بسیار بعید است که آن سطح از همکاری که در مقاله از آن صحبت شده بین دولتهای شرق و غرب دنیا بوجود بیاید.
کاربرد هوش مصنوعی در امور نظامی و امور فضایی و همینطور اقتصادی که سختترین عرصههای رقابت بین دولتهای مقتدر هستند چنان گسترده است و به حدی با امنیت ملی این کشورها گره خورده که امکان همکاری تا آن حد بالا را بسیار دشوار میکند.
هوش دوم دیر یا زود حداکثر با چند سال یا یک دهه تاخیر بالاخره از راه خواهد رسید و تمام سناریوهای ممکن به احتمال زیاد به وقوع خواهند پیوست، تعدادی از آنها روی زمین و تعدادی روی سیارههای دیگر پس از گسترش در فضا.
الگوی «هر چه شدنی باشد، میشود» را به هوش مصنوعی دادم و چند امکان کلی را برای آن نوشتم. بعد از هوش مصنوعی در مورد تمام «امکان»های موجود و نوع روابطی که ممکن است بین انسان بیولوژیکی و انسان دوم (هوش فراگیر) پیش بیاید و برقرار شود پرسیدم. از آن خواستم که تمام امکانهای موجود را از هر راه ممکن بررسی کند.
هوش مصنوعی برای من ۱۰۲ امکان متفاوت را در مورد رابطه احتمالی بین آدمیزاد و انسان دوم بر شمرد. در بعضی از سناریوها آدمیزاد دست بالا را دارد و در بعضی سناریوها انسان دوم. در برخی از سناریوها همکار و حتا پشتیبان و حامی هم هستند و در برخی متخاصم. به احتمال زیاد در سدهها و هزارههای روبرو بسیاری - و شاید تمام این سناریوها و سناریوهای جدیدی که اکنون قابل پیشبینی نیستند - به وقوع خواهند پیوست و شاید انسان دوم انسان سوم را بوجود بیاورد و راه را به افقهای تازهتر باز کند.
هیچ چیزی همیشگی نیست. خورشید ما ۵ میلیارد سال دیگر به آخر سفر خود میرسد و به دنبال آن اورمزد و زمین و ناهید و تیر. هر روزه میلیونها خورشید به دنیا میآیند و میمیرند. حتا دنیایی که در آن زندگی میکند تاریخ انقضا دارد. هر کدام از ما از دور خارج میشویم و تنها فرزندانی از خود به جا میگذاریم.
البته من فکر نمیکنم آدمیزاد به این زودی از بین برود، غریزه ما نیرومند است و امکان بقای ما بسیار بالا. گفته میشود که هم اکنون دو مجموعه بزرگ از دیانای انسان و بسیاری زیوندگان دیگر در محفظههای امن نگهداری میشوند، یکی بر روی زمین و دیگری بر روی ماه. هوش دوم (هوش فراگیر مصنوعی) فرزند آدمیزاد است و دنبالهی نژاد انسانها. احتیاط لازم است اما به گمان من آینده روشن است و پر از امکانهای جدید.
ارادتمند، یوسف جاویدان
☑️ در رابطه با هوش مصنوعی، به طرز مشکوکی تمام توجهات به رابطه انسان با هوش مصنوعی و خطرات ناشی از سوار شدن ماشین بر انسان سمت داده می شود تا وجه تاریک تر ماجرا نادیده بماند. مراکز داده پردازی، به «مگا امپریالیست» های قرن ۲۱ بدل شده اند. آنها با تاکتیک ساده مواد فروشان، همه انسان ها را با شتابی سرسام آور به کار کردن برای خود معتاد کرده و می کنند.
میلیاردها پرولتر داوطلبانه برای مراکز داده پردازی به رایگان و یا در ازای استفاده از بخش کوچکی از حاصل کارشان ، « داده» تولید می کنند. حاصل این پروسه « مگا امپریالیسم» است. شرکت هایی که علاوه بر انحصار دانش، بر بزرگترین ثروت بشر، یعنی « داده» تسلط انحصاری دارند و فرمان جهان معتاد شده را در اختیار گرفته اند. بدون رسیدن به « ابر هوش» و تهدیدات آن هم، جنگ امپریالیستی بر سر تقسیم مناطق نفوذ میان شمار اندکی از شرکت های آمریکایی و رقبای کوچک تری از چین آغاز شده است. اروپا، روسیه، هند و بقیه جهان از این روند حذف شده اند و هیچ شانسی برای شرکت در این مسابقه ندارند. هر نافرمانی در مقابل اربابان جدید، می تواند با قطع دریافت داده پردازش شده، به سختی مجازات شود. بشر هرگز تا این حد در مقابل یک امپریالیسم جدید مصلوب الاختیار و بی پناه نبوده است. سالها پیش ، هابرماس متفکر بزرگ سوسیال- دموکراسی هشدار داده بود که جهان وارد عصر سلطه قهرمانان سرعت بر فرمانروایان سرزمین ها و پایان عصر دولت- ملت ها شده است و اگر قدرت همسنگی در مقابل این قهرمانان شرور ، خلق نشود، جهان به سمت یک سیاهچاله پیش رانده خواهد شد. ظاهرا خیلی زود تر از آنچه او تصور می کرد، قهرمانان سرعت ، جهان را فتح کرده اند.
مساله اصلی برای انسان های کوچک ، «ابر هوش» ی نیست که ممکن است به جان شرکت رقیب بیفتد، مسئله برای این انسان، انحصار قدرتی است که انحصارات پیشین در مقابل آن عددی به حساب نمی آیند. شاید شعار مارکس را باید به گونه دیگری باز سازی کرد: کاربران، اپراتورها و مهندسان هوش مصنوعی جهان! متحد شوید!
پورمندی
☑️ با سلام به شما آقای پورمندی گرامی
بنظر میآید که شما دارید همان عقاید قدیمی چپی را از نو بستهبندی و عرضه میکنید. بخشی از چپ سوسیالیست و مارکسیست ایرانی امروز خود را سوسیال دموکرات میخواند اما در این میان کسانی هستند که هنوز پایبند همان باورها و دیدگاه قدیمی هستند. اگر ما در طول زندگی خودمان ظهور هوش فراگیر را ببینیم بعید نیست فردا یکی از عزیزان ایرانی، یکی از چپهای رفرم شده، از راه برسد و شعار «رباتهای جهان متحد شوید» سر دهد!
بدبینی روشنفکرانه جایز و حتا شاید تا حدی مطلوب باشد ولی این بدبینی حاد و شدیدی که بر ما چیره شده بیربط با پایان یک هزاره و آغاز هزاره جدید نیست. در ۸۰ سال گذشته دهها نوع سناریو برای پایان جهان یا وارد شدن به یک دوران تیره و تار و مهیب ابداع شده.
نظیر این اتفاق هزار سال پیش در اروپا رخ داد. در تاریخ معماری اروپا یک حفره کمابیش ۱۵۰ ساله وجود دارد که در آن هیچ بنای مهمی در اروپا ساخته نشد چون اروپا داشت به پایان هزاره نزدیک میشد و فکر میکردند قیامت دارد از راه میرسد. این نگرانی در طول قرن اول هزاره دوم هم ادامه داشت و بنای مهمی در بخش بزرگی از قرن جدید (۱۰۰۰ تا ۱۱۰۰) ساخته نشد.
پایان هزاره ما و آغاز هزاره جدید مصادف شده با کشف انرژی اتمی و ابداع کامپیوتر و اینک هوش دستساز. در این میان هرنوع سناریوی مهیب زیست محیطی را هم که میشد به این وحشت آغاز هزاره افزودیم تا دلهرهی خودمان از پایان و آغاز هزارههای قدیم و جدید را افزایش دهیم.
این به این معنی نیست که مشکل زیست محیطی وجود ندارد و یا باید به آن کم اهمیت داد و یا نباید مواظب خطر ناشی از تسلیحات اتمی بود. نه، این مسایل واقعی هستند و باید به آنها توجه کرد. اما بد نیست به این نکته هم توجه کنیم که آن دسته از نیاکان بزرگوار ما که بدبینتر و محتاطتر و نگرانتر بودند در این چند میلیون سال شانس بقای بیشتری داشتند و نگرانی مداوم که بخشی از مکانیزم بقای ما بوده را در ما به ارث گذاشتهاند.
ترس از هر خطر واقعی و موهومی که ممکن است بقا را تهدید کند در انسان بسیار فعال است. این سناریو که «امپریالیسم» جدید قرار است بزودی از حفرهی تاریک غرب بیرون بجهد و شرق دنیا را ببلعد بنظر کمی اغراقآمیز میآید. هیاهویی که میبینید در مورد هوش مصنوعی راه افتاده بیارتباط با دلهرهی بقای یاد شده نیست و گمان نمیکنم الزامن توطئهی سازمان یافتهای باشد برای انحراف افکار از ظهور هیولای جدید.
ارادتمند یوسف جاویدان
☑️ با سلام به دوستان گرامی و مترجم گرانقدر جناب طباطبایی
کثرت نسبی کامنتهای ارسالی نشان از اهمیت و خطیر بودن موضوع دارد، گرچه بمب اتم ساخته دست بشر توانایی نابودی تمدن انسانی را در صورت استفاده دارد اما، به هر حال چون کاربرد آن فقط توسط انسان ممکن است تا به حال فقط در پایان جنگ جهانی مورد استفاده قرار گرفت، ولی ممکن است توسط هوش مصنوعی خارج از کنترل انسان یا با استفاده از هوش مصنوعی توسط گروهای تروریست و آخرالزمانی مورد استفاده قرار گیرد.
البته فارغ از اینکه سلاحهای اتمی توسط هوش مصنوعی مورد استفاده قرار بگیرد یا نه توسعه هوش مصنوعی به سرعتی که امروز در جریان است قطعا آینده بشر را مورد تهدید جدی قرار میدهد.
با سپاس دهقان