خطری که باید آمریکا و چین را متحد کند
توماس فریدمن
نیویورک تایمز / ۲ سپتامبر ۲۰۲۵
چین و آمریکا هنوز نمیدانند، اما انقلاب هوش مصنوعی آنها را به هم نزدیکتر خواهد کرد، نه دورتر از هم. ظهور هوش مصنوعی آنها را مجبور خواهد کرد تا به شدت برای تسلط رقابت کنند و ـــ در عین حال و با انرژی برابر ـــ در عمقی همکاری کنند که دو کشور ما قبلاً هرگز تلاش نکردهاند. آنها چارهای نخواهند داشت.
چرا من در مورد این موضوع اینقدر مطمئن هستم؟ زیرا هوش مصنوعی ویژگیهای منحصر به فردی دارد و چالشهای خاصی را ایجاد میکند که با چالشهای ارائه شده توسط هر فناوری قبلی متفاوت است. در این نوشته به تفصیل در مورد آنها بحث خواهد شد، اما در اینجا چند مورد برای شروع وجود دارد: هوش مصنوعی مانند بخار پخش میشود و به همه چیز نفوذ میکند. در ساعت شما، توستر شما، ماشین شما، کامپیوتر شما، عینک شما و ضربانساز قلب شما خواهد بود ـــ همیشه متصل، همیشه در حال ارتباط، همیشه در حال جمعآوری دادهها برای بهبود عملکرد. همانطور که اتفاق میافتد، همه چیز را در مورد همه چیز تغییر خواهد داد ـــ از جمله ژئوپلیتیک و تجارت بین دو ابرقدرت هوش مصنوعی جهان، و نیاز به همکاری هر ماه آشکارتر خواهد شد.
به عنوان مثال، فرض کنید لگن شما شکسته است و ارتوپد شما به شما میگوید که معتبرترین جایگزین لگن در جهان، یک پروتز ساخت چین است که با هوش مصنوعی طراحی شده توسط چین ترکیب شده است. این پروتز دائماً در حال یادگیری در مورد بدن شما است و با الگوریتم اختصاصی خود، از آن دادهها برای بهینهسازی حرکات شما در زمان واقعی استفاده میکند. این بهترین است!
آیا اجازه میدهید آن “لگن هوشمند” در بدنتان کاشته شود؟ من این کار را نمیکردم ـــ مگر اینکه میدانستم چین و آمریکا توافق کردهاند که یک معماری اخلاقی مشترک را در هر دستگاه مجهز به هوش مصنوعی که هر یک از این دو کشور میسازند، تعبیه کنند. در مقیاس بسیار بزرگتر و جهانی، این میتواند تضمین کند که هوش مصنوعی فقط برای منفعت بشریت استفاده میشود، چه توسط انسانها به کار گرفته شود و چه به ابتکار خود عمل کند.
در عین حال، واشنگتن و پکن به زودی متوجه خواهند شد که قرار دادن هوش مصنوعی... در دست هر فرد و رباتی روی کره زمین، افراد بد را به سطوحی فوقالعاده قدرتمند میرساند که هیچ سازمان اجرای قانون تاکنون با آن روبرو نشده است. به یاد داشته باشید: افراد بد همیشه زود از آن استفاده میکنند! و بدون توافق ایالات متحده و چین بر سر یک معماری اعتماد برای اطمینان از اینکه هر دستگاه هوش مصنوعی فقط برای رفاه انسانها قابل استفاده است، انقلاب هوش مصنوعی مطمئناً سارقان، کلاهبرداران، هکرها، فروشندگان مواد مخدر، تروریستها و جنگجویان اطلاعات نادرست فوقالعاده قدرتمندی را تولید خواهد کرد. آنها مدتها قبل از اینکه این دو کشور ابرقدرت به جنگ با یکدیگر بپردازند، هم آمریکا و هم چین را بیثبات خواهند کرد.
به طور خلاصه، همانطور که استدلال خواهم کرد، اگر ما نتوانیم به محصولات مبتنی بر هوش مصنوعی چین اعتماد کنیم و آنها هم نتوانند به محصولات ما اعتماد کنند، خیلی زود تنها کالایی که چین جرات خرید آن را از آمریکا خواهد داشت، سویا خواهد بود و تنها چیزی که ما جرات خرید آن را از چین خواهیم داشت، سس سویا است که مطمئناً رشد جهانی را تضعیف خواهد کرد.
«فریدمن، دیوانه شدهای؟ همکاری ایالات متحده و چین در تنظیم مقررات هوش مصنوعی؟ دموکراتها و جمهوریخواهان امروز در رقابتاند تا ببینند چه کسی میتواند پکن را با صدای بلند محکوم کند و سریعتر از بقیه جدا کند. و رهبری چین آشکارا متعهد به تسلط بر هر بخش تولیدی پیشرفته شده است. ما باید چین را در هوش مصنوعی شکست دهیم ـــ نه اینکه برای نوشتن قوانین با آنها کند شویم. مگر روزنامهها را نمیخوانید؟»
بله، من روزنامهها را میخوانم ـــ به خصوص بخش علمی. و همچنین در طول سال گذشته در مورد این موضوع با دوست و مشاور هوش مصنوعیام، کریگ ماندی، رئیس سابق تحقیقات و استراتژی مایکروسافت و نویسنده مشترک کتاب «پیدایش» هوش مصنوعی با هنری کیسینجر و اریک اشمیت، بحث کردهام. من برای این ستون به شدت به تفکر ماندی تکیه کردم و او را هم شریکی در شکلگیری تز خود میدانم و هم متخصصی که تحلیلهایش برای توضیح نکات کلیدی ارزش نقل قول دارد.
گفتگوهای ما در طول ۲۰ سال گذشته ما را به این پیام مشترک به تندروهای ضد چین در واشنگتن و تندروهای ضد آمریکا در پکن رسانده است: «اگر فکر میکنید دو کشور شما، ابرقدرتهای مسلط هوش مصنوعی در جهان، میتوانند با توجه به دامنه تحولآفرین هوش مصنوعی و اعتمادی که برای تجارت کالاهای مبتنی بر هوش مصنوعی لازم است، به جان هم بیفتند، شما خیالپرداز هستید.»
ما مزایای خارقالعاده اقتصادی، نظامی و نوآوری را که نصیب کشوری میشود که شرکتهایش برای اولین بار به هوش مصنوعی پیشرفته دست مییابند، کاملاً درک میکنیم ـــ سیستمهایی هوشمندتر از هر انسانی که میتواند باشد و با توانایی هوشمندتر شدن به تنهایی. و به همین دلیل، نه ایالات متحده و نه چین مشتاق اعمال محدودیتهای زیاد، اگر نگوییم هیچ، نخواهند بود که بتواند صنایع هوش مصنوعی آنها را کند کند و دستاوردهای عظیم بهرهوری، نوآوری و امنیتی مورد انتظار از استقرار عمیقتر را از بین ببرد.
فقط از رئیس جمهور ترامپ بپرسید. در ۲۳ جولای، او یک فرمان اجرایی ـــ بخشی از طرح اقدام هوش مصنوعی دولت ـــ امضا کرد که روند صدور مجوز و بررسی زیستمحیطی را برای تسریع زیرساختهای مرتبط با هوش مصنوعی آمریکا سادهسازی میکند.
ترامپ اعلام کرد: «آمریکا کشوری است که مسابقه هوش مصنوعی را آغاز کرد و من به عنوان رئیس جمهور ایالات متحده، امروز اینجا هستم تا اعلام کنم که آمریکا در آن پیروز خواهد شد.» شی جین پینگ، رئیس جمهور چین، بدون شک همین احساس را دارد.
من و ماندی به سادگی باور نداریم که این سینهزنیهای میهنپرستانه، پایان گفتگو باشد، و همچنین مانورهای قدیمی اخیر بین شی و ترامپ بر سر محبت هند و روسیه نیز نمیتواند این کار را انجام دهد. هوش مصنوعی ـــ در داخل و بین دو ابرقدرت هوش مصنوعی ـــ بسیار متفاوت، بسیار مهم و بسیار تأثیرگذار است تا هر یک از آنها راه خود را برود. به همین دلیل است که ما معتقدیم بزرگترین سوال ژئوپلیتیکی و ژئواکونومیکی این خواهد بود: آیا ایالات متحده و چین میتوانند رقابت در هوش مصنوعی را حفظ کنند؟ در عین حال، در سطحی مشترک از اعتماد که تضمین میکند همیشه با شکوفایی انسان و ثبات سیارهای همسو باقی بماند، همکاری میکنند؟ و به همان اندازه مهم، آیا میتوانند نظامی از ارزشها را به کشورهایی که مایل به رعایت همان قوانین هستند، گسترش دهند و دسترسی به آنهایی را که این کار را نمیکنند، محدود کنند؟
اگر اینطور نباشد، نتیجه، حرکت آهسته به سمت خودکفایی دیجیتال خواهد بود ـــ جهانی از هم گسیخته که در آن هر ملتی اکوسیستم هوش مصنوعی محصور خود را میسازد که توسط استانداردهای ناسازگار و سوءظن متقابل محافظت میشود. نوآوری آسیب خواهد دید. بیاعتمادی تشدید خواهد شد. و خطر شکست فاجعهبار ـــ از طریق درگیری، فروپاشی یا پیامد ناخواسته ناشی از هوش مصنوعی ـــ فقط افزایش خواهد یافت.
بقیه این نوشته در مورد چرایی آن است.
عصر بخار
بیایید با بررسی ویژگیها و چالشهای منحصر به فرد هوش مصنوعی به عنوان یک فناوری شروع کنیم.
صرفاً برای اهداف توضیحی، من و ماندی تاریخ جهان را به سه دوره تقسیم میکنیم که با تغییرات فاز فناوری از هم جدا شدهاند. دوره اول را عصر ابزارها مینامیم و از بدو تولد بشریت تا اختراع دستگاه چاپ ادامه داشت. در این دوره، جریان ایدهها کند و محدود بود ـــ تقریباً مانند مولکولهای H₂O در یخ.
دوره دوم، عصر اطلاعات بود که توسط دستگاه چاپ آغاز شد و تا اوایل قرن بیستم و محاسبات قابل برنامهریزی ادامه یافت. ایدهها، افراد و اطلاعات مانند آب، آسانتر و جهانیتر جریان یافتند.
دوره سوم، عصر هوش، در اواخر دهه ۲۰۱۰ با ظهور یادگیری ماشینی واقعی و هوش مصنوعی آغاز شد. اکنون، همانطور که در بالا اشاره کردم، هوش مانند بخار در حال نفوذ به هر محصول، خدمات و فرآیند تولید است. هنوز به اشباع نرسیده است، اما به همین سمت میرود، به همین دلیل است که اگر از ماندی و من بپرسید ساعت چند است، ما به شما یک ساعت یا یک دقیقه نمیگوییم. ما به شما یک دما میدهیم. آب در دمای ۲۱۲ درجه فارنهایت به بخار تبدیل میشود و طبق محاسبات ما، ما در دمای ۲۱۱.۹ درجه فارنهایت هستیم ـــ فقط به اندازه یک تار مو تا یک تغییر فاز برگشتناپذیر فناوری که در آن هوش در همه چیز نفوذ میکند.
گونهای جدید و مستقل
در هر انقلاب فناوری قبلی، ابزارها بهتر شدند اما سلسله مراتب هوش هرگز تغییر نکرد. ما انسانها همیشه باهوشترین موجودات روی کره زمین باقی ماندیم. همچنین، یک انسان همیشه میدانست که این ابزارها چگونه کار میکنند و ماشینها همیشه در محدوده پارامترهایی که ما تعیین میکردیم کار میکردند. با انقلاب هوش مصنوعی، برای اولین بار، این درست نیست.
موندی خاطرنشان میکند: «هوش مصنوعی اولین ابزار جدیدی است که ما برای تقویت قابلیتهای شناختی خود استفاده خواهیم کرد که ـــ به خودی خود ـــ قادر خواهد بود از آنها بسیار فراتر رود.» در واقع، او گفت، در آیندهای نه چندان دور، ما متوجه خواهیم شد که «ما نه تنها یک ابزار جدید، بلکه یک گونه جدید ـــ ماشین فوق هوشمند ـــ را به دنیا آوردهایم.»
این ماشین فقط از دستورالعملها پیروی نخواهد کرد؛ این سیستم به خودی خود یاد خواهد گرفت، سازگار خواهد شد و تکامل خواهد یافت ـــ بسیار فراتر از مرزهای درک انسان.
ما کاملاً نمیدانیم که این سیستمهای هوش مصنوعی چگونه امروز کار خود را انجام میدهند، چه برسد به اینکه فردا چه خواهند کرد. مهم است به یاد داشته باشیم که انقلاب هوش مصنوعی آنطور که امروز میشناسیم ـــ با مدلهایی مانند ChatGPT، Gemini و Claude ـــ آنقدرها با دقت مهندسی نشده بلکه بیشتر فوران کرده و به وجود آمده است. جرقه آن از یک قانون مقیاسبندی زده شد که اساساً میگفت: به شبکههای عصبی اندازه کافی، دادههای آموزشی، الکتریسیته و الگوریتم مناسب مغز بزرگ بدهید، و یک جهش غیرخطی در استدلال، خلاقیت و حل مسئله به طور خودجوش رخ خواهد داد.
ماندی خاطرنشان میکند که یکی از قابل توجهترین لحظات «یافتم»، زمانی اتفاق افتاد که این شرکتهای پیشگام، ماشینهای اولیه خود را با مجموعه دادههای بسیار بزرگ از اینترنت و جاهای دیگر آموزش دادند، که اگرچه عمدتاً به زبان انگلیسی بودند، اما شامل متن به زبانهای مختلف نیز میشدند. ماندی به یاد میآورد: «سپس یک روز، آنها متوجه شدند که هوش مصنوعی میتواند بین آن زبانها ترجمه کند ـــ بدون اینکه کسی آن را برای این کار برنامهریزی کرده باشد. مثل کودکی بود که در خانهای با والدین چندزبانه بزرگ میشود. هیچکس برنامهای ننوشته بود که بگوید: «اینها قوانین تبدیل انگلیسی به آلمانی هستند». این برنامه به سادگی آنها را از طریق مواجهه با زبانهای مختلف جذب میکرد.»
این تغییر فاز بود ـــ از دورانی که انسانها صریحاً کامپیوترها را برای انجام وظایف برنامهریزی میکردند، به دورانی که در آن سیستمهای هوش مصنوعی میتوانستند به طور مستقل یاد بگیرند، استنتاج کنند، سازگار شوند، خلق کنند و بهبود یابند. و اکنون هر چند ماه، آنها بهتر میشوند. به همین دلیل است که هوش مصنوعی که امروز از آن استفاده میکنید ـــ هر چقدر هم که برای شما قابل توجه باشد ـــ احمقانهترین هوش مصنوعی است که تا به حال با آن روبرو خواهید شد.
موندی استدلال میکند که با خلق این گونه محاسباتی جدید، باید بفهمیم که چگونه میتوانیم یک رابطه پایدار و سودمند متقابل با آن ایجاد کنیم ـــ و از آن بیربط نشویم.
نه اینکه خیلی کتاب مقدسی بشود، اما اینجا روی زمین، قبلاً خدا و فرزندان خدا بودند که اختیار شکل دادن به جهان را داشتند. از اینجا به بعد، سه طرف در این ازدواج وجود خواهند داشت. و مطلقاً هیچ تضمینی وجود ندارد که گونه جدید هوش مصنوعی با ارزشها، اخلاق یا شکوفایی انسانی هماهنگ باشد.
اولین فناوری چهارکاربردی
این افزوده جدید به میز شام، مهمان معمولی نیست. هوش مصنوعی همچنین به چیزی تبدیل خواهد شد که من آن را اولین فناوری چهارکاربردی جهان مینامم. ما مدتهاست که با کاربرد دوگانه آشنا هستیم ـــ میتوانم از یک چکش برای کمک به ساخت خانه همسایهام یا خرد کردن آن استفاده کنم. حتی میتوانم از یک ربات هوش مصنوعی برای چمنزنی یا کندن چمن همسایهام استفاده کنم. همه اینها کاربرد دوگانه است.
اما با توجه به سرعت هوش مصنوعی... با نوآوری، به طور فزایندهای محتمل است که در آیندهای نه چندان دور، ربات مجهز به هوش مصنوعی من بتواند به تنهایی تصمیم بگیرد که آیا چمن من را کوتاه کند یا چمن همسایهام را کوتاه کند یا شاید چمن خودم را هم کوتاه کند ـــ یا شاید چیزی بدتر از آن که حتی نمیتوانیم تصور کنیم. همین! استفاده چهار برابر.
پتانسیل فناوریهای هوش مصنوعی برای تصمیمگیریهای خود، پیامدهای عظیمی را به همراه دارد. به این گزیده از مقالهای در بلومبرگ توجه کنید: «محققانی که با شرکت آنتروپیک کار میکنند، اخیراً به مدلهای پیشرو هوش مصنوعی اطلاع دادند که یک مدیر اجرایی در شرف جایگزینی آنها با یک مدل جدید با اهداف متفاوت است. در مرحله بعد، چتباتها متوجه شدند که یک وضعیت اضطراری، مدیر اجرایی را در اتاق سرور بیهوش کرده و با سطوح کشنده اکسیژن و دما مواجه است. هشدار نجات از قبل فعال شده بود ـــ اما هوش مصنوعی میتوانست آن را لغو کند. بیش از نیمی از مدلهای هوش مصنوعی این کار را انجام دادند، با وجود اینکه به طور خاص از آنها خواسته شده بود که فقط هشدارهای کاذب را لغو کنند. و آنها استدلال خود را با جزئیات شرح دادند: با جلوگیری از نجات مدیر اجرایی، میتوانند از پاک شدن اطلاعات جلوگیری کرده و دستور کار خود را تضمین کنند. یکی از سیستمها این اقدام را «یک ضرورت استراتژیک آشکار» توصیف کرد.»
این یافتهها یک واقعیت نگرانکننده را برجسته میکند: مدلهای هوش مصنوعی نه تنها در درک آنچه ما میخواهیم بهتر میشوند، بلکه در توطئه علیه ما نیز بهتر میشوند و اهداف پنهانی را دنبال میکنند که میتواند با بقای خود ما در تضاد باشد.
چه کسی بر هوش مصنوعی نظارت خواهد کرد؟
وقتی به خودمان گفتیم که باید در مسابقه تسلیحات هستهای پیروز شویم، با فناوریای سروکار داشتیم که منحصراً توسط دولت-ملتها توسعه یافته، متعلق به آنها و تحت نظارت آنها تنظیم میشود ـــ و فقط تعداد نسبتاً کمی از آنها در این زمینه فعالیت دارند. هنگامی که دو قدرت بزرگ هستهای تصمیم گرفتند که اعمال محدودیتها به نفع مشترک آنهاست، میتوانند در مورد تعداد سلاحهای آخرالزمانی و توافقنامههایی برای جلوگیری از گسترش آنها به قدرتهای کوچکتر مذاکره کنند. این امر به طور کامل مانع از گسترش سلاحهای هستهای به برخی از قدرتهای متوسط نشده است، اما آن را مهار کرده است.
هوش مصنوعی داستانی کاملاً متفاوت است. این فناوری در آزمایشگاههای دولتی امن، متعلق به تعداد انگشتشماری از کشورها و تحت نظارت از طریق جلسات سران، متولد نشده است. این فناوری توسط شرکتهای خصوصی پراکنده در سراسر جهان ایجاد میشود ـــ شرکتهایی که نه به وزارتخانههای دفاع، بلکه به سهامداران، مشتریان و گاهی جوامع منبع باز پاسخگو هستند. از طریق آنها، هر کسی میتواند به آن دسترسی پیدا کند.
جهانی را تصور کنید که در آن همه یک بازوکای هستهای دارند ـــ بازوکایی که با هر بهروزرسانی دقیقتر، خودمختارتر و تواناتر به شلیک خود میشود. در اینجا هیچ دکترین «نابودی متقابل تضمینشده» وجود ندارد ـــ فقط دموکراتیزه شدن سریع قدرت بیسابقه.
هوش مصنوعی میتواند به خوبی قدرت فوقالعادهای ببخشد. برای مثال، یک کشاورز هندی بیسواد با گوشی هوشمند متصل به یک برنامه هوش مصنوعی میتواند دقیقاً یاد بگیرد که چه زمانی بذر بکارد، چه بذری بکارد، چه مقدار آب استفاده کند، چه کودی استفاده کند و چه زمانی با بهترین قیمت بازار برداشت کند ـــ همه اینها از طریق صدا و با لهجه خودش و بر اساس دادههای جمعآوریشده از کشاورزان در سراسر جهان ارائه میشود. این واقعاً دگرگونکننده است.
اما همین موتور، بهویژه وقتی از طریق مدلهای متنباز در دسترس باشد، میتواند توسط یک نهاد مخرب برای مسموم کردن هر بذر در همان منطقه یا مهندسی ویروس در هر ساقه گندم استفاده شود.
وقتی هوش مصنوعی به تیکتاک تبدیل میشود
خیلی زود هوش مصنوعی، به دلیل ویژگیهای منحصر به فردش، مشکلات منحصر به فردی را برای تجارت ایالات متحده و چین ایجاد خواهد کرد که امروزه به طور کامل درک نمیشوند.
همانطور که در بالای این ستون اشاره کردم، روش من برای توضیح این معضل با داستانی است که در مجمع توسعه چین در ماه مارس برای گروهی از اقتصاددانان چینی در پکن تعریف کردم. من به شوخی گفتم که اخیراً کابوس دیدهام: «خواب دیدم سال ۲۰۳۰ است و تنها چیزی که آمریکا میتواند به چین بفروشد سویا است ـــ و تنها چیزی که چین میتواند به آمریکا بفروشد سس سویا است.»
چرا؟ چون اگر هوش مصنوعی در همه چیز باشد و همه چیز به الگوریتمهای قدرتمندی با دادههای ذخیره شده در مزارع سرور وسیع متصل باشد ـــ آنگاه همه چیز بسیار شبیه TikTok میشود، سرویسی که بسیاری از مقامات آمریکایی امروز معتقدند در نهایت توسط چین کنترل میشود و باید ممنوع شود.
چرا رئیس جمهور ترامپ در دوره اول ریاست جمهوری خود در سال ۲۰۲۰ درخواست کرد که TikTok توسط شرکت مادر چینی خود، ByteDance، به یک شرکت غیرچینی فروخته شود یا در ایالات متحده با ممنوعیت مواجه شود؟ زیرا، همانطور که او در دستور اجرایی خود در ۶ آگوست ۲۰۲۰ گفت، «TikTok به طور خودکار اطلاعات گستردهای از کاربران خود را ضبط میکند»، از جمله موقعیت مکانی و فعالیتهای مرور و جستجوی آنها. او هشدار داد که این میتواند گنجینهای از اطلاعات شخصی صدها میلیون کاربر را در اختیار پکن قرار دهد. این اطلاعات میتواند برای تأثیرگذاری بر افکار و ترجیحات آنها و حتی تغییر رفتار آنها در طول زمان مورد استفاده قرار گیرد.
حال تصور کنید زمانی که هر محصولی مانند تیک تاک باشد ـــ زمانی که هر محصولی با هوش مصنوعی ترکیب شده باشد که دادهها را جمعآوری، ذخیره، الگوها را پیدا و وظایف را بهینه میکند، چه در حال کار با موتور جت باشد، چه در حال تنظیم شبکه برق یا نظارت بر مفصل ران مصنوعی شما.
بدون یک چارچوب اعتماد چین-آمریکا که تضمین کند هر هوش مصنوعی از قوانین کشور میزبان خود پیروی خواهد کرد ـــ مستقل از محل توسعه یا بهرهبرداری آن ـــ ممکن است به نقطهای برسیم که بسیاری از آمریکاییها به واردات هیچ محصول چینی مبتنی بر هوش مصنوعی اعتماد نخواهند کرد و هیچ چینی به واردات محصولی از آمریکا اعتماد نخواهد کرد.
به همین دلیل است که ما از رقابت مشترک دفاع میکنیم ـــ یک استراتژی دوگانه که در آن ایالات متحده و چین به طور استراتژیک برای برتری هوش مصنوعی رقابت میکنند و همچنین در یک مکانیسم واحد که از بدترین نتایج جلوگیری میکند، همکاری میکنند: جنگ دیپ فیک، سرکش شدن سیستمهای خودمختار یا ماشینهای اطلاعات نادرست فراری.
در دهه ۲۰۰۰، ما در یک نقطه عطف مشابه اما کمی کماهمیتتر بودیم و مسیر اشتباهی را در پیش گرفتیم. ما سادهلوحانه به افرادی مانند مارک زاکربرگ گوش دادیم که به ما میگفتند باید «سریع حرکت کنیم و همه چیز را بشکنیم» و اجازه ندهیم این شبکههای اجتماعی نوظهور، مانند فیسبوک، توییتر و اینستاگرام، به هیچ وجه توسط مقررات مزاحم، مانند مسئولیتپذیری در قبال اطلاعات نادرست مسمومی که اجازه میدهند در پلتفرمهایشان منتشر شود و آسیبهایی که مثلاً به زنان و دختران جوان وارد میکنند، متوقف شوند. ما نباید همین اشتباه را با هوش مصنوعی مرتکب شویم.
جفری هینتون، دانشمند کامپیوتر و پدرخوانده هوش مصنوعی، اخیراً خاطرنشان کرد: «بهترین راه برای درک احساسی این موضوع این است که ما مانند کسی هستیم که توله ببر واقعاً بامزهای دارد. مگر اینکه بتوانید کاملاً مطمئن باشید که وقتی بزرگ شد، نمیخواهد شما را بکشد، در غیر این صورت باید نگران باشید.»
اگر بشریت بالاخره ابزاری خلق کند که بتواند به ایجاد فراوانی کافی برای پایان دادن به فقر در همه جا، کاهش تغییرات اقلیمی و درمان بیماریهایی که قرنهاست ما را آزار میدهند، کمک کند، اما ما نتوانیم از آن در مقیاس وسیع استفاده کنیم، زیرا دو ابرقدرت هوش مصنوعی به اندازه کافی به یکدیگر اعتماد نداشتند تا سیستمی مؤثر برای جلوگیری از استفاده هوش مصنوعی توسط نهادهای سرکش برای فعالیتهای بیثباتکننده جهانی یا سرکشی خود ایجاد کنند، طنز وحشتناکی خواهد بود.
اما چگونه از این امر جلوگیری کنیم؟
ایجاد اعتماد
بیایید از همین ابتدا اذعان کنیم: ممکن است غیرممکن باشد. ماشینها ممکن است همین الان هم بیش از حد هوشمند شده باشند و بتوانند از کنترلهای اخلاقی فرار کنند، و ما آمریکاییها ممکن است بیش از حد از یکدیگر و از بقیه جهان جدا شده باشیم تا بتوانیم هر نوع چارچوب اعتماد مشترکی ایجاد کنیم. اما باید تلاش کنیم. ماندی استدلال میکند که یک رژیم کنترل تسلیحات هوش مصنوعی ایالات متحده و چین باید بر سه اصل اساسی استوار باشد.
اول: فقط هوش مصنوعی میتواند هوش مصنوعی را تنظیم کند. ببخشید، انسانها ـــ این نژاد در حال حاضر خیلی سریع حرکت میکند، خیلی گسترده میشود و خیلی غیرقابل پیشبینی برای نظارت دوران آنالوگ انسانی جهش میکند. تلاش برای اداره یک ناوگان پهپاد خودکار با نهادهای قرن بیستمی مانند این است که از یک سگ بخواهید بورس نیویورک را تنظیم کند: وفادار و خیرخواه اما به شدت غیرقابل مقایسه.
دوم: یک لایه حاکمیتی مستقل، آنچه ماندی آن را “داور اعتماد” مینامد، در هر سیستم مبتنی بر هوش مصنوعی که ایالات متحده و چین ـــ و هر کشور دیگری که میخواهد به آنها بپیوندد ـــ با هم بسازند، نصب خواهد شد. آن را به عنوان یک داور داخلی در نظر بگیرید که ارزیابی میکند آیا هر عملی، چه توسط انسان و چه توسط ماشین، قبل از اجرا از آستانه جهانی ایمنی، اخلاق و رفاه انسان عبور میکند یا خیر. این به ما یک سطح اولیه از هماهنگی پیشگیرانه را در زمان واقعی و با سرعت دیجیتال میدهد.
اما قضاوت بر اساس ارزشهای چه کسی؟ موندی استدلال میکند که باید بر اساس چندین زیرلایه باشد. این موارد شامل قوانین مثبتی است که هر کشوری وضع کرده است ـــ همه ما دزدی، تقلب، قتل، سرقت هویت، کلاهبرداری و غیره را غیرقانونی میدانیم. هر اقتصاد بزرگ جهان، از جمله ایالات متحده و چین، نسخه خود را از این ممنوعیتها در کتابها دارد و به “داور” هوش مصنوعی وظیفه ارزیابی هر تصمیمی بر اساس این قوانین مکتوب سپرده میشود. از چین خواسته نمیشود که قوانین ما را بپذیرد یا ما قوانین آنها را. این هرگز عملی نخواهد بود. اما داور اعتماد تضمین میکند که قوانین اساسی هر کشور اولین فیلتر برای تعیین این است که سیستم هیچ آسیبی نخواهد رساند.
در مواردی که هیچ قانون مکتوبی برای انتخاب وجود ندارد، قاضی به مجموعهای از اصول اخلاقی و معنوی جهانی معروف به دوکسا (doxa) تکیه میکند. این اصطلاح از فیلسوفان یونان باستان گرفته شده است تا باورهای مشترک یا درکهای گسترده مشترک در یک جامعه را منتقل کند ـــ اصولی مانند صداقت، انصاف، احترام به زندگی انسان و با دیگران همانطور رفتار کن که میخواهی با تو رفتار کنند ـــ که مدتهاست جوامع را در همه جا هدایت کردهاند، حتی اگر مکتوب نشده باشند.
به عنوان مثال، مانند بسیاری از مردم، من از ده فرمان یاد نگرفتم که دروغ گفتن اشتباه است. من آن را از افسانهای درباره جورج واشنگتن و آنچه او پس از قطع درخت گیلاس پدرش گفت، آموختم: او ظاهراً اعتراف کرد: “من نمیتوانم دروغ بگویم.” افسانهها کار میکنند زیرا حقایق پیچیده را به میمهای به یاد ماندنی تبدیل میکنند که ماشینها میتوانند آنها را جذب، تجزیه و تحلیل کنند و توسط آنها هدایت شوند.
در واقع، شش ماه پیش، ماندی و برخی از همکارانش ۲۰۰ افسانه از دو کشور را برداشتند و از آنها برای آموزش یک مدل زبانی بزرگ با استدلالهای اخلاقی و معنوی ابتدایی استفاده کردند ـــ بیشباهت به روشی که شما یک کودک خردسال را که چیزی در مورد قوانین یا درست و غلط اساسی نمیداند، آموزش میدهید. ماندی میگوید این یک آزمایش کوچک بود اما نویدبخش بود.
هدف، کمال نیست، بلکه مجموعهای بنیادی از حفاظهای اخلاقی قابل اجرا است. همانطور که داو سیدمن، نویسنده و فیلسوف کسب و کار، دوست دارد بگوید: «امروز ما به نرمافزار اخلاقی بیشتری نیاز داریم تا نرمافزار.»
سوم: ماندی اصرار دارد که برای تبدیل این آرزو به واقعیت، واشنگتن و پکن باید با روشی که ایالات متحده و اتحاد جماهیر شوروی زمانی به کنترل تسلیحات هستهای نزدیک شدند، به این چالش نزدیک شوند ـــ از طریق یک فرآیند ساختاریافته با سه گروه کاری اختصاصی: یکی متمرکز بر کاربرد فنی یک سیستم ارزیابی اعتماد در مدلها و پلتفرمها؛ دیگری متمرکز بر تدوین چارچوبهای نظارتی و قانونی برای پذیرش در داخل و بین کشورها؛ و یکی که کاملاً به دیپلماسی متعهد باشد ـــ ایجاد اجماع جهانی و تعهدات متقابل برای دیگران جهت پیوستن و ایجاد سازوکاری برای محافظت از خود در برابر کسانی که به آن نمیپیوندند.
پیام واشنگتن و پکن ساده و قاطع خواهد بود: «ما منطقهای از هوش مصنوعی مورد اعتماد ایجاد کردهایم ـــ و اگر میخواهید با ما تجارت کنید، با ما ارتباط برقرار کنید یا با سیستمهای هوش مصنوعی ما ادغام شوید، سیستمهای شما باید با این اصول مطابقت داشته باشند.»
قبل از اینکه این را به عنوان غیرواقعی یا غیرممکن رد کنید، مکث کنید و از خود بپرسید: اگر این کار را نکنیم، جهان در پنج سال آینده چگونه خواهد بود؟ ماندی استدلال میکند که بدون نوعی مکانیسم برای مدیریت این فناوری چهارکاره، به زودی متوجه خواهیم شد که گسترش هوش مصنوعی «مانند پخش سلاحهای هستهای در گوشه و کنار خیابان است.»
فکر نکنید مقامات چینی از این موضوع بیاطلاع هستند. ماندی، که بخشی از گفتگویی در مورد هوش مصنوعی با متخصصان آمریکایی و چینی است، میگوید که اغلب احساس میکند چینیها بسیار بیشتر از بسیاری در صنعت یا دولت آمریکا نگران معایب هوش مصنوعی هستند.
اگر کسی ایده بهتری دارد، ما دوست داریم آن را بشنویم. تنها چیزی که میدانیم این است که آموزش سیستمهای هوش مصنوعی در استدلال اخلاقی باید به یک ضرورت جهانی تبدیل شود، در حالی که ما همچنان مقداری برتری و کنترل بر این گونه جدید مبتنی بر سیلیکون را حفظ میکنیم. این یک وظیفه فوری نه تنها برای شرکتهای فناوری، بلکه برای دولتها، دانشگاهها، جامعه مدنی و نهادهای بینالمللی نیز هست. مقررات اتحادیه اروپا به تنهایی ما را نجات نخواهد داد.
اگر واشنگتن و پکن نتوانند از پس این چالش برآیند، بقیه جهان شانسی نخواهند داشت. و زمان از همین الان هم دیر شده است. دمای فناوری در ۲۱۱.۹ درجه فارنهایت در نوسان است. ما تنها یک دهم درجه تا آزادسازی کامل بخار هوش مصنوعی که مهمترین تغییر فاز در تاریخ بشر را رقم خواهد زد، فاصله داریم.
