غول‌های فناوری در حال نابودی دموکراسی هستند

گفت‌وگویی با ماریا رسا، برنده جایزه نوبل
راوی آگراوال، سردبیر نشریه «فارین پالیسی» (Foreign Policy)
۲۵ سپتامبر ۲۰۲۶

اکنون بر همگان آشکار است که برخی از بزرگ‌ترین شرکت‌های فناوری جهان، استراتژی‌های خود را بر پایه کسب درآمد از «توجه» مصرف‌کنندگان بنا کرده و هم‌زمان، مدل‌های درآمدی رسانه‌های خبری را تضعیف کرده‌اند. ماریا رسا، روزنامه‌نگار و چهره رسانه‌ای فیلیپینی-آمریکایی که در سال ۲۰۲۱ به پاس تلاش‌هایش برای صیانت از آزادی بیان برنده جایزه صلح نوبل شد، معتقد است که غول‌های فناوری (Big Tech) در حال نابودی دموکراسی هستند. اما شهروندان عادی در واکنش به این وضعیت چه کاری می‌توانند انجام دهند؟ این پرسشی است که رسا در کتاب جدید خود با عنوان «مبارزه متقابل: راهنمای شهروندی برای ایستادگی در برابر دیکتاتورها» (The Fight Back: A Citizen’s Guide to Standing Up to Dictators) به آن پاسخ می‌دهد. رسا همچنین ریاست مشترک «پنل علمی هوش مصنوعی» سازمان ملل متحد را بر عهده دارد؛ جایگاهی که به او دیدگاهی منحصر‌به‌فرد برای ارزیابی بحث‌های مربوط به سازوکارهای نظارتی و حفاظتی (guardrails) برای هوش مصنوعی می‌بخشد. من در حاشیه نشست مجمع عمومی سازمان ملل در هفته جاری، در «مجمع فناوری و هوش مصنوعی فارین پالیسی» با او گفتگو کردم. متن کامل این گفتگو هم‌اکنون در پلتفرم «FP Live» — شامل وب‌سایت فارین پالیسی و همچنین اپل، اسپاتیفای و یوتیوب — در دسترس است. آنچه در ادامه می‌آید، متن پیاده‌سازی‌شده و خلاصه‌شده‌ای از این گفتگوست که اندکی ویرایش شده است.

راوی آگراوال: شما می‌گویید که غول‌های فناوری برای دموکراسی مضر هستند. می‌خواهم بخش عمده این گفتگو به راهکارها اختصاص یابد، اما پیش از آن، آیا می‌توانید تصویری کلی و مختصر از این مشکل ارائه دهید؟

ماریا رسا: نخست بیایید آن را تعریف کنیم. هوش مصنوعی به اشکال گوناگون، سابقه‌ای ۷۰ ساله دارد و در سه مرحله به جهان عرضه شده است. مرحله اول حدود یک دهه پیش با ظهور شبکه‌های اجتماعی آغاز شد؛ زمانی که یادگیری ماشین وارد میدان شد و نسخه‌ای دیجیتال (همزاد) از شما ساخت، و سپس هوش مصنوعی از راه رسید و تمام این نسخه‌های دیجیتال ما را گرد هم آورد. این همان «هدف‌گیری دقیق» (micro-targeting) بود. مرحله بعدی در سال‌های ۲۰۲۲ و ۲۰۲۳ و با ظهور «مدل‌های زبانی بزرگ» (LLMs) فرا رسید. مدل‌های زبانی بزرگ هرگز بر پایه واقعیت‌های قطعی عمل نمی‌کنند، بلکه ماشین‌هایی مبتنی بر احتمالات هستند. نخستین گام در این مسیر، ظهور چت‌بات‌ها بود؛ ابزارهایی که آنچه را می‌دیدیم، دگرگون کردند. اکنون وضعیت فراتر از فقدان واقعیت، حقیقت یا اعتماد است؛ با انبوهی از محتوای بی‌ارزش و ساختگیِ هوش مصنوعی (AI slop) روبرو هستیم. مرحله سوم — که ما در «پنل علمی هوش مصنوعی سازمان ملل» با آن دست‌به‌گریبانیم — مربوط به «عامل‌ها» (agents) و سیستم‌های چندعاملی است؛ سیستم‌هایی که دارای عاملیت و قدرت عمل مستقل هستند.

این سه مرحله، ساختار زیستی ما را هک کردند. شبکه‌های اجتماعی «اقتصاد توجه» را تغییر دادند. دامنه توجه ما کاهش یافت. ما توجه و حریم خصوصی (و صمیمیت) خود را واگذار کردیم. اکنون آنچه هک می‌شود، خودِ «عاملیت» (قدرت تصمیم‌گیری و عمل) است؛ چرا که شما عملاً به این عامل‌های هوشمند اجازه می‌دهید تا به جای شما عمل کنند.

در ماه ژوئیه، زمانی که گزارش مقدماتی پنل علمی هوش مصنوعی را منتشر کردیم، هشدار دادیم که این وضعیت دیگر قابل کنترل نیست. تا آن زمان، مدل‌های «میتوس» (Mythos) و «فیبل ۵» (Fable 5) عرضه شده بودند و البته ماجرای «هاگینگ فیس» (Hugging Face) نیز رخ داده بود. از این رو، ما یک گزارش تحلیلی و موضوعی منتشر کردیم تا واقعیت‌ها را شرح دهیم و بگوییم چه اقداماتی ضروری است.

یک دهه از آن زمان گذشته و اوضاع رو به وخامت است. اجازه ندهید به شما القا کنند که این ماجرا تازه آغاز شده است؛ این روند یک دهه پیش، هم‌زمان با مستندسازی آسیب‌ها، شروع شد و با این حال، اقدامات بسیار اندکی برای محافظت از شما صورت گرفته است.

راوی آگراوال: خب، چه کاری از دست ما برمی‌آید؟ شهروندان عادی چه می‌توانند بکنند؟ (این همان عنوان فرعی کتاب جدید شماست: «مبارزه متقابل: راهنمای شهروندان برای ایستادگی در برابر دیکتاتورها»). و کشورها چه کاری می‌توانند انجام دهند؟ به‌ویژه که اکنون در هفته مجمع عمومی سازمان ملل در نیویورک هستیم.

ماریا رسا: کارهای بسیاری می‌توان انجام داد. از سازمان ملل شروع می‌کنم؛ بسیاری از افراد از سازمان ملل قطع امید کرده‌اند، اما هیچ کشوری به تنهایی قادر به حل معضل «مصونیت از مجازات» و فروپاشی حاکمیت قانون نیست. دو دیکتاتوری که در کتاب «مبارزه متقابل» به آن‌ها اشاره شده، «دولت» و «فناوری» هستند؛ و شما در هر دو دنیای فیزیکی و مجازی، هدف آن‌ها قرار دارید.

پس، شما چه کاری می‌توانید انجام دهید؟ شورای امنیت سازمان ملل با مسئله حق وتو مواجه است و به همین دلیل، در هر گام با بن‌بست روبرو شده است. آیا واقعاً کسی از نحوه کمک شورای امنیت به حاکمیت قانون در سطح جهانی رضایت دارد؟ خیر. پس چه ابزارهایی در اختیار آن‌هاست؟ مجمع عمومی. کشورها اکنون صدای خود را به گوش جهانیان می‌رسانند. رئیس مجمع عمومی سازمان ملل، آنالنا بربوک، و دبیرکل سازمان ملل، آنتونیو گوترش، تصمیم گرفتند یک هیئت مستقل و بین‌المللی در زمینه هوش مصنوعی تشکیل دهند؛ کشورهایی که به این طرح رأی مثبت دادند نیز «گفتگوی جهانی برای حکمرانی هوش مصنوعی» را پایه‌گذاری کردند. مشاهده این رویداد در ژنو فوق‌العاده بود.

ما گزارش اولیه را در عرض شش هفته تکمیل کردیم که با معیارهای سازمان ملل، سرعتی برق‌آسا محسوب می‌شد. و این تقابلِ کشورها با یکدیگر نبود؛ این هیئت متشکل از افرادی از ۳۶ کشور مختلف بود. حدود یک‌چهارم اعضا از شرکت‌های بزرگ فناوری (Big Tech) بودند، اما بقیه ما متخصصانی در حوزه‌های دیگر بودیم. ما با هم درگیری نداشتیم؛ خبری از تقابل ایالات متحده با چین یا روسیه نبود. همه ما بر سر اصول توافق داشتیم. جایی که واقعاً به چالش کشیده شدیم و کار دشوار بود، تقابل میان مردم و شرکت‌های بزرگ فناوری بود، اما در نهایت به اجماع رسیدیم. و اگر ما توانستیم چنین کاری کنیم، پس این همان چالشی است که پیش روی مجمع عمومی قرار دارد.

راوی آگراوال: آن اجماع چه بود؟ چون بخشی از مسئله این است که رقابت بر سر هوش مصنوعی به گونه‌ای روایت می‌شود که گویی یک بازی با حاصل‌جمع صفر است. اگر با هر کسی در دولت آمریکا یا فعالان اکوسیستم فناوری این کشور صحبت کنید، تقریباً مهم نیست چه کار می‌کنید؛ زیرا استدلال این است که ما باید پیش از آن‌ها —یعنی چینی‌ها— این کار را انجام دهیم. و طبیعتاً چینی‌ها هم وقتی با این دیدگاه مواجه می‌شوند، می‌گویند خب، ما هم باید آن را انجام دهیم. و بدین ترتیب، شما درگیر رقابتی می‌شوید که به نظر می‌رسد هیچ‌یک از سازوکارهای حفاظتی در آن کارایی ندارند.

ماریا رسا: اول اینکه، این یک جنگ روایی است. آن را باور نکنید. واقعاً و حقیقتاً، روزنامه‌نگاران باید دروغ را «دروغ» بنامند. ما در کشورم یاد گرفته‌ایم که چنین کنیم. وقتی رودریگو دوترته، رئیس‌جمهور پیشین فیلیپین، مکرراً دروغ می‌گفت، ما هم بارها آن را دروغ می‌خواندیم. البته انجام این کار پیامدهایی هم دارد. در طول ۱۴ ماه، ۱۱ حکم بازداشت برای من صادر شد و تقریباً یک دهه طول کشید تا در ۱۰ مورد از آن ۱۱ اتهام پیروز شوم. هنوز یک پرونده دیگر باقی مانده و برای سفر کردن، همچنان باید از دیوان عالی فیلیپین مجوز بگیرم.

من به عنوان رئیس مشترک «هیئت علمی هوش مصنوعی» صحبت نمی‌کنم، چرا که ما کارها را بر اساس اجماع پیش می‌بریم. من به عنوان شخص خودم صحبت می‌کنم: ما در حال سقوط از پرتگاه هستیم. این‌ها آسیب‌های انباشته‌ای هستند که هر یک از ما با آن‌ها روبرو هستیم و ما را در سطوح فردی، اجتماعی و سپس دولتی تحت تأثیر قرار می‌دهند. تصادفی نیست که مؤسسه «وی-دم» (V-Dem) تا ماه مارس امسال اعلام کرد که ۷۴ درصد از جهان اکنون تحت حاکمیت‌های اقتدارگرا قرار دارد. ما رهبرانی غیرلیبرال را به شیوه‌ای دموکراتیک انتخاب می‌کنیم، زیرا — و این به همان نفوذ به سازوکار بیولوژیکی بدن شما بازمی‌گردد — فناوری احساسات شما را تغییر می‌دهد. هدف آن این است که شما را به ادامه اسکرول کردن (پیمایش در صفحه) وادارد. این کار پول‌ساز است و پول بیشتر، قدرت بیشتر به همراه می‌آورد. وقتی مشغول اسکرول کردن هستید، احساساتتان تغییر می‌کند؛ این تغییر بر نحوه نگرش شما به جهان، نحوه عملکردتان و شیوه رأی دادنتان تأثیر می‌گذارد.

راوی آگراوال: بگویید چگونه می‌توانیم از این گزارش به مرحله‌ای برسیم که صنعت فناوری را برای پذیرش مقررات و تغییر رویه تحت فشار بگذاریم، و آن‌ها را وادار کنیم تا با دولت‌ها برای اجرای این مقررات و ایجاد تغییرات واقعی در داخل کشور همکاری کنند.

ماریا رسا: ایالات متحده به تشکیل آن هیئت علمی رأی منفی داد. آن ستون اصلی که نظم پس از جنگ جهانی دوم را سرپا نگه داشته بود — یعنی خودِ ایالات متحده — در حال بیرون کشیده شدن است. این کشور فعالانه در حال تخریب سیستمی است که خود در ایجاد آن نقش داشته است.

چه کاری از دست ما برمی‌آید؟ من در کتابم این موضوع را بر اساس داده‌ها تشریح کرده‌ام. سه بحران همزمان و زنجیره‌وار وجود دارد. نخستین آن‌ها بحران اعتماد است؛ زمانی که دروغ‌ها سریع‌تر از حقایق منتشر می‌شوند. بر اساس مطالعه‌ای که در سال ۲۰۱۸ توسط مؤسسه فناوری ماساچوست (MIT) انجام شد، می‌دانیم که سرعت انتشار دروغ‌ها شش برابر بیشتر از حقایق است. از آن زمان، به‌ویژه پس از خرید توییتر توسط ایلان ماسک، وضعیت به‌مراتب بدتر شده است. بدون حقایق، نمی‌توان به حقیقت دست یافت. بدون حقیقت، اعتماد شکل نمی‌گیرد. بدون این سه عنصر، ما فاقد واقعیتی مشترک خواهیم بود. من می‌توانم میلیون‌ها بار بگویم: «ما در مانیل هستیم، ما در مانیل هستیم، ما در مانیل هستیم.» دروغی که میلیون‌ها بار تکرار شود، به یک واقعیت تبدیل می‌شود؛ با این تفاوت که وقتی از در بیرون می‌روید، می‌بینید که در مانیل نیستید. واقعیت همیشه شما را به جایگاه اصلی‌تان بازمی‌گرداند. بحران اعتماد به بحران نظم دامن می‌زند؛ یعنی فروپاشی نظمی که پیش‌تر می‌شناختیم. مورد آخر، بحران پاسخگویی است؛ این‌ها شکست‌هایی زنجیره‌ای هستند.

باید درباره این موضوع صحبت کنیم، اما نه با این لحن که «اوضاع وخیم‌ترین حالت ممکن است و فردا نابود می‌شویم»؛ چرا که چنین نیست. با این حال، الگوها و روندها مسیر را به ما نشان می‌دهند. باید از جملات ساده استفاده کنیم: «این اتفاقی است که افتاده، این چیزی است که آن رویداد نشان می‌دهد، این الگو و روندِ ماجراست، این‌ها مواردی است که درباره‌شان قطعیت نداریم» و در نهایت: «این اقدامِ بعدی است که یک دولتِ دوراندیش باید انجام دهد.» در گزارش موضوعی که ۲۱ سپتامبر منتشر شد، نموداری گنجاندیم تا هم شما بتوانید آن را ببینید و هم دولت‌ها دیگر نتوانند ادعا کنند که از ماجرا بی‌خبر بوده‌اند.

یکی از چیزهایی که در ژنو دوست داشتم این بود که گروه ۴۰ نفره ما متشکل از دانشمندان و متخصصان، با نمایندگان کشورهای مختلف گفتگو می‌کردیم. بیشتر آن گفتگوها غیررسمی (بدون ثبت و ضبط) بود، اما بسیار عالی بودند، چرا که آنجا متوجه می‌شدید دولت‌ها واقعاً چه اطلاعاتی دارند. یک بار نماینده دولتی از من پرسید: «چرا باید برایمان مهم باشد؟ ما که مدل‌های پیشرو (هوش مصنوعی) نمی‌سازیم.» پاسخ این است که باید برایتان مهم باشد، چون مردم شما در چنگال آن حاکم مستبد گرفتارند؛ و اگر پای میز مذاکره ننشینید تا در وضع مقررات، کنترل و حفظ امنیت شهروندانتان مشارکت کنید، دیگر قادر به حکمرانی نخواهید بود. من در تدریس خود از کتابی محصول ۲۰۲۴ اثر «ماریتجه شاکه» (Marietje Schaake) با عنوان «کودتای فناوری: چگونه دموکراسی را از سیلیکون‌ولی نجات دهیم» استفاده می‌کنم. او مستند می‌کند که دولت‌ها با هر روز تعلل و عدم اقدام، بخش بیشتری از قدرت خود را از دست می‌دهند. کودتای فناوری در مقابل چشمان همگان رخ داده است. زمان اقدام فرا رسیده است.

راوی آگراوال: اجازه دهید آخرین سؤال را درباره موضوعی مرتبط با همین مباحث بپرسم: آزادی رسانه و مطبوعات. شما در فیلیپین تجربیات دشواری را پشت سر گذاشته و در برابر فشارهای شدید «دوترته» ایستادگی کرده‌اید. چه توصیه‌ای برای روزنامه‌نگاران و سایر افراد در ایالات متحده دارید؟

ماریا رسا: رهبرانی وجود دارند که با این دو دیکتاتور (دولت و غول‌های فناوری) مبارزه می‌کنند. ائتلافی متشکل از ۲۰ کشور به نام «Democracia Siempre» (دموکراسی همیشگی) شکل گرفته که «یکپارچگی و صحت اطلاعات» را در اولویت قرار داده است. یکی از این کشورها، برزیل، در ۴ اکتبر انتخابات برگزار می‌کند و موضوعات بسیار مهمی در آن در خطر است. رهبرانی که با این دو دیکتاتور می‌جنگند، در فضای آنلاین و اکوسیستم اطلاعات عمومی مورد حمله قرار می‌گیرند. من این وضعیت را در فیلیپین تجربه کرده‌ام. در سال ۲۰۱۷، هشتگ #ArrestMariaRessa (ماریا رسا را ​​دستگیر کنید) ترند شد و دو سال بعد، من دستگیر شدم. این هجمه‌ها مثل کود عمل می‌کنند؛ طرز فکر و احساس شما را تغییر می‌دهند.

آن رهبرانی که در حال مبارزه هستند، بیش از هر زمان دیگری به شما نیاز دارند. وقتی هدف حمله قرار می‌گیرید — و تک‌تک افراد هدف هستند، چرا که مصرف‌کنندگان هدف اصلی‌اند — این وضعیت به شما قدرت عظیمی می‌بخشد. اینجاست که ما وارد عمل می‌شویم؛ در هر کشوری در سراسر جهان. اکنون زمان و مکانی برای صرفاً رأی دادن نیست؛ بلکه زمان و مکانی برای ایستادگی در برابر یک دیکتاتور است.

وقتی شاهد «فیلیپینی‌شدن» ایالات متحده بودم، سوالی از مردم فیلیپین و سپس از آمریکایی‌ها پرسیدم. سوال ساده‌ای است: حاضرید برای حقیقت چه چیزی را فدا کنید؟ «یکپارچگی و صحت اطلاعات» مادرِ تمام نبردهاست. اگر در آن پیروز شویم، در همه چیز پیروز شده‌ایم. اگر آن را ببازیم، همه چیز را باخته‌ایم: مسائل جنسیتی، اقلیم، سلامت، دموکراسی و هر چیز دیگری که فکرش را بکنید.

دوستان، پیش از آنکه خیلی دیر شود، از روزنامه‌نگاران خود حمایت کنید. چهره ما را تخریب و بدنام کرده‌اند و ما هم اشتباهاتی داشته‌ایم؛ تا حدی به این دلیل که ساختار مشوق‌های شبکه‌های اجتماعی به محتوای بی‌ارزش و مبتذل پاداش می‌دهد. غول‌های فناوری در حال خفه کردن سازمان‌های خبری هستند، حال آنکه همین سازمان‌های خبری سوختِ چت‌بات‌هایی را تأمین می‌کنند که شما از آن‌ها استفاده می‌کنید. من عملاً هزینه فضای سرور را می‌پردازم تا ابزارهای خودکار (اسکریپرها) بتوانند محتوای ما را از وب‌سایت «رپلر» (Rappler) بردارند. وضعیت در سراسر جهان به همین منوال است. اکنون وقتی در گوگل جستجو می‌کنید و هوش مصنوعی مولد بدون هدایت شما به وب‌سایت ما، پاسخ را ارائه می‌دهد، به این معناست که محتوای ما را برداشته اما شما را به سایت ما نیاورده است؛ و این یعنی ما هیچ درآمدی کسب نمی‌کنیم. افت درآمد در سطح جهانی حدود ۷۵ تا ۸۰ درصد است؛ رقمی بسیار بزرگ. بنابراین، این آخرین تلاش ماست. مدل کسب‌وکارِ مبتنی بر تبلیغات در روزنامه‌نگاری مرده است و ما به دنبال مدل بعدی هستیم. در کشورهایی مثل کشور من، نمی‌توانم اجازه دهم که هزینه این کار از جیب فقیرترینِ فقرا تأمین شود.

دنیای ما به شدت در حال تغییر است و سرنوشت آن همین حالا در دستان شما — و دستان ما — قرار دارد. غول‌های فناوری می‌خواهند شما باور کنید که این تنها راهِ داشتنِ اینترنت است. امروزه ۵۳ درصد از ترافیک اینترنت غیرانسانی است؛ یعنی محتوای بی‌کیفیت و انبوهِ تولیدشده توسط هوش مصنوعی. تنها ۲۵ درصد از اینترنت در فضای وبِ باز قرار دارد و ۷۵ درصد آن به شبکه‌های اجتماعی و هوش مصنوعی اختصاص دارد. پس، تصمیم با شماست. شما با انتخاب‌هایتان — و با جایی که حضور دارید — رأی می‌دهید. این همان نبردی است که اهمیت دارد. به ما بپیوندید.