هشدار درباره خطر هوش مصنوعی برای بشریت

اما فارگ / رویترز / ۷ سپتامبر ۲۰۲۶

ولکر تورک، رئیس حقوق بشر سازمان ملل روز دوشنبه هشدار داد که هوش مصنوعی می‌تواند تهدیدی برای بشریت باشد و متعهد شد که شرکت‌های هوش مصنوعی را برای کاهش خطراتی که به گفته دفتر او شامل اختلال در خدمات، ارتباطات و نظام‌های دموکراتیک می‌شود، تحت فشار قرار دهد.

او در سخنرانی خود در آستانه آغاز دومین دوره بی‌سابقه مسئولیتش، خواستار تضمین‌های «آهنین و خدشه‌ناپذیر» برای ایمن‌سازی هوش مصنوعی شد؛ سخنرانی که در آن همچنین خواستار پاسخگویی درباره مرگ‌ها در بازداشتگاه‌های مهاجرتی آمریکا شد و استفاده گزارش‌شده روسیه از پهپادهای خودمختار را محکوم کرد.

این سخنرانی گسترده، اولین سخنرانی او در شورای ۴۷ عضوی حقوق بشر از زمان کسب دوره چهارساله در ماه ژوئیه در برابر مخالفت مسکو و واشنگتن بود.

«وحشت» از پهپادهای خودمختار

تورک در این نهاد در ژنو گفت: «من نگرانی‌های کارشناسان این صنعت را مبنی بر اینکه هوش مصنوعی پیشرفته می‌تواند خطری وجودی برای بشریت ایجاد کند، درک می‌کنم.»

او افزود: «من امروز، همین‌جا، خواستار تلاشی همه‌جانبه برای ایجاد تضمین‌های آهنین پیرامون ایمنی و امنیت هوش مصنوعی، پیش از آنکه خیلی دیر شود، هستم.»

تورک درباره ماهیت این خطرات توضیح بیشتری نداد، اما سخنگوی دفتر او گفت که نقص در سیستم‌های قدرتمند هوش مصنوعی می‌تواند زیرساخت‌های حیاتی و نهادهای دموکراتیک را مختل کند.

وی به «رفتارهای خطرناک آموزش عامل‌ها» در حادثه موسوم به هاگینگ فیس در ماه ژوئیه اشاره کرد که در آن گروهی از عامل‌های هوش مصنوعی شرکت OpenAI یک پلتفرم متن‌باز را هک کردند و گفت این حادثه نشان می‌دهد که قابلیت‌های هوش مصنوعی پیشرو سریع‌تر از تدابیر حفاظتی در حال پیشرفت است.

تورک هشدار داد که تنها تعداد انگشت‌شماری از افراد «قدرتی تقریبا نامحدود بر هوش مصنوعی» در اختیار دارند، بدون اینکه نامی از کسی ببرد. از جمله شرکت‌های برتر هوش مصنوعی می‌توان به متا (META.O)، آنتروپیک، OpenAI و گوگل (GOOGL.O) اشاره کرد.

او گفت: «حداقل چیزی که نیاز داریم این است که کشورهای میزبان هوش مصنوعی و کشورهای درگیر در زنجیره‌های تأمین آن، پیرامون خطوط قرمز مورد توافق گرد هم آیند.»

این شورا تا ۷ اکتبر برای بحث درباره جنگ ایران، درگیری داخلی سودان و مجموعه‌ای از بحران‌های دیگر تشکیل جلسه می‌دهد. دولت ترامپ سال گذشته با متهم کردن این شورا به جانبداری ضد اسرائیلی، از آن کناره‌گیری کرد.

تورک خواستار پاسخگویی درباره حدود ۲۳ مورد مرگی شد که به گفته او تاکنون در سال جاری در بازداشتگاه‌های مهاجرتی آمریکا رخ داده و افزود که نگران طرح‌هایی برای تجهیز مأموران به دستکش‌های شوک الکتریکی است.

وزارت امنیت داخلی آمریکا پیش‌تر گفته بود که متعهد به تضمین محیطی «ایمن، امن و انسانی» در بازداشتگاه‌هاست. بازرس کل این وزارتخانه در حال بررسی مرگ‌های رخ داده در بازداشتگاه‌ها از اکتبر ۲۰۲۱ تاکنون است.

وزارت خارجه آمریکا روز دوشنبه بلافاصله به درخواست برای اظهارنظر پاسخ نداد.

افشای «بازیگران سایه»

تورک روسیه را به دلیل تشدید حملاتش به اوکراین و ایران را به دلیل افزایش اعدام‌ها محکوم کرد.

او همچنین با ابراز «وحشت» از گزارش‌هایی مبنی بر اینکه روسیه از پهپادهای کاملا خودمختار در اوکراین استفاده کرده که بنا بر ادعاها سه نفر را در ماه اوت کشته است، گفت: «من به درخواست‌ها برای ممنوعیت فوری سلاح‌هایی که می‌توانند بدون دخالت انسان جان انسان‌ها را بگیرند، می‌پیوندم» و به مذاکرات در ژنو اشاره کرد. رویترز به طور مستقل این گزارش‌ها را تأیید نکرده است. هیئت دیپلماتیک روسیه نیز بلافاصله به درخواست برای اظهارنظر پاسخ نداد.

با وجود بیش از ۶۰ جنگ در سراسر جهان که حداقل یک دولت در آن درگیر است – که بالاترین میزان از زمان جنگ جهانی دوم است – تورک ایده‌هایی را برای راه‌های ترویج صلح مطرح کرد و متعهد شد که نظارت بیشتری بر کسب‌وکارها و منافع اقتصادی که به درگیری‌ها دامن می‌زنند، اعمال کند.

او گفت: «ما از افشای بازیگران سایه و درخواست برای پاسخگویی ابایی نخواهیم داشت.»

اواخر این ماه، دفتر حقوق بشر سازمان ملل قرار است فهرستی از کسب‌وکارهای فعال در شهرک‌های اسرائیلی کرانه باختری را که این نهاد جهانی آن‌ها را غیرقانونی می‌داند، منتشر کند – اتهامی که اسرائیل آن را رد می‌کند.