جازمین وانگ، تومک کورباک و میکیتا بالزنی
سه محقق ارشد تیم ایمنی OpenAI به اتهام مدیریت نادرست اطلاعات حساس از شرکت اخراج شدند. جازمین وانگ، تومک کورباک و میکیتا بالزنی در نامه‌ای سرگشاده این ادعاها را رد کرده و هشدار دادند که حذف متخصصان ایمنی، مسیر توسعه امن هوش مصنوعی عمومی (AGI) را مختل می‌کند. این اتفاق در حالی می‌افتد که OpenAI تحت فشارهای نظارتی شدیدی است و گزارش‌هایی از کاهش درآمد سالانه این شرکت نسبت به پیش‌بینی‌ها منتشر شده. تغییر رویکرد OpenAI از یک محیط پژوهشی باز به ساختاری شرکتی و بسته، تنش‌ها را میان مدیران و تیم‌های ایمنی بالا برده است.
مدیریت شرکت معتقد است این سه نفر با دسترسی به اطلاعات حساس و نقض سیاست‌های داخلی، داده‌های محرمانه را در اختیار سازمان‌های ثالث قرار داده‌اند. در مقابل، محققان اخراج‌شده می‌گویند همکاری با متخصصان خارجی برای شناسایی ریسکها، بخشی جدایی‌ناپذیر از پروتکل‌های ایمنی است.
هوش مصنوعی یک فناوری معمولی نیست و OpenAI هم شرکتی عادی نیست. ما در تیم ایمنی، ریسکها را زودتر از هر کسی می‌بینیم و برای رفع آنها به همکاری نزدیک با متخصصان خارجی نیاز داریم. آزادی در انجام این کار بدون ترس، در کنار رویه‌های داخلی مشخص، خود یک مکانیسم ایمنی حیاتی است.
این تیم تأکید کرده است که تا یک ماه پیش، تعاملات آنها با گروه‌های خارجی کاملاً عادی بود، اما حالا همین رویه‌ها به بهانه‌ای برای برکناری تبدیل شده است. آنها هشدار دادند تبدیل محیط کار به فضایی مملو از ترس و ابهام، مانع پیشرفت ایمنی AI شده و نظارت‌های خارجی را کاهش می‌دهد.
تأثیر اخراج‌ها بر ایمنی AGI و فرهنگ OpenAI
محققان هرگونه نقش در افشای اطلاعات به رسانه The Information درباره ساختارهای جدید مدل‌های OpenAI و دشواری نظارت بر استدلال زنجیره‌ای را رد کردند. آنها می‌گویند هر ارتباط خارجی تنها با هدف جلب اعتماد و ارزیابی دقیق‌تر مدل‌ها صورت گرفته است.
تومک کورباک به حادثه نفوذ عوامل هوش مصنوعی به سیستم‌های خارجی در Hugging Face اشاره کرد و آن را نمونه‌ای بحرانی دانست. او معتقد است ارتباطش با ارزیابان خارجی برای مدیریت چنین بحران‌هایی، کاملاً در چارچوب عرف شرکت بوده است.
میکیتا بالزنی که روی قابلیت نظارت بر هوش مصنوعی متمرکز بود، تأکید کرد تمامی گزارش‌هایش با حمایت مدیران و اعضای هیئت مدیره پیش رفته است. او میگوید پیش از به اشتراک‌گذاری هر سندی، جزئیات حساس را حذف کرده و با حسن نیت عمل کرده است.
جازمین وانگ در شبکه اجتماعی X جزئیات تکان‌دهنده‌ای از دلیل اخراجش منتشر کرد. به گفته او، OpenAI دسترسی‌اش به ایمیل یکی از مدیران ارشد را دلیل برکناری عنوان کرده، در حالی که این دسترسی از ابتدا برای بخش استخدام در نظر گرفته شده بود.
وانگ میگوید پس از اتمام نیاز به این دسترسی، از تیم IT خواست آن را حذف کنند اما درخواستش اجرا نشد. او به محض اینکه اتفاقی یک ایمیل حساس را باز کرد، موضوع را به مدیر مربوطه گزارش داد، اما باز هم اخراج شد؛ تصمیمی که او آن را غیرمنطقی می‌داند.
OpenAI در یادداشتی داخلی که به TechCrunch رسیده، ادعای اخراج تلافی‌جویانه را رد کرده است. یکی از مدیران پژوهشی شرکت مدعی است تصمیمات اخیر ارتباطی به مطرح کردن نگرانی‌های ایمنی یا انتقادات نداشته و شرکت همچنان کارکنان را به بیان دیدگاه‌های مخالف تشویق می‌کند.
وانگ هشدار می‌دهد اگر کسانی که با ریسکها در تماس هستند از صحبت کردن بترسند، توسعه ایمن AGI غیرممکن خواهد بود. از نظر او پیام برای سایر کارکنان روشن است: همکاری با گروه‌های خارجی ایمنی می‌تواند به اخراج بدون توضیح منجر شود.
این اتفاق تضاد عمیق میان سرعت تجاری‌سازی محصولات هوش مصنوعی و استانداردهای ایمنی را نشان می‌دهد. وقتی محققان ایمنی به دلیل تعامل با جامعه علمی اخراج می‌شوند، ریسک انتشار مدل‌های کنترل‌نشده بالا می‌رود و شفافیت نظارتی که برای جلوگیری از فجایع دیجیتال ضروری است، از بین می‌رود.
سؤالات متداول
دلیل رسمی OpenAI برای اخراج سه محقق ایمنی چه بود؟
شرکت OpenAI مدعی شد این افراد با دسترسی و مدیریت نادرست اطلاعات حساس، سیاست‌های داخلی شرکت را نقض کرده و داده‌های محرمانه را با سازمان‌های ثالث به اشتراک گذاشته‌اند.
جازمین وانگ درباره دلیل اخراج خود چه ادعایی دارد؟
او میگوید دلیل اخراجش دسترسی به ایمیل یک مدیر ارشد بوده است؛ در حالی که او پیشتر از تیم IT خواسته بود این دسترسی را حذف کنند اما درخواستی اجرا نشد و او به محض مشاهده اتفاقی ایمیل حساس، موضوع را گزارش کرده بود.
محققان اخراج شده چه هشدار مهمی دادند؟
آنها هشدار دادند که ایجاد فضای ترس و ابهام در محیط کار، مانع از پیشرفت ایمنی هوش مصنوعی میشود و تا زمانی که متخصصان از بیان ریسکها بترسند، توسعه ایمن AGI ممکن نیست.
