گوگل و گوگل دیپ‌مایند روز چهارشنبه مؤسسه DeepMind Institute را تأسیس کردند تا تحقیقات و گفتگوهای تخصصی درباره هوش مصنوعی عمومی یا AGI را گسترش دهند. این اقدام در حالی صورت می‌گیرد که صنعت فناوری از بحث‌های تئوریک ایمنی عبور کرده و حالا به دنبال ایجاد چارچوب‌های عملیاتی و نظارتی برای مدل‌های پیشرو است تا ریسک‌های احتمالی پیش از انتشار عمومی مدیریت شوند.
رهبری دِمیس هاسابیس و تیم مدیریت
مدیریت این مرکز بر عهده تیمی متشکل از دِمیس هاسابیس، رئیس گوگل دیپ‌مایند، جیمز منیکا، مدیر اجرایی گوگل و شین لگ، هم‌بنیان‌گذار دیپ‌مایند است. شین لگ در این ساختار نقش سردبیر اجرایی را بر عهده دارد. هدف اصلی این مؤسسه، شناسایی و تحلیل دیدگاههای متناقض میان گوگل، گوگل دیپ‌مایند و جامعه جهانی پژوهشگران در مورد AGI است. این مرکز می‌خواهد فضایی شفاف ایجاد کند تا تغییرات دیدگاهی که بر اثر دستیابی به داده‌های جدید رخ می‌دهد، بررسی شود.
با توجه به سرعت بالای پیشرفت‌ها در لبه فناوری، احتمالاً توافق همیشگی میان طرفین وجود نخواهد داشت و با دستیابی به داده‌های جدید، دیدگاه‌ها تغییر خواهد کرد.
تحلیل‌های چهارگانه و مفهوم opaque serial depth
این مؤسسه فعالیت خود را با انتشار چهار جستار تخصصی آغاز کرده است. این مقالات به موضوعاتی نظیر سیاست‌های اقتصادی برای مدیریت اختلالات AGI، حفظ قابلیت خوانش استدلال‌ها توسط انسان، اصول شکوفایی انسانی و چارچوبی برای ارزیابی مدل‌های Frontier AI می‌پردازند.
روهین شاه و آنکا دراگان، محققان ایمنی در دیپ‌مایند، در یکی از این مقالات روی شفافیت مدل‌ها تمرکز کرده‌اند. آن‌ها استدلال می‌کنند که در معماری‌های پیچیده، بررسی گام‌به‌گام استدلال‌های مدل‌ها دشوار و اجتناب‌ناپذیر است.
نویسندگان برای مقابله با این چالش‌های ایمنی، محدود کردن opaque serial depth را پیشنهاد داده‌اند. این اصطلاح به میزان محاسبات متوالی اشاره دارد که یک مدل بدون ارائه استدلال‌های قابل‌فهم برای انسان انجام می‌دهد. بر اساس این دیدگاه، توسعه‌دهندگان باید ثابت کنند سیستم‌های کم‌شفافیت همچنان به‌طور کامل قابل نظارت هستند.
استانداردسازی مدل‌های پیشرو در ایالات متحده و مهلت ۳۰ روزه
دِمیس هاسابیس در مقاله‌ای مجزا، پیشنهاد داده است که ایالات متحده رهبری ایجاد یک نهاد استانداردسازی برای مدل‌های پیشرو هوش مصنوعی را بر عهده بگیرد. طبق این طرح، سازندگان مدل‌ها باید نسخه‌های خود را ۳۰ روز پیش از انتشار به‌صورت داوطلبانه برای بررسی ارسال کنند.
این نهاد ارزیابی‌ها را ابتدا با مشورت شرکت‌های هوش مصنوعی طراحی می‌کند، اما برای جلوگیری از تقلب مدل‌ها در آزمون‌های شناخته‌شده، آزمون‌های مستقل و محرمانه‌ای تحت عنوان held-out ایجاد خواهد کرد. هاسابیس معتقد است در صورت نیاز، سخت‌گیری‌های این چارچوب باید افزایش یابد.
این رویکرد با پیشنهاد داریو آمودئی، مدیرعامل Anthropic برای تنظیم سرعت توسعه مدل‌های Frontier AI همسو است. صنعت هوش مصنوعی اکنون به سمتی حرکت می‌کند که حتی توقف هماهنگ پیشرفت مدل‌ها در صورت نقص تدابیر ایمنی، به عنوان یک گزینه عملیاتی مطرح شود. برای مطالعه بیشتر درباره دستاوردهای این مرکز می‌توانید به وب‌سایت رسمی گوگل دیپ‌مایند مراجعه کنید.
تأسیس این مؤسسه نشان‌دهنده تغییر استراتژیک شرکت‌های بزرگ فناوری از «نگرانی‌های کلی» به «طرح‌های عملیاتی» است. اهمیت این موضوع در این است که برای نخستین بار، مفاهیمی مانند محدود کردن عمق محاسباتی (opaque serial depth) و ایجاد بازه زمانی ۳۰ روزه برای نظارت پیش از انتشار مطرح شده است که می‌تواند در آینده به استانداردهای قانونی در آمریکا و جهان تبدیل شود.
سؤالات متداول
هدف از تأسیس DeepMind Institute چیست؟
این مؤسسه برای پیشبرد تحقیقات، تحلیل دیدگاههای متفاوت و گسترش گفتگوهای تخصصی پیرامون هوش مصنوعی عمومی (AGI) تأسیس شده است.
مفهوم opaque serial depth در مقالات مؤسسه به چه معناست؟
این اصطلاح به میزان محاسبات متوالی اشاره دارد که یک مدل هوش مصنوعی بدون ارائه استدلال‌های قابل‌فهم برای انسان انجام می‌دهد و کاهش آن برای افزایش شفافیت و نظارت پیشنهاد شده است.
پیشنهاد دِمیس هاسابیس برای مدل‌های پیشرو در آمریکا چیست؟
او پیشنهاد داده است که یک نهاد استانداردسازی ایجاد شود تا مدل‌های Frontier AI، ۳۰ روز پیش از انتشار، به‌صورت داوطلبانه برای بررسی و طی کردن آزمون‌های محرمانه (held-out) ارسال شوند.
