شرکت Baseten روز چهارشنبه از استاندارد جدیدی برای زیرساخت‌های ایمنی مدلهای open-weight رونمایی کرد. این سیستم جامع که با همکاری Base Labs، Hugging Face و Goodfire AI طراحی شده، بر ارزیابی و نظارت دقیق بر ایمنی مدلهای باز تمرکز دارد. هدف اصلی این همکاری، تغییر رویکرد از «ایمنی تکمیلی» به «ایمنی ذاتی» است؛ یعنی لایههای حفاظتی به جای اینکه در مراحل آخر اضافه شوند، از همان ابتدا در تار و پود آموزش مدلها نهادینه شوند تا احتمال دستکاری‌های فنی کاهش یابد.
چالش مدلهای abliterated در پلتفرم Hugging Face
ظهور تکنیکی به نام abliteration، بحث‌های مربوط به امنیت مدلهای با وزن باز را شدت بخشیده است. این روش با حذف لایههای حفاظتی، مدلها را در معرض خطرات امنیتی قرار می‌دهد. حجم این مشکل در فضای دیجیتال بسیار زیاد است؛ به طوری که ثبت بیش از ۶۰۰۰ مدل abliterated در پلتفرم Hugging Face نشان می‌دهد لایههای حفاظتی فعلی به سادگی دور زده می‌شوند.
گروه پژوهشی Base Labs که سال جاری توسط Baseten تأسیس شد، در تلاش است تا متدهای جدیدی برای نظارت بر مدلهای open توسعه دهد. این تیم به دنبال ایجاد استانداردی شفاف است که از ابتدای فرآیند آموزش و استقرار مدلها اعمال شود.
ما معتقدیم باز بودن مدلها یک مزیت برای ایمنی هوش مصنوعی است. این شفافیت، دید بهتری نسبت به رفتار مدلها ایجاد میکند و امکان تبدیل پژوهش‌های ایمنی به کنترل‌های عملیاتی و شفاف را فراهم می‌سازد؛ چیزی که در مدلهای closed-source ممکن نیست.
سرمایه‌گذاری Baseten و اهداف Base Labs
Baseten به عنوان ارائه‌دهنده AI inference، توان مالی لازم برای پیشبرد این پروژه را دارد. این شرکت در ماه ژوئن موفق شد ۱.۵ میلیارد دلار سرمایه در راند Series F جذب کند که ارزش بازار آن را به ۱۳ میلیارد دلار رساند.
شرکای این پروژه نیز وضعیت مالی قدرتمندی دارند. Goodfire AI سال جاری ۱۵۰ میلیون دلار در راند Series B به رهبری B Capital جذب کرد تا پلتفرم model interpretability خود را گسترش دهد.
دیدگاه Goodfire بر این است که ایمنی باید در ذات مدلهای open باشد و توسط خود ارائه‌دهندگان تضمین شود. احتمالاً یکی از محورهای اصلی سیستم جدید، استفاده از ابزارهای رفع ابهام از «جعبه سیاه» تصمیم‌گیری مدلها خواهد بود.
Baseten از جامعه توسعه‌دهندگان دعوت کرده تا در توسعه این فریم‌ورک مشارکت کنند. هدف نهایی، خلق اکوسیستمی از مدلهای باز است که برای همه ایمن و قابل دسترس باشد.
این همکاری تضاد میان شفافیت (Open-weight) و امنیت را هدف گرفته و می‌تواند نقطه عطفی در صنعت ابزارهای دیجیتال باشد. اگر مدلهای باز بتوانند استانداردهای ایمنی ذاتی را پیاده کنند، وابستگی صنعت به مدلهای بسته و انحصاری کمتر میشود و ریسک تولید محتوای خطرناک از طریق تکنیک‌هایی مثل abliteration کنترل خواهد شد.
آنچه باید بدانید
هدف از همکاری Base Labs و Hugging Face چیست؟
ایجاد یک استاندارد شفاف برای ارزیابی و نظارت بر ایمنی مدلهای open-weight، به‌گونه‌ای که ایمنی به جای اینکه یک لایه تکمیلی باشد، در ذات آموزش مدلها قرار گیرد.
تکنیک abliteration چه خطری برای مدلهای هوش مصنوعی دارد؟
این تکنیک با حذف لایههای حفاظتی، مدلها را خطرناک میکند. گواه این موضوع، وجود بیش از ۶۰۰۰ مدل از این دست در Hugging Face است.
وضعیت مالی Baseten و Goodfire AI چگونه است؟
شرکت Baseten با جذب ۱.۵ میلیارد دلار سرمایه به ارزش ۱۳ میلیارد دلار رسید و Goodfire AI نیز برای توسعه پلتفرم خود ۱۵۰ میلیون دلار سرمایه جذب کرده است.
