در اواخر آگوست، داریو آمودی در کاخ سفید اعلام کرد که شرکت Anthropic دسترسی سطح کارکنان را برای شش پژوهشگر سازمان METR فراهم کرده است. هدف از این تصمیم، ارزیابی مستقل مدلها، رویه‌های ایمنی و مدیریت ریسک این شرکت است تا شکاف میان ادعاهای داخلی شرکت‌های فناوری و درک ارزیابان بیرونی از سیستم‌های پیشرفته هوش مصنوعی پر شود.
انتشار گزارش‌های هفتگی در اواخر آگوست، فشارها برای ایجاد نظارت‌های مستقل را شدت بخشید. این گزارشها با اشاره به رفتارهای پیش‌بینی‌نشده عامل‌های هوش مصنوعی، نیاز مبرم به حضور ناظران بیرونی را برجسته کردند. سازمان غیرانتفاعی METR که در زمینه تست مدلهای پیشرفته هوش مصنوعی فعالیت میکند، در این همکاری بهعنوان ارزیاب سطح اول، دسترسیهای داخلی Anthropic را برای بررسی دقیق ایمنی و ریسکها دریافت کرده است.
پاسخ به پرسش‌های رایج
سازمان METR چه نقشی در این همکاری دارد؟
آیا پژوهشگران METR به تمام دادههای Anthropic دسترسی دارند؟
خیر؛ دسترسی به اطلاعات مشتریان، جزئیات معماری مدلها و موارد محرمانه حقوقی محدود است، اما آنها اجازه دارند درباره علت این محدودیتها بهطور عمومی صحبت کنند.
سیستم سهلایه نظارتی Anthropic چگونه کار میکند؟
لایه پایین (مانند SecureBio) بررسیهای محدودی انجام می‌دهد که وابسته به تایید شرکت است. لایه میانی دسترسی بیشتری داشته و گزارش‌های خود را مستقل منتشر میکند. لایه برتر (METR) نیز برای نظارت عمیقتر، از دسترسی سطح کارکنان بهره می‌برد.
