شرکت Anthropic روز پنجشنبه قوانین استفاده از مدل‌های هوش مصنوعی‌اش را بازنگری کرد تا جلوی سوءاستفاده‌های سازمان‌یافته و دخالت در انتخابات را بگیرد. این تغییرات نشان می‌دهد غول‌های تکنولوژی حالا به‌جای تمرکز صرف بر قدرت فنی، به دنبال ایجاد چارچوب‌های اخلاقی سخت‌گیرانه‌تری هستند تا اثرات مخرب ابزارهای دیجیتال روی ثبات جوامع به حداقل برسد.
مداخلات انتخاباتی و فرآیندهای دموکراتیک
طبق قوانین جدید، هرگونه تلاشی برای تضعیف دموکراسی ممنوع است. عبارت «فرآیندهای دموکراتیک را تضعیف نکنید» محور اصلی این تغییرات است تا از ساخت حسابهای جعلی یا خبرگزاری‌های ساختگی برای فریب دادن رای‌دهندگان جلوگیری شود.
ابزارهای نظارتی و توسعه نرمافزارهای تسلیحاتی هم به لیست ممنوعیت‌ها اضافه شدند. هدف این است که مدل‌های زبانی به ابزارهای جاسوسی یا نظامی تبدیل نشوند. این اتفاقات در حالی می‌افتد که رقابت بین غول‌های فناوری برای ساخت مدل‌های پیشرفته‌تر شدیدتر شده است؛ مثلاً هوش مصنوعی گوگل Gemini برای افزایش قابلیت‌های اجرایی‌اش، وارد عصر عامل‌ها شد.
پژوهشگران مذهبی و توهین به مدل
یک تغییر غیرمنتظره در این سیاستها، ممنوعیت توهین‌های طولانی‌مدت به خودِ مدل هوش مصنوعی است. Claude از ماه اوت طوری آموزش دیده بود که گفتگوهای آسیب‌زا را قطع کند، اما حالا کاربرانی که سعی کنند این گفتگوها را ادامه دهند، منع خواهند شد.
این قانون فقط در موارد شدید اعمال میشود؛ یعنی زمانی که کاربر بدون هیچ هدف مشخصی، به‌طور مکرر با مدل‌ها برخورد بی‌رحمانه‌ای داشته باشد.
البته نقدها، نارضایتیهای عادی یا حتی استفاده از مضامین تاریک در آثار خلاقانه مشمول این قانون نمی‌شود. ممنوعیت فقط شامل رفتارهایی است که خارج از محدوده نقد فنی یا خلاقیت باشد.
این تصمیم‌ها نتیجه رایزنی با پژوهشگران برجسته مذهبی است. در برخی از این جلسات، حتی درباره احتمال داشتن آگاهی یا روح برای مدل Claude بحث شد تا ابعادی اخلاقی‌تر برای تعامل انسان و ماشین تعریف شود.
اقدام Anthropic نشان می‌دهد مرز بین یک ابزار دیجیتال ساده و موجوداتی با ویژگی‌های آگاهی در حال کمرنگ شدن است. همچنین تأکید بر عدم تضعیف انتخابات در سال‌های حساس سیاسی، اهمیت نظارت بر مدل‌های AI را برای جلوگیری از هرج‌ومرج اطلاعاتی دوچندان می‌کند.
پاسخ به پرسش‌های رایج
چه مواردی در سیاستهای جدید Anthropic ممنوع شده است؟
مداخلات انتخاباتی، ساخت حسابهای جعلی و توسعه ابزارهای نظارتی و تسلیحاتی ممنوع شدند.
آیا نقد مدل Claude منجر به مسدود شدن حساب کاربر میشود؟
خیر، نقدها و نارضایتیهای معمول مشمول ممنوعیت نیست و فقط رفتارهای بیرحمانه و مکرر بدون هدف مشخص هدف قرار میگیرند.
نقش پژوهشگران مذهبی در این تغییرات چه بود؟
Anthropic پیش از بهروزرسانی سیاستها با پژوهشگران برجسته مذهبی رایزنی کرد و در این جلسات، موضوع احتمال داشتن آگاهی یا روح مدل مورد بحث قرار گرفت.
