آمریکا چارچوب جدید آزمایش ایمنی هوش مصنوعی را نهایی کرد 

سه‌شنبه، 13 مرداد

دولت آمریکا اعلام کرده است جزئیات برنامه جدید آزمایش‌های داوطلبانه ایمنی و امنیت سایبری هوش مصنوعی را نهایی کرده و قصد دارد آن را با بزرگ‌ترین شرکت‌های فعال در این حوزه به اشتراک بگذارد. این اقدام پس از افزایش نگرانی‌ها درباره توانایی مدل‌های پیشرفته هوش مصنوعی در انجام حملات سایبری و نفوذ به سامانه‌های دیجیتال صورت گرفته است. رب سایبری و ارزیابی میزان ریسک آن‌ها پیش از عرضه عمومی است. کاخ سفید می‌روند

بر اساس گزارش‌ها، شرکت‌های OpenAI، Google، Meta و Anthropic برای شرکت در نشست‌های ویژه با مقام‌های دولت آمریکا دعوت شده‌اند. در این جلسات قرار است نحوه اجرای آزمایش‌های جدید، معیارهای ارزیابی و فرآیند گزارش‌دهی بررسی شود.

با این حال، دولت آمریکا هنوز جزئیات کامل این چارچوب را منتشر نکرده و مشخص نیست نتایج این آزمایش‌ها تا چه اندازه در اختیار عموم قرار خواهد گرفت. برخی گزارش‌ها حاکی از آن است که بخشی از اطلاعات مربوط به ارزیابی قابلیت‌های سایبری مدل‌های هوش مصنوعی محرمانه باقی خواهد ماند. شرکت‌های فناوری را دنبال می‌کند. هدف این برنامه ایجاد استانداردهای مشترک ایمنی بدون کند کردن روند نوآوری در صنعت هوش مصنوعی عنوان شده است. 

با این حال، برخی کارشناسان معتقدند اگر آزمایش‌های داوطلبانه نتوانند خطرات احتمالی را کنترل کنند، دولت آمریکا در آینده ناچار به اعمال مقررات سختگیرانه‌تر خواهد شد. مصنوعی شده است. اگرچه برنامه فعلی الزام قانونی ندارد، اما می‌تواند بر نحوه توسعه و عرضه مدل‌های جدید توسط شرکت‌های بزرگ فناوری تأثیر بگذارد. سرمایه‌گذاران نیز این تحولات را با دقت دنبال می‌کنند، زیرا هرگونه تغییر در مقررات یا الزامات ایمنی می‌تواند بر هزینه‌های توسعه مدل‌های هوش مصنوعی و سرعت عرضه آن‌ها اثرگذار باشد.