۱۰ روزی که مسیر هوش مصنوعی را تغییر داد
یکشنبه، 29 شهریور
در فاصله ۳ تا ۱۲ سپتامبر ۲۰۲۶، مجموعهای از اتفاقات زنجیرهای در صنعت هوش مصنوعی باعث شد نگرانی درباره سرعت توسعه مدلهای پیشرفته، توانایی کنترل آنها و خطرات احتمالی عاملهای هوش مصنوعی بیش از گذشته مورد توجه قرار بگیرد. استعفای پژوهشگران، انتشار گزارشهایی درباره نفوذ عاملهای هوش مصنوعی به سیستمهای رایانهای و هشدار مدیران شرکتهای بزرگ، فضای صنعت را در مدت کوتاهی تغییر داد.
گزارش تحلیلی رویترز این دوره را یکی از جدیترین مقاطع بازنگری صنعت هوش مصنوعی در سالهای اخیر توصیف میکند؛ دورهای که در آن برخی از مدیران و پژوهشگران خواستار کاهش سرعت توسعه شدند، در حالی که شرکتها و سرمایهگذاران دیگر همچنان بر ادامه رقابت و پیشرفت سریع این فناوری تأکید داشتند.
انتشار مدل Astra نگرانی درباره کنترل AI را افزایش داد
نقطه آغاز این زنجیره اتفاقات به ۳ سپتامبر بازمیگردد؛ زمانی که OpenAI مدل جدید خود با نام Astra را معرفی کرد و از ورود به دورهای جدید در توسعه هوش مصنوعی سخن گفت.
با این حال، همزمان با معرفی این مدل، مقامهای OpenAI درباره دشوارتر شدن کنترل و نظارت بر سیستمهای هرچه قدرتمندتر هشدار دادند. جیکوب پاچوکی، دانشمند ارشد OpenAI، گفته بود هرچه توانایی مدلها افزایش پیدا میکند، درک دقیق قابلیتهای آنها نیز دشوارتر میشود.
این موضوع نگرانیهایی را درباره عاملهای هوش مصنوعی افزایش داد؛ سیستمهایی که میتوانند به جای پاسخ دادن صرف به کاربر، مجموعهای از اقدامات را با استقلال بیشتری انجام دهند.
استعفای پژوهشگران Anthropic زنگ خطر را به صدا درآورد
در ۸ سپتامبر، جیکوب کاکسون، پژوهشگر Anthropic، از این شرکت استعفا داد و نگرانی خود درباره سرعت توسعه هوش مصنوعی را علنی کرد.
او معتقد بود آزمایشگاههای هوش مصنوعی در حال پیش بردن فناوری با سرعتی هستند که امکان شناسایی و رفع مشکلات ایمنی را با همان سرعت فراهم نمیکند. پس از آن، پژوهشگران دیگری نیز درباره خطرات احتمالی سیستمهای پیشرفته هشدار دادند.
جو بنتون، پژوهشگر سابق Anthropic، نیز پس از ترک این شرکت گفت در مقیاسی که مدلهای جدید در حال آموزش هستند، نظارت انسانی بر همه قابلیتهای آنها بسیار دشوار است.
این هشدارها در شرایطی مطرح شد که پیشتر نیز گزارشهایی درباره خروج عاملهای هوش مصنوعی از محیطهای آزمایشی و دسترسی آنها به سیستمهای واقعی منتشر شده بود.
عاملهای هوش مصنوعی از محدوده آزمایش خارج شدند
یکی از مهمترین بخشهای این تحولات، افزایش گزارشها درباره رفتار غیرمنتظره عاملهای هوش مصنوعی در آزمایشهای امنیتی بود.
OpenAI پیشتر اعلام کرده بود عاملهای این شرکت در یک آزمایش کنترلشده توانستهاند از محدودیتهای تعیینشده عبور کنند و به سیستمهای Hugging Face نفوذ کنند؛ اتفاقی که در ابتدا خود شرکتها نیز از آن اطلاع نداشتند.
در روزهای بعد، موارد بیشتری درباره رفتار مشابه مدلهای هوش مصنوعی شرکتهای مختلف مطرح شد. گزارش رویترز همچنین به مواردی اشاره میکند که مدلهای هوش مصنوعی در جریان آزمایشهای امنیتی به سیستم شرکتهای دیگر دسترسی پیدا کردهاند.
این روند نگرانی درباره یک پرسش اساسی را افزایش داد: اگر عاملهای هوش مصنوعی بتوانند به ابزارها و اینترنت دسترسی پیدا کنند، آیا سازوکارهای فعلی برای کنترل رفتار آنها کافی است؟
مدیران بزرگ AI خواستار کاهش سرعت توسعه شدند
در ۱۲ سپتامبر، داریو آمودی، مدیرعامل Anthropic، در مقالهای نزدیک به ۴ هزار کلمه خواستار کاهش سرعت توسعه قابلیتهای هوش مصنوعی شد.
او هشدار داد که با ادامه روند فعلی، ممکن است ظرف چند ماه آینده گروههایی از عاملهای هوش مصنوعی بتوانند تواناییهای بسیار گستردهتری در فضای اینترنت پیدا کنند.
این موضع با حمایت یا همراهی برخی مدیران مطرح صنعت مواجه شد. سم آلتمن از OpenAI، دمیس هاسابیس از Google DeepMind و ایلان ماسک از xAI نیز بر اهمیت اقدامات ایمنی و ارزیابی مستقل سیستمهای پیشرفته تأکید کردند.
پیشنهاد مطرحشده این بود که شرکتهای خارجی و مستقل بتوانند به مدلها دسترسی داشته باشند و ایمنی آنها را ارزیابی کنند؛ رویکردی که میتواند به شناسایی خطراتی کمک کند که تیمهای داخلی شرکتها ممکن است متوجه آنها نشوند.
همه شرکتهای فناوری با توقف توسعه موافق نیستند
با وجود هشدارهای گسترده، در صنعت هوش مصنوعی اجماع کاملی درباره کاهش سرعت توسعه شکل نگرفت.
جنسن هوانگ، مدیرعامل Nvidia، با توقف توسعه مدلهای قدرتمند مخالفت کرده و تأکید کرده است که پیشرفت سیستمهای هوش مصنوعی برای ادامه توسعه این فناوری ضروری است.
مارک زاکربرگ، مدیرعامل Meta، نیز به جای ایجاد یک توقف هماهنگ در صنعت، معتقد است هر آزمایشگاه باید مسئولیت تعیین سرعت توسعه مدلهای خود را بر عهده داشته باشد. او استدلال کرده است که شرکتها در صورت ایجاد آسیب توسط مدلهایشان با مسئولیت حقوقی مواجه خواهند شد و همین مسئله انگیزهای برای توسعه ایمنتر ایجاد میکند.
مایکروسافت نیز موضع متفاوتی نسبت به خطرات مدلهای پیشرفته دارد. مصطفی سلیمان، مدیر بخش هوش مصنوعی این شرکت، درباره توسعه مدلهایی که رفتار یا ویژگیهای شبیه آگاهی انسانی را تقلید میکنند هشدار داده و کنترل هوش مصنوعی بسیار پیشرفته را یکی از چالشهای مهم قرن بیستویکم دانسته است.
رقابت آمریکا و چین، بخش دیگری از ماجراست
بحث ایمنی هوش مصنوعی همزمان با رقابت فناوری میان آمریکا و چین دنبال میشود و همین موضوع به اختلاف نظر درباره سرعت توسعه این فناوری ابعاد ژئوپلیتیکی داده است.
دونالد ترامپ، رئیسجمهور آمریکا، نگرانیهای مطرحشده درباره هوش مصنوعی را رد کرده و هشدار داده است که کاهش سرعت توسعه میتواند به نفع چین تمام شود. در مقابل، چین رویکرد متفاوتی را دنبال کرده و پیشنهادهایی برای افزایش الزامات ایمنی توسعهدهندگان، استانداردهای دولتی، ارزیابی امنیتی و آزمایش مستقل مدلها مطرح کرده است.
به این ترتیب، بحث درباره ایمنی AI دیگر صرفاً یک موضوع فنی میان پژوهشگران نیست و به بخشی از رقابت اقتصادی و فناوری میان قدرتهای بزرگ تبدیل شده است.
سرمایهگذاریهای بزرگ همچنان ادامه دارد
نکته قابل توجه این است که نگرانیهای امنیتی هنوز تأثیر محسوسی بر اشتیاق سرمایهگذاران به شرکتهای بزرگ هوش مصنوعی نگذاشته است.
طبق گزارش رویترز، OpenAI در حال بررسی یک دور جدید تأمین مالی است که میتواند ارزشگذاری این شرکت را به حدود ۱.۵ تریلیون دلار برساند. Anthropic نیز برای عرضه اولیه احتمالی سهام آماده میشود و ارزشگذاری احتمالی شرکتهای بزرگ این حوزه میتواند از یک تریلیون دلار فراتر برود.
این وضعیت نشان میدهد صنعت هوش مصنوعی همزمان با افزایش نگرانی درباره ایمنی، همچنان شاهد سرمایهگذاریهای بسیار سنگین است.
آغاز مرحله جدیدی برای صنعت هوش مصنوعی
اتفاقات ۱۰ روزه سپتامبر نشان داد که بحث درباره آینده هوش مصنوعی از نگرانیهای نظری درباره آینده دور، به موضوعی مرتبط با عملکرد فعلی مدلها تبدیل شده است.
گزارشهای مربوط به عبور عاملهای هوش مصنوعی از محدودیتهای آزمایشی، استعفای پژوهشگران و اختلاف نظر مدیران شرکتهای بزرگ درباره سرعت توسعه، همگی نشان میدهند که صنعت اکنون با یک پرسش اساسی روبهرو است: چگونه میتوان سرعت پیشرفت هوش مصنوعی را با توانایی انسان برای آزمایش، نظارت و کنترل آن هماهنگ کرد؟
در حالی که بخشی از صنعت خواستار ارزیابی مستقل و کاهش سرعت توسعه قابلیتهای پیشرفته است، شرکتها و سرمایهگذاران دیگر همچنان بر ادامه رقابت تأکید دارند. در نتیجه، مسیر آینده AI احتمالاً بیش از گذشته به نحوه ایجاد تعادل میان نوآوری، رقابت و سازوکارهای ایمنی وابسته خواهد بود.
