پژوهشگر سابق گوگل دیپ‌مایند: هوش مصنوعی می‌تواند همه انسان‌ها را از بین ببرد
سه‌شنبه، 24 شهریور
یک پژوهشگر سابق Google DeepMind با هشدار درباره مسیر فعلی توسعه هوش مصنوعی اعلام کرده است که این فناوری در صورت ادامه روند کنونی می‌تواند تهدیدی جدی برای بقای انسان ایجاد کند. بلال چغتایی (Bilal Chughtai) که در زمینه ایمنی و هم‌راستاسازی هوش مصنوعی عمومی فعالیت می‌کرد، پس از ترک دیپ‌مایند در ماه ژوئیه، نگرانی‌های خود درباره آینده این فناوری را به‌صورت عمومی مطرح کرده است.
این اظهارات در شرایطی مطرح شده که نگرانی درباره سرعت توسعه مدل‌های پیشرفته هوش مصنوعی به‌طور محسوسی افزایش یافته و تعدادی از پژوهشگران و مدیران ارشد شرکت‌های بزرگ فناوری خواستار ایجاد هماهنگی بیشتر و حتی کاهش سرعت توسعه این فناوری شده‌اند.
پژوهشگر سابق DeepMind نسبت به آینده هوش مصنوعی هشدار داد
چغتایی که پیش‌تر به‌عنوان مهندس پژوهشی در Google DeepMind فعالیت می‌کرد، اعلام کرده است که در این شرکت روی ایمنی و هم‌راستاسازی هوش مصنوعی عمومی (AGI) کار کرده است. او در اظهارات اخیر خود گفت که از نزدیک شاهد روند توسعه این فناوری بوده و نسبت به مسیر فعلی آن «بسیار نگران» است.
او معتقد است هوش مصنوعی ظرفیت ایجاد خطری بسیار بزرگ برای انسان‌ها را دارد و ممکن است زمان کافی برای جلوگیری از یک نتیجه فاجعه‌بار باقی نمانده باشد. چغتایی همچنین تأکید کرده که توسعه ایمن هوش مصنوعی غیرممکن نیست، اما برای رسیدن به آن باید شرکت‌های فعال در این حوزه از رقابت کنترل‌نشده فاصله بگیرند و برای مدیریت ریسک‌ها با یکدیگر همکاری کنند.
هشدار چغتایی تنها مورد اخیر نیست
اظهارات پژوهشگر سابق DeepMind در ادامه مجموعه‌ای از هشدارهای مشابه از سوی متخصصان صنعت هوش مصنوعی مطرح شده است.
هفته گذشته، جیکوب کاکسون، پژوهشگر Anthropic، نیز اعلام کرد که از سمت خود کناره‌گیری کرده است. او نگرانی خود را از این موضوع مطرح کرد که حتی افرادی که در حال ساخت سیستم‌های پیشرفته هوش مصنوعی هستند، احتمال می‌دهند این فناوری در پایان دهه جاری بتواند تهدیدی برای بقای انسان ایجاد کند.
پس از آن، ایوان هوبینگر، دانشمند Anthropic، نیز در واکنش به این اظهارات گفت که احتمال وقوع یک فاجعه ناشی از هوش مصنوعی در دهه آینده از نظر او بیش از ۱۰ درصد است.
این هشدارها نشان می‌دهد بحث درباره خطرات هوش مصنوعی دیگر تنها به پژوهشگران دانشگاهی یا گروه‌های کوچک فعال در حوزه ایمنی محدود نیست و اکنون به یکی از موضوعات جدی در میان کارکنان آزمایشگاه‌های پیشرو هوش مصنوعی تبدیل شده است.
مدیرعامل Anthropic خواستار کاهش سرعت توسعه AI شد
هم‌زمان با افزایش این نگرانی‌ها، داریو آمودی، مدیرعامل Anthropic، نیز خواستار کاهش سرعت توسعه قابلیت‌های پیشرفته هوش مصنوعی شده است.
آمودی معتقد است سرعت پیشرفت توانایی‌های مدل‌های هوش مصنوعی ممکن است از سرعت توسعه روش‌های ایمنی و کنترل این سیستم‌ها بیشتر شود. او تأکید کرده است که هدف نباید توقف پیشرفت فناوری باشد، بلکه باید سرعت توسعه به اندازه‌ای تنظیم شود که جامعه و فناوری‌های ایمنی فرصت کافی برای هماهنگ شدن با قابلیت‌های جدید را داشته باشند.
این موضع با واکنش کم‌سابقه‌ای از سوی رقبای Anthropic همراه شده است. سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک نیز از نگرانی‌های مطرح‌شده درباره سرعت توسعه هوش مصنوعی حمایت کرده‌اند. چنین همگرایی‌ای میان مدیران شرکت‌هایی که در رقابت شدیدی برای توسعه مدل‌های پیشرفته قرار دارند، توجه زیادی را به خود جلب کرده است.
رقابت شرکت‌های هوش مصنوعی، مانع اصلی کاهش سرعت است
یکی از مهم‌ترین چالش‌ها برای کاهش سرعت توسعه هوش مصنوعی، رقابت شدید میان شرکت‌های فناوری است. شرکت‌هایی مانند OpenAI، Anthropic، Google و سایر آزمایشگاه‌های بزرگ میلیاردها دلار برای توسعه مدل‌های قدرتمندتر سرمایه‌گذاری کرده‌اند و کاهش سرعت می‌تواند از نظر تجاری و راهبردی برای آنها پرهزینه باشد.
از سوی دیگر، رقابت میان آمریکا و چین در حوزه هوش مصنوعی نیز به یکی از دلایل مخالفت با ایجاد محدودیت‌های گسترده تبدیل شده است. برخی سیاستمداران آمریکایی هشدار داده‌اند که کاهش سرعت توسعه AI می‌تواند موقعیت ایالات متحده را در رقابت فناوری با چین تضعیف کند.
به همین دلیل، بحث درباره ایمنی هوش مصنوعی اکنون تنها یک موضوع فنی نیست و ابعاد اقتصادی، سیاسی و امنیت ملی نیز پیدا کرده است.
ترامپ هشدارهای صنعت AI را رد کرد
در حالی که تعدادی از پژوهشگران و مدیران صنعت خواستار اقدامات ایمنی بیشتر شده‌اند، دونالد ترامپ نسبت به این نگرانی‌ها موضع متفاوتی گرفته است.
ترامپ درخواست‌های مطرح‌شده برای ایجاد مقررات جدید در صنعت هوش مصنوعی را رد کرده و آنها را «حقه» توصیف کرده است. این موضع نشان‌دهنده اختلاف جدی میان گروه‌های مختلف درباره نحوه مدیریت توسعه سریع فناوری هوش مصنوعی است.
در مقابل، برخی سیاستمداران و مدیران فناوری بر این باورند که می‌توان بدون متوقف کردن نوآوری، استانداردهای مشخصی برای ارزیابی و کنترل ریسک مدل‌های پیشرفته ایجاد کرد.
نگرانی درباره هوش مصنوعی وارد مرحله تازه‌ای شده است
هشدار بلال چغتایی در شرایطی مطرح شده که نگرانی درباره توانایی سیستم‌های هوش مصنوعی برای خودبهبودی، اجرای مستقل وظایف و فعالیت خارج از کنترل مستقیم انسان در حال افزایش است.
با افزایش قابلیت عامل‌های هوش مصنوعی، برخی پژوهشگران نگران هستند که سیستم‌های آینده بتوانند بخش‌های بیشتری از فرایندهای پیچیده را بدون دخالت انسان انجام دهند. همین موضوع باعث شده مسئله هم‌راستاسازی و اطمینان از کنترل‌پذیری مدل‌ها به یکی از مهم‌ترین حوزه‌های تحقیقاتی صنعت تبدیل شود.
در نهایت، هشدار پژوهشگر سابق DeepMind به معنای پیش‌بینی قطعی نابودی بشر توسط هوش مصنوعی نیست، بلکه بخشی از یک بحث گسترده درباره ریسک‌های بالقوه سیستم‌های بسیار پیشرفته است. با این حال، افزایش تعداد متخصصانی که از داخل آزمایشگاه‌های بزرگ AI نسبت به مسیر فعلی توسعه این فناوری هشدار می‌دهند، نشان می‌دهد مسئله ایمنی و کنترل هوش مصنوعی احتمالاً در ماه‌ها و سال‌های آینده اهمیت بیشتری پیدا خواهد کرد.
