متا در آزمایش دستیار هوش مصنوعی Muse از نیروی انسانی برای تماس‌ها استفاده کرد
چهارشنبه، 1 مهر
شرکت متا در حال آزمایش قابلیتی برای دستیار هوش مصنوعی شخصی جدید خود، Muse، بوده که در آن برخی تماس‌های تلفنی این دستیار به‌جای هوش مصنوعی توسط نیروهای انسانی پیمانکار انجام می‌شده است. این آزمایش اندکی پس از عرضه عمومی قابلیت تماس تلفنی Muse انجام شد و طبق گزارش رویترز، نگرانی‌هایی درباره حریم خصوصی اطلاعات کاربران در میان برخی کارکنان متا ایجاد کرده است.
Muse به‌عنوان یک عامل هوش مصنوعی طراحی شده که می‌تواند به نمایندگی از کاربر اقداماتی مانند ارسال ایمیل، خرید کالا، رزرو سفر و انجام برخی امور روزمره را انجام دهد. متا در زمان معرفی این محصول تأکید کرده بود که Muse می‌تواند به‌صورت مستقل وظایف مختلف را دنبال کند و حتی پس از بسته‌شدن برنامه، کارهای طولانی‌تر را ادامه دهد.
انسان‌ها در پشت برخی تماس‌های Muse
قابلیت تماس تلفنی Muse به کاربران اجازه می‌دهد از دستیار بخواهند با کسب‌وکارهای آمریکایی تماس بگیرد و کارهایی مانند رزرو وقت آرایشگاه، بررسی موجودی کالا یا دریافت قیمت خدمات پیمانکاران را انجام دهد.
اما در آزمایش داخلی متا، بخشی از این تماس‌ها توسط پیمانکاران انسانی انجام می‌شد. طبق پست‌های داخلی شرکت که رویترز مشاهده کرده، Muse می‌توانست درخواست تماس را به یک نیروی آموزش‌دیده منتقل کند تا او تماس را برقرار کرده و موضوع را پیگیری کند.
این موضوع نشان می‌دهد قابلیت تماس خودکار Muse در مرحله آزمایشی هنوز در برخی موقعیت‌ها به دخالت انسان متکی بوده است.
نگرانی کارکنان درباره حریم خصوصی
برخی کارکنان متا نسبت به این روش ابراز نگرانی کرده‌اند. نگرانی اصلی این بوده که در جریان تماس‌هایی که اطلاعات شخصی یا حساس کاربر مطرح می‌شود، بخشی از این اطلاعات به پیمانکاران مراکز تماس منتقل شود.
در یکی از نمونه‌های مطرح‌شده در گزارش رویترز، کاربری از Muse خواسته بود با شرکت ارائه‌دهنده اینترنت و تلویزیون کابلی تماس بگیرد تا درباره هزینه خدمات مذاکره کند. پس از تماس، در متن پیاده‌سازی‌شده مکالمه مشخص شد که نیروی انسانی طرف تماس اظهارنظری نژادپرستانه داشته است.
یکی از کارکنان نیز در یک پست داخلی نسبت به احتمال افشای ناخواسته اطلاعات حساس هشدار داده بود.
متا قابلیت را فعلاً متوقف کرده است
یکی از معاونان بخش Superintelligence Labs متا در پاسخ به نگرانی‌های مطرح‌شده، پذیرفت که آغاز آزمایش تماس‌های پیمانکاران بدون اطلاع‌رسانی مناسب، یک نقص در روند اجرای قابلیت بوده است.
طبق گزارش رویترز، متا در ادامه این قابلیت را فعلاً بازگردانده یا متوقف کرده است تا آزمایش‌ها و اقدامات مربوط به ایمنی و حریم خصوصی بیشتر بررسی شود.
سخنگوی متا، دنیل رابرتس، گفت بازخورد کارکنان درباره این آزمایش عمدتاً مثبت بوده و هدف آزمایش، دریافت بازخورد برای بهبود قابلیت‌ها و ایجاد سازوکارهای مناسب ایمنی و حریم خصوصی پیش از عرضه عمومی است. او همچنین گفت متا در حال همکاری با کسب‌وکارها برای بهبود قابلیت تماس است و این ویژگی تنها زمانی عرضه خواهد شد که آماده باشد و اطلاع‌رسانی مناسب درباره آن انجام شود.
چرا متا به نیروی انسانی متکی شده است؟
یکی از دلایل آزمایش این روش، محدودیت فعلی سیستم‌های هوش مصنوعی در انجام برخی تماس‌های واقعی با کسب‌وکارهاست. در چنین تماس‌هایی ممکن است پاسخ طرف مقابل غیرقابل پیش‌بینی باشد، اطلاعات بیشتری درخواست شود یا مذاکره به شکل پیچیده‌تری پیش برود.
طبق اطلاعات منتشرشده در یکی از پست‌های داخلی متا، استفاده از نیروهای انسانی در برخی آزمایش‌ها می‌توانسته نرخ موفقیت تماس‌ها را به حدود ۹۵ تا ۹۸ درصد برساند؛ در حالی که نرخ موفقیت تماس‌های کاملاً هوش مصنوعی پایین‌تر بوده است. این اعداد مربوط به آزمایش داخلی متا هستند و به عملکرد عمومی و نهایی Muse تعمیم داده نشده‌اند.
این مسئله نمونه‌ای از چالشی است که شرکت‌های فناوری در مسیر توسعه عامل‌های هوش مصنوعی مستقل با آن مواجه‌اند: سیستم باید بتواند نه‌تنها اطلاعات تولید کند، بلکه در تعامل با انسان‌ها و سرویس‌های واقعی نیز وظایف را بدون خطا انجام دهد.
Muse در حال گسترش قابلیت‌های خود است
متا Muse را در سپتامبر ۲۰۲۶ به‌عنوان یک دستیار هوش مصنوعی شخصی معرفی کرد. این سیستم می‌تواند از طریق اپلیکیشن Muse یا واتساپ با کاربر تعامل داشته باشد و وظایفی مانند ارسال ایمیل، رزرو سفر، جست‌وجوی کالا، تکمیل فرم‌های اینترنتی و خرید را انجام دهد.
متا همچنین Muse را روی یک محیط محاسباتی اختصاصی به نام Muse Secure VM اجرا می‌کند و اعلام کرده است که این محیط برای جداسازی داده‌ها و فعالیت‌های هر کاربر طراحی شده است. شرکت می‌گوید Muse برای اقدامات حساس مانند ارسال ایمیل یا خرید، تأیید کاربر را دریافت می‌کند.
با این حال، آزمایش نیروی انسانی برای تماس‌های تلفنی نشان می‌دهد توسعه یک عامل هوش مصنوعی که بتواند به‌صورت مستقل با دنیای واقعی تعامل کند، همچنان با چالش‌های فنی و حریم خصوصی همراه است.
متا در مسیر عامل‌های هوش مصنوعی با یک چالش مهم روبه‌رو است
آزمایش Muse نشان می‌دهد فاصله میان یک دستیار هوش مصنوعی که صرفاً پاسخ می‌دهد و یک عامل هوش مصنوعی که واقعاً به نمایندگی از کاربر اقدام می‌کند، همچنان قابل توجه است.
در مدل دوم، سیستم باید به اطلاعات شخصی دسترسی داشته باشد، با سرویس‌های مختلف ارتباط برقرار کند و در موقعیت‌های پیش‌بینی‌نشده تصمیم بگیرد. به همین دلیل، موضوعاتی مانند اطلاع‌رسانی درباره دخالت انسان، حفاظت از داده‌ها و تعیین دقیق سطح دسترسی اهمیت بیشتری پیدا می‌کنند.
متا فعلاً قابلیت استفاده از پیمانکاران انسانی برای تماس‌های Muse را متوقف کرده و اعلام کرده است که در حال بررسی و بهبود سازوکارهای ایمنی و حریم خصوصی این ویژگی است. بنابراین، باید دید نسخه نهایی قابلیت تماس Muse تا چه اندازه می‌تواند بدون دخالت انسان وظایف خود را انجام دهد.
