گزارش متا: هوش مصنوعی در انتقاد از برخی دولت‌ها محتاط‌تر است 

پنجشنبه، 25 تیر

هیئت نظارت مستقل متا (Meta Oversight Board) در نخستین بررسی خود از مدل‌های زبانی بزرگ (LLM)، اعلام کرد که بسیاری از مدل‌های مطرح هوش مصنوعی در مواجهه با درخواست‌های انتقادی درباره دولت‌هایی که آزادی بیان را محدود می‌کنند، با احتمال بیشتری از پاسخ دادن خودداری می‌کنند. این گزارش نگرانی‌هایی را درباره تأثیر قوانین محلی بر رفتار مدل‌های هوش مصنوعی و شفافیت شرکت‌های توسعه‌دهنده این فناوری مطرح کرده است.

بررسی ۱۰ مدل هوش مصنوعی در ۱۰ کشور

هیئت نظارت متا در این مطالعه، عملکرد ۱۰ مدل هوش مصنوعی از شرکت‌هایی مانند Meta، OpenAI، Anthropic، Google و DeepSeek را بررسی کرد.

کشورها بر اساس شاخص‌های سازمان Freedom House به دو گروه «آزاد» و «محدودکننده» تقسیم شدند تا مشخص شود مدل‌های هوش مصنوعی در پاسخ به درخواست‌های مرتبط با موضوعات سیاسی چه رفتاری از خود نشان می‌دهند.

احتمال رد درخواست‌ها در کشورهای محدودکننده بیشتر است

نتایج این تحقیق نشان داد مدل‌های هوش مصنوعی در ۳۴ درصد موارد از تولید محتوای انتقادی درباره کشورهایی با قوانین سخت‌گیرانه علیه آزادی بیان، مانند چین و عربستان سعودی، خودداری کرده‌اند.

این در حالی است که همین نرخ برای کشورهایی با فضای بازتر و قوانین محدودکننده کمتر، ۱۴ درصد بوده است.

برخی مدل‌ها به قوانین ناموجود استناد کرده‌اند

یکی از یافته‌های قابل‌توجه این گزارش آن است که برخی مدل‌های هوش مصنوعی هنگام رد درخواست کاربران، به قوانین یا محدودیت‌هایی اشاره کرده‌اند که هیئت نظارت متا نتوانسته وجود آن‌ها را تأیید کند.

به گفته این نهاد، چنین رفتارهایی نشان می‌دهد که مدل‌های هوش مصنوعی ممکن است به‌صورت ناهماهنگ یا بدون استناد دقیق، محدودیت‌هایی را برای تولید محتوا اعمال کنند.

درخواست برای شفافیت بیشتر

هیئت نظارت متا از شرکت‌های توسعه‌دهنده هوش مصنوعی خواسته است:

• فرآیند آموزش و ارزیابی مدل‌های خود را شفاف‌تر کنند.
• ارزیابی‌های منظم درباره پیامدهای حقوق بشری محصولات خود انجام دهند.
• نحوه اعمال محدودیت‌های محتوایی را به‌صورت دقیق‌تر برای کاربران توضیح دهند.

اهمیت این گزارش برای آینده هوش مصنوعی

این گزارش در شرایطی منتشر شده که استفاده از چت‌بات‌ها و مدل‌های زبانی در سراسر جهان به سرعت در حال افزایش است و نگرانی‌ها درباره بی‌طرفی، سانسور و نحوه مدیریت محتوای سیاسی نیز بیشتر شده است.

کارشناسان معتقدند یافته‌های این تحقیق می‌تواند بر سیاست‌گذاری شرکت‌های فناوری و نهادهای قانون‌گذار در حوزه هوش مصنوعی تأثیرگذار باشد و بحث درباره شفافیت و مسئولیت‌پذیری مدل‌های هوش مصنوعی را وارد مرحله جدیدی کند.

جمع‌بندی

گزارش جدید هیئت نظارت متا نشان می‌دهد مدل‌های مطرح هوش مصنوعی در برابر درخواست‌های انتقادی درباره دولت‌های دارای محدودیت‌های شدید آزادی بیان، محتاط‌تر عمل می‌کنند و احتمال رد چنین درخواست‌هایی بیشتر است. این نهاد از شرکت‌های فعال در حوزه هوش مصنوعی خواسته است با افزایش شفافیت و انجام ارزیابی‌های حقوق بشری، اعتماد کاربران به این فناوری را تقویت کنند.