OpenAI از ChatGPT ویژه نوجوانان با محافظتهای بیشتر رونمایی کرد
OpenAI از ChatGPT ویژه نوجوانان با محافظتهای بیشتر رونمایی کرد
سهشنبه، 27 مرداد
شرکت OpenAI از نسخهای ویژه از ChatGPT برای نوجوانان ۱۳ تا ۱۷ ساله رونمایی کرده است. این نسخه با هدف ایجاد محیطی امنتر برای کاربران کمسنوسال، به محدودیتهای بیشتر برای محتوای حساس، کنترلهای والدین و ابزارهای آموزشی مجهز شده است.
این اقدام در حالی انجام میشود که نگرانیها درباره تأثیر چتباتهای هوش مصنوعی بر سلامت روان نوجوانان و همچنین استفاده گسترده دانشآموزان از این فناوری برای انجام تکالیف افزایش یافته است.
ChatGPT برای نوجوانان چه تفاوتی دارد؟
حالت جدید که با نام ChatGPT for Teens معرفی شده، برای کاربران ۱۳ تا ۱۷ سال طراحی شده و محدودیتهای سختگیرانهتری نسبت به تجربه معمول ChatGPT دارد.
این سیستم گفتوگو درباره موضوعات پرخطر از جمله خودآسیبرسانی، خشونت و اختلالات خوردن را محدود میکند و تلاش دارد پاسخها را متناسب با سن کاربر ارائه دهد.
OpenAI همچنین تأکید کرده است که این نسخه نباید جایگزین درمانگر یا فرد مورد اعتماد نوجوان شود و برای موقعیتهای حساس، محافظتهای بیشتری در نظر گرفته شده است.
تشخیص خودکار سن کاربران
ChatGPT تلاش میکند سن کاربران را با استفاده از ترکیبی از اطلاعات اعلامشده توسط کاربر، سیگنالهای رفتاری و اطلاعات حساب کاربری تخمین بزند.
اگر سیستم تشخیص دهد کاربر زیر ۱۸ سال است، تجربه محافظتشده نوجوانان فعال میشود. همچنین اگر OpenAI درباره سن کاربر اطمینان نداشته باشد، طبق اعلام شرکت، تنظیمات امنتر را بهصورت پیشفرض اعمال خواهد کرد.
کنترل بیشتر والدین بر حساب نوجوانان
یکی از مهمترین ویژگیهای نسخه جدید، امکانات مربوط به کنترل والدین است.
والدین میتوانند حساب خود را به حساب نوجوان متصل کنند و برخی تنظیمات را مدیریت کنند. از جمله امکاناتی که برای والدین در نظر گرفته شده است:
- تعیین ساعات خاموشی (Quiet Hours) برای محدود کردن استفاده از ChatGPT در ساعات مشخص
- مدیریت برخی قابلیتهای حساب
- دریافت هشدار در شرایط محدودی که سیستم نشانههایی از خطر جدی را تشخیص دهد
- مدیریت برخی تنظیمات مربوط به حریم خصوصی و استفاده از ChatGPT
با این حال، اتصال حساب والدین به نوجوان به معنای دسترسی مستقیم والدین به تاریخچه مکالمات یا فعالیت لحظهای نوجوان نیست.
هشدارهای ایمنی برای والدین
OpenAI اعلام کرده است که در برخی موقعیتهای جدی، سیستم میتواند به والدین هشدار دهد. هدف از این قابلیت، شناسایی شرایطی است که ممکن است نوجوان به کمک فوری یک فرد بزرگسال نیاز داشته باشد.
این هشدارها بهصورت محدود طراحی شدهاند و قرار نیست والدین را از تمام مکالمات یا فعالیتهای نوجوان مطلع کنند.
تمرکز بیشتر روی آموزش به جای ارائه پاسخ آماده
OpenAI در نسخه نوجوانان تلاش کرده ChatGPT را بیشتر به یک دستیار آموزشی تبدیل کند تا ابزاری برای انجام مستقیم تکالیف.
این نسخه شامل امکاناتی مانند Study Mode، یادآوری تکالیف، آزمونهای تعاملی و ابزارهای بصری است. در حالت مطالعه، ChatGPT تلاش میکند مسئله را مرحلهبهمرحله با دانشآموز حل کند و به جای ارائه مستقیم پاسخ، به او در درک موضوع کمک کند.
چرا آموزش اهمیت بیشتری پیدا کرده است؟
استفاده نوجوانان از هوش مصنوعی برای جستوجوی اطلاعات و کمک گرفتن در انجام تکالیف به یکی از رایجترین کاربردهای این فناوری تبدیل شده است.
به همین دلیل، OpenAI میگوید هدفش این است که هوش مصنوعی به جای حذف فرایند یادگیری، به دانشآموزان کمک کند بهتر فکر کنند، مسئله را تحلیل کنند و مهارتهای خود را توسعه دهند.
افزایش فشارها برای محافظت از کودکان در برابر هوش مصنوعی
معرفی ChatGPT for Teens در شرایطی انجام میشود که شرکتهای فناوری با فشار فزایندهای برای محافظت از کودکان و نوجوانان در برابر خطرات احتمالی پلتفرمهای هوش مصنوعی مواجه هستند.
OpenAI نیز در ماههای اخیر با پروندههای حقوقی متعددی درباره ادعاهای مربوط به آسیبهای احتمالی ChatGPT به کودکان روبهرو شده است. کارشناسان همچنین نسبت به استفاده نوجوانان از چتباتها بهعنوان جایگزینی برای حمایتهای تخصصی روانشناختی هشدار دادهاند.
حریم خصوصی نوجوانان همچنان حفظ میشود
OpenAI اعلام کرده است که کنترلهای والدین بهگونهای طراحی شدهاند که میان ایمنی نوجوان و حفظ حریم خصوصی او تعادل برقرار شود.
بهطور پیشفرض، والدین به مکالمات نوجوان دسترسی ندارند و اتصال حسابها به معنای مشاهده تاریخچه چتها نیست. این رویکرد قرار است امکان نظارت ایمنی را فراهم کند، بدون اینکه تمام حریم خصوصی نوجوان از بین برود.
ChatGPT برای نوجوانان چه زمانی فعال میشود؟
حالت ویژه نوجوانان بهصورت خودکار برای کاربرانی که سیستم آنها را زیر ۱۸ سال تشخیص دهد فعال خواهد شد. کاربران ۱۳ تا ۱۷ ساله نیز میتوانند با اعلام سن خود وارد تجربه مخصوص نوجوانان شوند.
OpenAI میگوید در مواردی که درباره سن کاربر اطمینان کافی وجود نداشته باشد، تنظیمات محافظتیتر را در اولویت قرار خواهد داد.
جمعبندی
OpenAI با معرفی ChatGPT for Teens تلاش دارد استفاده نوجوانان از هوش مصنوعی را به سمت یک تجربه امنتر و آموزشیتر هدایت کند. محدودیت برای محتوای حساس، تشخیص سن، کنترل والدین، هشدارهای ایمنی و ابزارهای آموزشی از مهمترین ویژگیهای این نسخه هستند.
این اقدام همچنین نشان میدهد که با گسترش استفاده نوجوانان از چتباتهای هوش مصنوعی، ایمنی کاربران کمسنوسال به یکی از مهمترین چالشهای صنعت AI تبدیل شده است.