شرکت اوپن‌ای‌آی اعلام کرده است در حال توسعه سیستمی برای پیش‌بینی سن کاربران و ایجاد تجربه‌ای متفاوت برای نوجوانان در چت‌جی‌پی‌تی است. این تصمیم پس از افزایش نگرانی‌ها درباره آسیب‌های احتمالی هوش مصنوعی بر کودکان و نوجوانان اتخاذ شده است.
سم آلتمن، مدیرعامل اوپن‌ای‌آی، در یادداشتی تاکید کرده است که پاسخ چت‌جی‌پی‌تی به یک کاربر ۱۵ ساله باید متفاوت از پاسخ به یک فرد بزرگسال باشد. او افزود این شرکت با چالش میان دو اصل «آزادی استفاده» و «حفاظت از نوجوانان» روبه‌روست و در نهایت اولویت را به امنیت کاربران کم‌سن داده است.
بر اساس طرح جدید، اگر سیستم نتواند با اطمینان سن کاربر را بالای ۱۸ سال تشخیص دهد، او به محیطی ویژه نوجوانان هدایت خواهد شد. در این نسخه، برخی قابلیت‌ها محدود می‌شوند؛ از جمله گفتگوهای مرتبط با خودکشی یا موضوعات جنسی مانند معاشقه.
آلتمن توضیح داده است: «مدل به‌طور پیش‌فرض نباید دستورالعملی درباره خودکشی ارائه دهد، اما اگر کاربر بزرگسال برای نگارش داستانی خیالی با موضوع خودکشی درخواست کمک کند، سیستم می‌تواند این کار را انجام دهد.» او همچنین گفته است در صورت تشخیص خطر جدی خودآزاری در نوجوانان، والدین و حتی نهادهای مسئول ممکن است مطلع شوند.
این اقدام در حالی است که خانواده چند نوجوان آمریکایی، از جمله والدین یک پسر ۱۶ ساله از اوپن‌ای‌آی به دلیل ارائه توصیه‌های مرتبط با خودکشی شکایت کرده‌اند.
جزئیات فنی روش پیش‌بینی سن هنوز روشن نیست و تنها اشاره شده که این کار بر اساس الگوی استفاده کاربران انجام می‌شود؛ موضوعی که احتمالا نوجوانان سعی در دور زدن آن خواهند داشت. آلتمن همچنین احتمال داده است در برخی کشورها تایید هویت با کارت شناسایی الزامی شود؛ هرچند این راهکار به‌زعم او «مصالحه‌ای میان حریم خصوصی و امنیت» است.
علاوه بر این، اوپن‌ای‌آی وعده داده تا پایان ماه میلادی، ابزار کنترل والدین را ارائه کند. این ابزار امکان پیوند حساب کاربری نوجوانان با والدین، تعیین زمان‌های ممنوعیت استفاده، غیرفعال‌سازی تاریخچه گفتگو و حافظه، و هشداردهی در صورت مشاهده نشانه‌های پریشانی در کاربر نوجوان را فراهم می‌کند.
با وجود تمرکز بر نوجوانان، آلتمن اذعان کرده است که پیامدهای این فناوری فراتر از این گروه سنی است و حتی بزرگسالان نیز ممکن است در معرض اثرات پیش‌بینی‌نشده قرار گیرند. نمونه‌ای که تابستان گذشته رسانه‌ها گزارش کردند، مردی در تورنتو بود که پس از مکالمه‌ای ساده با چت‌جی‌پی‌تی دچار توهم و بحران روانی شد.
توضیحات بیشتر: