کاراندیپ آناند مدیرعامل Character.AI خبرداد که از اواخر نوامبر (اغاز آذر ۱۴۰۴) او گفت‌وگوهای آزاد برای نوجوانان حذف می‌شود. 

به‌گزارش CBSNews، این تصمیم بعد از گزارش‌هایی از صدمه‌های روانی و حتی خودکشی کاربران نوجوان گرفته شده است. شرکت برای اجرای این قانون از ابزارهای احراز هویت سنی، فناوری تشخیص چهره و بازدید کارت شناسایی منفعت گیری خواهد کرد تا هیچ کاربر زیر ۱۸ سال نتواند این محدودیت را دور بزند.

Character.AI سع دارد پلتفرم خود را از چت‌بات همراه به بستری برای خلق محتوا و نقش‌آفرینی تبدیل کند. کاربران نوجوان به‌جای او مباحثه با هوش مصنوعی «دوست‌نما» می‌توانند از قابلیت‌هایی همانند AvatarFX برای ساخت ویدیو، Scenes برای خلق داستان‌های تعاملی و Community Feed برای اشتراک آثار منفعت گیری کنند. مقصد مهم این تحول، هدایت تعامل از او مباحثه به خلاقیت است.

تصمیم Character.AI درحالی گرفته شد که قانون‌گذاران آمریکایی نیز به‌جستوجو محدودسازی دسترسی نوجوانان به چت‌بات‌های همراه می باشند. برخی سناتورهای ایالات‌متحده قوانین جدیدی را نظر کرده‌اند که شرکت‌ها را در روبه رو صدمه‌های ناشی از او گفت‌وگوهای نامناسب یا خطرناک هوش مصنوعی مسئول می‌داند. Character.AI پیش از اجباری شدن این مقررات، به استقبال این تغییرات رفته است.