چت‌بات‌های مبتنی بر «هوش مصنوعی» همانند «چت جی‌پی‌تی»(ChatGPT) از شرکت «اوپن‌ای‌آی» چندین دفعه نشان داده‌اند که اطلاعات نادرستی اراعه خواهند داد، منبع های و حقایق ساختگی درست می‌کنند و با مطمعن به نفس غلط خود، افراد را گمراه می‌کنند. به این علت، تعداد بسیاری از آموزش‌دهندگان نسبت به ابزارهای «هوش مصنوعی» بدبین می باشند، ولی طبیعی است که «اوپن‌ای‌آی» و دیگر رقیب ها بدون دقت به نگرانی‌ها و اعتراض‌ها، دانشگاه‌ها و ترویج خدمات‌شان در بین دانشجویان را در برتری قرار دهند.

به نقل از گیزمودو، شرکت «اوپن‌ای‌آی» در حال اجرای برنامه‌ای گسترده است تا «چت جی‌پی‌تی» را در دانشگاه‌ها به ابزاری جدایی‌ناپذیر تبدیل کند و تعداد بسیاری از جنبه‌های توانایی دانشگاهی را با جانشین‌های «هوش مصنوعی» جانشین کند. این شرکت می‌خواهد دانشجویان دانشگاه‌ها از همان لحظه ورود به دانشگاه، صاحب حساب شخصی «هوش مصنوعی» شوند. مقصد این است که «چت جی‌پی‌تی» نقش‌هایی همانند مربی شخصی، پشتیبانی آموزشی استاد و مشاور حرفه‌ای ایفا کند و به دانشجویان در یافتن کار بعد از فارغ‌التحصیلی پشتیبانی کند.

برخی دانشگاه‌ها برخلاف این که در ابتدا دنیای آموزش نسبت به «هوش مصنوعی» بی‌مطمعن بوده، در این راه همراه شده‌اند. دانشگاه‌هایی همانند «دانشگاه مری‌لند»(Maryland) و «دانشگاه کالیفرنیا» برای سرویس پریمیوم «چت جی‌پی‌تی» ثبت‌نام کرده‌اند و اغاز به ادغام این چت‌بات در قسمت‌های گوناگون توانایی آموزشی کرده‌اند. این چنین «ایلان ماسک»(Elon Musk) در زمان برگزاری آزمون‌ها، دسترسی رایگان به چت‌بات «گروک»(Grok) را در اختیار دانش‌آموزان قرار داد و گوگل اکنون هوش مصنوعی «جمینای»(Gemini) را تا آخر سال تحصیلی ۲۰۲۵-۲۰۲۶ در اختیار دانش‌آموزان قرار می‌دهد، اما این موارد خارج از ساختار جاری آموزش عالی است و «اوپن‌ای‌آی» در تلاش است در آن حوزه فعالیت کند.

تصمیم دانشگاه‌ها برای پذیرفتن «هوش مصنوعی»، سپس از این که در ابتدا موضع سخت‌گیرانه‌ای در روبه رو آن گرفتند و دلواپس تقلب بودند، جای نگرانی دارد. شواهد بسیاری مشخص می کند که «هوش مصنوعی» جهت یادگیری و نگه داری اطلاعات صحیح، چندان سودمند نیست. اگر مقصد دانشگاه این است که به دانشجوها یاد بدهد چطور فکر کنند، «هوش مصنوعی» این مقصد را زیر سوال می‌برد.

یکی دیگر از مباحث مهم، او گفت و گو اطلاعات نادرست است. در یک آزمایش، دانشمندان تلاش کردند «هوش مصنوعی» را در عرصه آموزش قوانین حق انحصاری قرار دهند تا ببینند در جواب به سوالات مرتبط با این نوشته چه نتایجی را ارئه می‌دهد. نتیجه این شد که همه انها اطلاعات نادرست، موارد جعلی و اشتباه اراعه دادند. آنها گزارش دادند که «چت جی‌پی‌تی» در یک چهارم موارد، جواب‌هایی نامقبول و زیان اور برای فرآیند یادگیری، اراعه داد. 

 شرکت «اوپن‌ای‌آی» و دیگر شرکت‌ها تصمیم دارند چت‌بات‌های خود را نه تنها در کلاس درس، بلکه در همه جنبه‌های زندگی دانشجویی جای دهند و این نوشته خطرات بسیاری دارد. تکیه کردن بیشتر از حد به چت‌بات‌ها می‌تواند بر توانایی‌های اجتماعی فرد تاثییر منفی بگذارد. این چنین، این که دانشگاه‌ها در «هوش مصنوعی» اندوخته‌گذاری می‌کنند، یعنی کمتر در عرصه‌هایی اندوخته‌گذاری می‌شود که می‌تواند تعامل های انسانی را افزایش دهد.