В OpenAI разгорелся внутренний конфликт из-за планов по внедрению в ChatGPT «взрослого режима». Эта функция должна была позволить пользователям вести откровенные эротические беседы с искусственным интеллектом. Однако ряд советников компании и экспертов в области психического здоровья выступили с резкой критикой, предупредив о потенциальных рисках такой инициативы.
Специалисты опасаются, что подобный контент может привести к формированию эмоциональной зависимости пользователей от чат-бота. Кроме того, существует серьёзная проблема с обеспечением возрастных ограничений и защитой несовершеннолетних от доступа к неподобающему контенту. Внутренние обсуждения выявили как этические дилеммы, так и технические сложности, в частности, с надёжным определением возраста пользователя.
В результате запуск спорной функции был временно отложен. Руководство OpenAI признало наличие нерешённых вопросов, но при этом заявило, что не намерено полностью отказываться от идеи. Компания планирует вернуться к её реализации после тщательной доработки систем безопасности и механизмов модерации, чтобы минимизировать все возможные риски.