WSJ: OpenAI отложила запуск «взрослого режима» в ChatGPT из-за критики со стороны экспертов

OpenAI отложила запуск «взрослого режима» ChatGPT после критики со стороны консультантов по безопасности. Однако от самой идеи разработчик не отказался, сообщает The Wall Street Journal со ссылкой на источники.

Эксперты предупредили, что такой формат взаимодействия с ИИ может способствовать формированию нездоровой эмоциональной зависимости пользователей от чат-бота. Кроме того, участники дискуссии выразили сомнения в эффективности механизмов проверки возраста.

По данным источников, в ходе тестирования система определения возраста неправильно классифицировала несовершеннолетних как взрослых примерно в 12 % случаев. Учитывая текущую аудиторию сервиса, это может означать, что миллионы пользователей младше 18 лет потенциально получат доступ к функциям только для взрослых.

Также разработчики столкнулись с трудностями при создании механизмов модерации, которые бы разрешали эротическую переписку, но в то же время исключали обсуждение запрещенных тем.

Внутренние дискуссии сопровождались более жесткой критикой. Один из членов правления предупредил, что если ограничений будет недостаточно, продукт может стать инструментом, оказывающим негативное психологическое воздействие на пользователей, сообщили источники.

Сама OpenAI подчеркивает, что отказа от идеи не происходит, но формат функции будет ограничен: создание эротических изображений, аудио- или видеоконтента не планируется. Кроме того, модели будут обучены периодически напоминать пользователям о важности общения с людьми за пределами цифровой среды.