В России разработчика ИИ оштрафовали за запрещенный контент в чате с ботом

Таганский районный суд Москвы оштрафовал американскую компанию Feature Technologies, разработчика AI-сервиса Character.AI, на 1,25 млн рублей. Причиной стал отказ удалить информацию, связанную с распространением наркотических средств.

Важным прецедентом может стать история: владелец не сайта или телеграм-канала, а сервиса с генеративным ИИ был привлечен к административной ответственности за контент.

Character.AI позволяет взаимодействовать с интерактивными персонажами искусственного интеллекта: вымышленными персонажами, историческими личностями, знаменитостями и персонажами, созданными пользователями.

Боты способны поддерживать диалог, имитировать эмоциональные реакции и участвовать в ролевых сценариях. Но чем убедительнее цифровой собеседник, тем сложнее разработчику сделать вид, что за его репликами никто не обязан следить.

Это не первый спор между Character Technologies и российским правосудием. В апреле 2026 года тот же суд признал компанию виновной в пропаганде нетрадиционных сексуальных отношений и предпочтений, а также смене пола среди несовершеннолетних.

Возникли вопросы относительно безопасности Character.AI за пределами России. В 2024 году широкую огласку в США получила смерть подростка, эмоционально привязавшегося к боту, созданному по образу Дейенерис из «Игры престолов».