Крупнейшее издательство России внедрило ИИ-цензуру книг

Крупнейшее издательство в России начало проверять рукописи с использованием искусственного интеллекта на предмет соответствия законодательству. По данным источников, близких к издательству, для анализа применяется ИИ-модель Qwen китайской компании Alibaba.

С 5 августа новые правила распространяются примерно на 70% всех книг, выходящих в стране. Речь идёт об издательской группе «Эксмо-АСТ».

СМИ описывают порядок проверки рукописей с иностранными правообладателями: редактор направляет текст в систему, и при отсутствии нарушений принимается решение о покупке прав. К заявке во внутренней системе холдинга прикладывается отчёт ИИ.

Если система выявляет риски, дальнейшие действия зависят от их характера.

Когда спорные элементы можно исправить с согласия правообладателя или речь идёт о допустимом упоминании, препятствий для заключения договора нет.

Если же содержание текста не соответствует российскому законодательству и не подлежит корректировке — например, ключевая сюжетная линия или основная тема, — издательство отказывает в покупке прав.

Алгоритмы выявляют «рискованный контент»: сцены с однополыми и другими нетрадиционными отношениями, элементы образа жизни чайлдфри, материалы, трактуемые как пропаганда педофилии, наркотиков, призывы к суициду, а также порнографию и экстремизм.

Проверке подлежат как новые тексты на русском языке, так и уже опубликованные книги.

При поступлении жалоб от граждан или государственных органов издание направляется на комплексную проверку.

В случае успешного прохождения книга возвращается в продажу, при выявлении нарушений подлежит уничтожению во всех местах хранения.

Ситуация развивается на фоне «дела издателей» в России.

Глава входящих в «Эксмо» издательств Individuum и Popcorn Books Дмитрий Протопопов и ещё два человека обвиняются в «гей-пропаганде».

Росфинмониторинг внёс их в «реестр террористов и экстремистов».