Временные меры по управлению услугами генеративного искусственного интеллекта — Комплексный обзор

Краткое резюме

«Временные меры по управлению услугами генеративного искусственного интеллекта» (Приказ № 15) были совместно изданы семью государственными органами КНР — Администрацией киберпространства Китая (АКК), Государственным комитетом по развитию и реформам, Министерством образования, Министерством науки и технологий, Министерством промышленности и информатизации, Министерством общественной безопасности и Государственным управлением по делам радиовещания и телевидения — 13 июля 2023 года с вступлением в силу 15 августа 2023 года. Данный нормативный акт является одним из первых в мире комплексных регуляторных документов, специально направленных на регулирование услуг генеративного ИИ, и ознаменовал формальное создание китайской нормативной базы для больших языковых моделей типа ChatGPT и производных от них сервисов.

Документ содержит 24 статьи, объединенные в пять глав, и основывается на вышестоящем законодательстве, включая Закон о кибербезопасности, Закон о безопасности данных, Закон о защите персональных данных и Закон о научно-техническом прогрессе. В нем закреплен основополагающий принцип «равновесия развития и безопасности, сочетания стимулирования инноваций и управления на основе закона», а также прямо установлен режим «инклюзивного, осмотрительного, классифицированного и поуровневого регулирования» услуг генеративного ИИ. Сфера действия документа охватывает услуги по генерации текста, изображений, аудио, видео и иного контента с использованием технологий генеративного ИИ для общественности на территории КНР. Принципиально важно, что деятельность исключительно по разработке технологий (не предоставляющая услуги публике) прямо исключена из сферы регулирования, что отражает защиту инновационной деятельности.

Ключевые положения

Основные положения документа можно систематизировать по четырем блокам:

1. Требования к содержанию и ценностные ориентиры (статья 4). Наиболее обсуждаемая норма. Поставщики и пользователи обязаны соблюдать законодательство, уважать общественную нравственность и этику. Конкретно: придерживаться основных социалистических ценностей; запрет на генерацию контента, угрожающего национальной безопасности, наносящего ущерб имиджу государства, разжигающего сепаратизм, пропагандирующего терроризм или экстремизм, распространяющего ложную и вредную информацию; предотвращение дискриминации по этнической, религиозной, национальной, региональной, гендерной, возрастной, профессиональной и иной принадлежности на всех этапах — от проектирования алгоритмов до обучения и оптимизации моделей; уважение интеллектуальной собственности; защита законных прав других лиц; повышение прозрачности и точности контента.

2. Обучающие данные и техническое управление (статьи 7-8). Поставщики обязаны использовать данные и базовые модели из законных источников; не нарушать права интеллектуальной собственности; при работе с персональными данными получать согласие или соответствовать установленным законом условиям; принимать действенные меры для повышения качества обучающих данных в отношении их достоверности, точности, объективности и разнообразия. Для деятельности по разметке данных требуются четкие и практически применимые правила разметки, оценка качества с выборочной проверкой и обязательное обучение разметчиков.

3. Стандарты обслуживания и защита пользователей (статьи 9-15). Поставщики несут ответственность как производители сетевого информационного контента и обработчики персональных данных; обязаны заключать с пользователями договоры об оказании услуг; открыто информировать о целевой аудитории, сфере применения и назначении сервиса; предотвращать чрезмерную зависимость несовершеннолетних; защищать вводимую пользователями информацию и записи об использовании; маркировать генерируемые изображения и видео метками глубокого синтеза; оперативно принимать меры при обнаружении незаконного контента и уведомлять соответствующие органы; создать механизмы подачи и рассмотрения жалоб.

4. Архитектура регулирования (статьи 16-21). Создана система многоведомственного совместного регулирования с участием органов управления в сфере интернета, развития и реформ, образования, науки и технологий, промышленности, общественной безопасности, вещания и печати. Сервисы, обладающие общественно-информационным влиянием или потенциалом социальной мобилизации, подлежат обязательной оценке безопасности и регистрации алгоритмов. Предусмотрено трансграничное правоприменение: в отношении несоответствующих требованиям иностранных сервисов, предоставляемых на территории КНР, могут применяться технические меры. Санкции предусматривают наказание по вышестоящему законодательству; при отсутствии специальных норм — предупреждение, публичное порицание, предписание об устранении нарушений; в серьезных случаях — приостановление оказания услуг; при наличии состава преступления — уголовное преследование.

Цели и сроки

Будучи ведомственным нормативным актом, а не программой развития, данный документ не устанавливает поэтапных целевых показателей. Хронология принятия:

23 мая 2023 г.: утверждение на 12-м заседании руководства АКК
10 июля 2023 г.: совместное подписание руководителями семи ведомств
13 июля 2023 г.: официальная публикация
15 августа 2023 г.: вступление в силу

Слово «временные» в названии указывает на переходный характер нормативного акта, подлежащего пересмотру или замене постоянным документом с учетом практики применения и технологического развития. На текущий момент постоянная версия не издана, временные меры продолжают действовать.

Заслуживает внимания процесс принятия: в апреле 2023 г. был опубликован проект для общественного обсуждения, а итоговая версия претерпела существенные изменения с учетом замечаний общественности — в частности, были добавлены нормы о поощрении инноваций, смягчены ограничительные формулировки и закреплена «инклюзивно-осмотрительная» тональность регулирования.

Механизмы реализации

Документ устанавливает следующие механизмы реализации:

Многоведомственное совместное регулирование. Семь подписавших ведомств осуществляют управление в рамках своих компетенций, разрабатывая классифицированные и поуровневые правила или руководства, адаптированные к технологическим особенностям. Такая многоведомственная структура отражает межотраслевой характер услуг генеративного ИИ, но одновременно создает вызовы в координации правоприменения.
Система оценки безопасности. Сервисы с общественно-информационным влиянием или потенциалом социальной мобилизации подлежат оценке безопасности и регистрации алгоритмов. Это распространяет существующую китайскую систему регистрации алгоритмов, ранее введенную Положениями об алгоритмических рекомендациях и Положениями о глубоком синтезе, на сферу генеративного ИИ.
Обязанности по раскрытию информации и содействию. Поставщики обязаны по запросу регулятора раскрывать источники обучающих данных, их объем, типы, правила разметки и механизмы работы алгоритмов, а также оказывать необходимое техническое содействие.
Трансграничное регулирование. При оказании несоответствующих требованиям услуг генеративного ИИ из-за рубежа пользователям на территории КНР Администрация киберпространства вправе поручить соответствующим учреждениям применить технические меры для пресечения. Это обеспечивает правовую основу трансграничного правоприменения.
Градуированные санкции. Нарушения караются в соответствии с вышестоящим законодательством; при отсутствии специальных норм — предупреждение, публичное порицание, предписание об устранении; серьезные случаи — приостановление предоставления услуг; деяния, содержащие состав преступления, — уголовное преследование.

Влияние на отрасль

Документ оказал многомерное и глубокое воздействие на отрасль:

Определенность регулирования. Принятие мер положило конец «регуляторному вакууму» в сфере сервисов больших моделей, предоставив предприятиям четкие рамки соответствия. Позиционирование регулирования как «инклюзивного и осмотрительного», заметно смягченное по сравнению с проектом для обсуждения, обеспечило отрасли значимое пространство для развития. Исключение чисто исследовательской деятельности из сферы действия дополнительно защитило технологические инновации.

Рост издержек на соответствие. Требования по проверке законности обучающих данных, управлению качеством разметки, фильтрации контента, маркировке глубокого синтеза и обработке жалоб пользователей существенно увеличили операционные расходы. Малые и средние предприятия испытывают особенно острое давление, что может ускорить консолидацию отрасли.

Нормализация регистрации алгоритмов. Обязательная регистрация алгоритмов для сервисов генеративного ИИ с общественно-информационным влиянием распространила специфическую для Китая систему учета алгоритмов на новую технологическую сферу. После вступления документа в силу все основные большие модели — ERNIE Bot (Baidu), Tongyi Qianwen (Alibaba), Pangu (Huawei) и другие — прошли процедуру регистрации.

Международный демонстрационный эффект. Будучи одним из первых в мире специализированных нормативных актов о генеративном ИИ, документ стал эталоном для законодательной деятельности в других юрисдикциях. Положения Регламента ЕС об искусственном интеллекте в части моделей ИИ общего назначения имеют ряд концептуальных пересечений с данным документом.

Укрепление управления данными. Требования к законности источников и качеству обучающих данных стимулировали стандартизацию индустрии разметки данных и побудили предприятия уделять повышенное внимание соблюдению требований к данным и защите интеллектуальной собственности.

Последствия для доступа на рынок. Положения об иностранных инвестициях (статья 23) требуют соблюдения применимого законодательства об иностранных инвестициях, а механизм трансграничного правоприменения (статья 20) формирует рамки, влияющие на подходы международных поставщиков ИИ-услуг к китайскому рынку.

История изменений

11 апреля 2023 г.: Администрация киберпространства Китая опубликовала «Меры по управлению услугами генеративного ИИ (проект для обсуждения)», содержавший 21 статью с относительно жесткими формулировками.
13 июля 2023 г.: Официально опубликованы «Временные меры по управлению услугами генеративного ИИ» (Приказ № 15), содержащие 24 статьи. По сравнению с проектом, итоговая версия включила ряд существенных изменений: добавлены нормы о поощрении инноваций (статьи 5-6); прямо закреплен принцип «инклюзивного, осмотрительного, классифицированного и поуровневого» регулирования; сужена сфера применения (исключена чисто исследовательская деятельность); смягчены формулировки отдельных требований к соответствию.
По состоянию на текущую дату, временные меры не подвергались дальнейшим изменениям. Работа над постоянной версией «Мер по управлению услугами генеративного ИИ» продолжается.

Связанные документы

Закон КНР о кибербезопасности (2017 г.) — вышестоящее законодательство
Закон КНР о безопасности данных (2021 г.) — вышестоящее законодательство
Закон КНР о защите персональных данных (2021 г.) — вышестоящее законодательство
Закон КНР о научно-техническом прогрессе (редакция 2021 г.) — вышестоящее законодательство
«Положение об управлении алгоритмическими рекомендациями в интернет-информационных услугах» (2022 г.) — предшествующий нормативный акт в сфере алгоритмов
«Положение об управлении глубоким синтезом в интернет-информационных услугах» (январь 2023 г.) — предшествующий нормативный акт о глубоком синтезе
«План развития искусственного интеллекта нового поколения» (2017 г.) — стратегия развития ИИ верхнего уровня
«Мнение о глубоком внедрении действий "ИИ+"» (2025 г.) — новейший программный документ по ИИ
«Глобальная инициатива по управлению ИИ» (октябрь 2023 г.) — позиция Китая в глобальном управлении ИИ
Регламент ЕС об искусственном интеллекте (2024 г.) — международный сопоставительный ориентир