Этим летом Всемирная конференция по искусственному интеллекту (WAIC) в Шанхае начала оправдывать свое название. Если раньше она была почти исключительно внутренним мероприятием, то в этом году она привлекла большую группу международных участников, желающих воочию увидеть потенциальные чудеса китайской экосистемы ИИ. Кроме того, конференция предоставила возможность наладить контакты с зарубежными коллегами одному из новейших элементов этой экосистемы: Китайской ассоциации безопасности и развития ИИ (CnAISDA). 

Созданная в феврале 2025 года «на полях» Саммита по действиям в области ИИ в Париже, CnAISDA ставит Китай в один ряд с немногими юрисдикциями, имеющими специализированные институты безопасности ИИ (AISI) — хотя они все чаще выступают под другими названиями. AISI — это поддерживаемые государством учреждения, специализирующиеся на рисках ИИ, включая в некоторых случаях катастрофические риски. Учитывая, что в Китае усилия по предотвращению потенциальных катастрофических рисков передовых (frontier) систем ИИ находятся в зачаточном состоянии, CnAISDA потенциально является ядром будущих важных преобразований. 

Но сигнализирует ли создание CnAISDA о серьезных национальных обязательствах по обеспечению безопасности ИИ — или же это в основном слова? Чтобы понять, является ли CnAISDA реальным импульсом или просто символом, полезно сначала взглянуть на то, как развивалась внутренняя экосистема безопасности ИИ в Китае за последний год, когда отечественные разработчики и исследователи начали адаптировать некоторые меры управления, предложенные за рубежом. 

Несколько китайских разработчиков подписали добровольные обязательства по обеспечению безопасности, которые во многом зеркально отражают обещания мировой индустрии. В декабре 2024 года Китайский альянс индустрии искусственного интеллекта (подразделение CAICT) опубликовал обязательства по безопасности, подписанные 17 ведущими китайскими ИИ-компаниями, включая DeepSeek, Alibaba и Tencent. Примечательно, что эти пункты тесно перекликаются с Обязательствами по безопасности передового ИИ, принятыми разработчиками со всего мира на саммите по ИИ в Сеуле. На нынешней конференции WAIC обязательства CAICT были подтверждены под эгидой CnAISDA и немного расширены: был сделан больший акцент на международном сотрудничестве и предотвращении передовых рисков. 

Однако некоторые ключевые заинтересованные стороны, в частности DeepSeek, демонстративно отсутствовали во втором раунде подписания. Важным индикатором серьезности намерений Китая станет то, будут ли китайские разработчики соблюдать свои обязательства. На мировом уровне соблюдение Сеульских соглашений фрагментарно, и ни одна из китайских компаний, подписавших их, пока не выполнила их в полной мере. 

Ключевая поддерживаемая государством лаборатория опубликовала собственную стратегию по снижению рисков вместе с результатами оценки рисков передового ИИ, опираясь на лучшие мировые практики. Одновременно с WAIC этого года Шанхайская лаборатория ИИ (Shanghai AI Lab) в партнерстве с Concordia AI опубликовала «Систему управления рисками передового ИИ», излагающую детальный процесс мониторинга и управления рисками таких систем. Эти же организации опубликовали анализ рисков, исходящих от различных китайских и зарубежных моделей ИИ, основанный на данной системе. 

Это стало значительным шагом вперед для китайского ландшафта оценки рисков ИИ, хотя он все еще находится на гораздо более ранней стадии развития, чем работа по техническому согласованию (alignment), мерам защиты и оценке в США и Великобритании. Ранее Китай уделял ограниченное внимание таким рискам, как стратегический обман в автономных НИОКР и распространение химического, биологического, радиологического или ядерного оружия (CBRN). Как отметил соучредитель Anthropic Джек Кларк, выводы Шанхайской лаборатории ИИ продемонстрировали сближение с оценками рисков, проводимыми в США и Великобритании — как в плане изучаемых угроз, так и в методах. Шанхайская лаборатория даже использовала программное обеспечение для оценки Inspect, разработанное британским институтом AISI. 

В состав руководства CnAISDA входят некоторые из наиболее выдающихся фигур китайской политики в области ИИ. Фу Ин, бывший заместитель министра иностранных дел и один из самых известных дипломатов Китая, стала основным публичным представителем организации. Эндрю Яо, единственный в Китае лауреат премии Тьюринга, обеспечивает научный авторитет. Сюэ Лань, ключевой советник влиятельного Госсовета КНР, предоставляет политическую экспертизу и связывает техническое сообщество с политическим. Среди других лидеров, указанных на сайте CnAISDA: Чжоу Бовэнь из Шанхайской лаборатории ИИ (SHLAB), Вэй Кай из Китайской академии информационных и коммуникационных технологий (CAICT), Сюй Вэй из Института междисциплинарных информационных наук Университета Цинхуа и Цзэн И из Китайской академии наук. 

В отличие от американских и британских коллег, созданных как новые внутриправительственные агентства, CnAISDA представляет собой коалицию существующих институтов. Фундаментальной особенностью CnAISDA является ее децентрализованная структура, напоминающая подход канадского AISI и французского INESIA. Вместо создания нового бюрократического ведомства Китай объединил под одной эгидой существующие центры компетенций. Китайское название ассоциации подчеркивает этот аспект: буквальный перевод звучит не как «ассоциация», а как «сеть». 

Университет Цинхуа служит ее организационным центром: официальный адрес и номер телефона CnAISDA зарегистрированы в этом университете, и многие ведущие сотрудники аффилированы с ним. Являясь, пожалуй, самым престижным вузом Китая, Цинхуа располагает важными центрами деятельности в области безопасности и управления ИИ. В группу также входят другие ведущие технические организации, включая SHLAB, Пекинскую академию искусственного интеллекта (BAAI) и CAICT. SHLAB и CAICT, помимо прочего, проводят оценку систем ИИ на предмет рисков, а BAAI является ключевым связующим звеном для технического развития ИИ в столице. 

Такая структура коалиции отражает политический прагматизм. Вместо создания единого централизованного агентства (что потребовало бы выбора «победителей» среди конкурирующих институтов) Китай выбрал модель коалиции. Это позволяет правительству усилить несколько ключевых голосов в дискуссии о безопасности ИИ, не выбирая между учреждениями с пересекающимися компетенциями. 

Несмотря на амбиции CnAISDA, группа сталкивается со значительными препятствиями на этапе становления. В настоящее время у организации нет выделенного штата, собственного бюджета или даже веб-сайта на китайском языке, что ставит вопросы о её операционной способности. Характер отношений с правительством Китая остается неоднозначным, хотя чиновник из влиятельного Государственного комитета по делам развития и реформ (NDRC) публично подтвердил государственную поддержку ассоциации. 

В то время как ведущие деятели американской политики в области ИИ выражают скепсис в отношении глобальных усилий по управлению ИИ, китайские лидеры продолжают подчеркивать поддержку инклюзивного развития и многостороннего взаимодействия. На данный момент CnAISDA ориентирована прежде всего на международное взаимодействие. Когда в документе по итогам Третьего пленума 2024 года прозвучал призыв к созданию «системы надзора за безопасностью ИИ», многие наблюдатели восприняли это как анонс создания китайского AISI, который выполнял бы внутренние функции тестирования и оценки моделей. 

Однако то, что создано к настоящему времени, — это скорее платформа для взаимодействия, чем система надзора. CnAISDA спроектирована прежде всего как голос Китая в глобальных дискуссиях по управлению ИИ. Она еще не готова к проведению значительной независимой работы — будь то технические исследования, оценки или политические функции. Степень того, насколько CnAISDA со временем возьмет на себя более значимую внутреннюю роль, станет еще более убедительным доказательством сосредоточенности китайского руководства на рисках передового ИИ.