Минцифры, ФСБ и ФСТЭК разработают критерии проверки ИИ на духовность и нравственность

Российские IT-компании смогут передавать проверку больших моделей искусственного интеллекта на соответствие закону и традиционным духовно-нравственным ценностям в независимые испытательные лаборатории. Об этом «Ведомостям» рассказали источники в одной из компаний-участников обсуждений, профильной IT-ассоциации и собеседник в Минцифры.

Обсуждения проходили в конце июля - начале августа на площадке АНО «Цифровая экономика» в рамках подготовки подзаконных актов к принятому закону об ИИ. Критерии соответствия для проверки моделей разработают Минцифры, ФСБ и ФСТЭК.

Принятый 26 июля закон об ИИ вводит два специальных статуса для больших фундаментальных моделей: суверенной и национальной. Для получения любого из них модель должна подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Сам закон носит рамочный характер, основные правила функционирования ИИ в России предстоит установить подзаконными актами.

Порядок подтверждения соответствия ИИ-моделей традиционным ценностям определит правительство. Как рассказывал 7 июля в Госдуме статс-секретарь - заместитель министра цифрового развития Иван Лебедев, участвовать в подготовке документов будут Минцифры, ФСБ и ФСТЭК, отвечающие в том числе за информационную и технологическую безопасность. По его словам, первый проект архитектуры соответствующих норм уже подготовлен.

Прописывать духовно-нравственные ценности в отдельном акте не планируется, рассказал источник, участвующий в обсуждении подзаконного акта. Их перечень уже содержится в указе президента № 809. Вместо этого совместно с бизнесом разработают специальные бенчмарки, с помощью которых российские большие фундаментальные модели будут тестировать на предмет соответствия закону и ценностям.

Правкомиссия по цифровизации может создать испытательную лабораторию с подачи Минцифры. Процедуру проверки соответствия ИИ духовно-нравственным ценностям могут прописать в акте правительства.

ИИ-разработчик должен будет подать в испытательную лабораторию заявление, приложить документы с описанием архитектуры, сведениями о разработчике, механизмах фильтрации. Далее лаборатория приступает к экспертизе: проверяет с помощью бенчмарков ответы модели, тестирует возможности обхода внутренних ограничений с помощью промпт-инъекций - метода взлома и манипуляции ИИ, когда вредоносная инструкция внедряется во входные данные.

После тестирования лаборатория направляет в правкомиссию заключение о соответствии или несоответствии ответов модели традиционным ценностям. Положительное заключение служит одним из этапов присвоения модели статуса национальной или суверенной, чтобы в дальнейшем получить право на меры господдержки - например, в госзакупках или при реализации особо значимых IT-проектов.

Общая обязательная проверка всех представленных на рынке ИИ-моделей не предусмотрена. Речь идет только о разработках, претендующих на статус суверенных или национальных, а вместе с ним на государственную поддержку, доступ к данным государственных информационных систем и возможность приоритетного использования в отдельных отраслях, поясняет собеседник в Минцифры.

Российские IT-компании договорились, что экспертизу сможет проводить не одна назначенная организация, а несколько лабораторий, прошедших проверку у госоргана. Требования к ним сейчас прорабатываются совместно с бизнесом. Предполагается, что разработчик сначала самостоятельно проверит модель по общей риск-ориентированной методике и представит результаты. Аккредитованная лаборатория оценит выводы разработчика и сможет выборочно проверить устойчивость модели.

Финальное решение о подтверждении соответствия и присвоении модели статуса национальной или суверенной останется за Минцифры. Соответствие ИИ критериям безопасности для госсистем будет проверять ФСБ и ФСТЭК с учетом корректировок действующих нормативных правовых актов.

У крупнейших российских разработчиков уже есть инструменты, которые ограничивают запрещенные запросы и обеспечивают соответствие ответов моделей законодательству. Поэтому регулятор рассчитывает использовать накопленную рынком экспертизу, а не создавать всю систему тестирования с нуля.

Представитель Минцифры сообщил «Ведомостям», что пакет подзаконных актов еще проходит межведомственное согласование и дорабатывается с учетом предложений экспертов и бизнеса. Поэтому говорить об итоговой конструкции проверки пока преждевременно.

Руководитель направления ИИ холдинга Т1 Сергей Голицын считает, что жесткое государственное регулирование часто отстает от развития технологий, тогда как крупные IT-компании уже располагают необходимой экспертизой и инструментами контроля. Продуктивность схемы будет зависеть от того, насколько четкими, измеримыми и прозрачными окажутся требования.

Бизнес вряд ли сможет самостоятельно договориться о содержательном толковании традиционных ценностей, предупреждает бизнес-архитектор проектов ИИ экосистемы «Авандок» Алексей Борщов. Их перечень включает такие категории, как гражданственность, справедливость и историческая память, которые невозможно напрямую перевести в технические задания для модели. Поэтому общий знаменатель может быть только процедурным: единый формат отчета, общий набор провокационных запросов, фиксация версии модели и параметров тестирования, а также возможность воспроизвести результат.

На роль проверяющих может претендовать Институт системного программирования РАН, считает технический директор РТК-ЦОД Алексей Забродин. По его словам, институт обладает большим опытом работы со сложными программными продуктами.

В России уже отработаны механизмы создания сертификационных центров и испытательных лабораторий в смежных сферах - от проверки средств защиты информации до подтверждения соответствия требованиям по защите персональных данных, говорит управляющий партнер «Астра ИИ Код» Владимир Нелюб. Существующие организации можно дополнительно аккредитовать для работы с ИИ при сохранении единой методологической базы.

Главный риск заключается в «оценочности» критериев методики, поскольку это может обернуться их «избирательным применением», считает управляющий партнер адвокатского бюро «Пропозитум» Дмитрий Галанцев. Для минимизации этого фактора рабочей представляется схема оценки, которая включает в себя аккредитующую структуру, несколько конкурирующих лабораторий и апелляционную коллегию вне отрасли.

Эксперт центра ИИ «СКБ Контур» Дмитрий Иванков перечисляет, что при оценке важно четко проговаривать, какие классы запросов проверяются, сколько тестов используется, какие ответы считаются допустимыми или недопустимыми, как учитывается неоднозначность, как проводится повторное тестирование после обновления модели. Галанцев резюмирует, что логичным представляется введение сроков действия сертификатов проверки и переаттестации моделей при обновлениях, а также формирование публичного реестра заключений независимых организаций.