✔Лаборатории смогут проверять ИИ на соответствие духовно-нравственным ценностям - «Новости»

В России обсуждают процедуру проверки больших ИИ-моделей на соответствие законодательству и традиционным духовно-нравственным ценностям, сообщают «Ведомости» со ссылкой на участников обсуждений и источник в Минцифры. Такой экспертизой могут заняться несколько независимых испытательных лабораторий, а модели будут тестировать через специальные бенчмарки и проверять на устойчивость к промпт-инжектам. По информации издания, детали этой процедуры прорабатывали в конце июля и начале августа 2026 года на площадке АНО «Цифровая экономика», а в настоящее время власти готовят подзаконные акты к принятому 26 июля закону об ИИ. Новый закон вводит два специальных статуса для больших фундаментальных моделей — национальный и суверенный. Чтобы получить один из них, разработчикам придется подтвердить, что модель соблюдает российское законодательство и традиционные духовно-нравственные ценности. При этом проверять таким образом все представленные на рынке ИИ-модели не планируется: процедура коснется только тех разработок, которые претендуют на эти статусы, а также связанные с ними меры господдержки. В целом закон носит рамочный характер, и основные правила функционирования ИИ в России будут устанавливаться подзаконными актами. Предполагается, что проводить экспертизу, необходимую для получения национального или суверенного статуса, смогут несколько лабораторий, требования к которым Минцифры сейчас прорабатывает вместе с бизнесом. Так, сначала разработчики самостоятельно оценят модель по общей риск-ориентированной методике, а затем передадут результаты экспертам, вместе с описанием архитектуры, механизмов фильтрации и другой документацией. После этого лаборатория сможет выборочно перепроверить модель с помощью бенчмарков. В частности, специалисты будут анализировать ответы ИИ и пытаться обойти встроенные ограничения через промпт-инжекты. По итогам тестов лаборатория подготовит заключение, однако финальное решение о подтверждении соответствия и присвоении статуса останется за представителями Минцифры. Как отмечают «Ведомости», отдельный документ с перечнем духовно-нравственных ценностей создавать не планируется: они уже перечислены в президентском указе № 809. Например, среди них фигурируют гражданственность, справедливость и историческая память. А вот технические критерии и бенчмарки еще предстоит разработать, и в этом процессе участвуют специалисты Минцифры, ФСБ и ФСТЭК. Последние также будут отвечать за проверку безопасности моделей, предназначенных для государственных систем. Положительное заключение специальной испытательной лаборатории станет одним из этапов получения статуса национальной или суверенной модели. Такой статус даст разработчикам доступ к господдержке, данным государственных информационных систем и приоритетному использованию ИИ-моделей в отдельных сферах. В частности, в числе первых направлений для их внедрения назывались образование и госуслуги. Эксперты предупреждают, что главным вопросом остается измеримость критериев. По их словам, такие понятия, как «справедливость» или «историческая память», сложно превратить в однозначное техническое задание. Поэтому специалисты предлагают зафиксировать единые наборы тестов, допустимые и недопустимые ответы, версии моделей и параметры проверки, чтобы результаты можно было воспроизвести. То есть для обновленных моделей может потребоваться повторная аттестация. В Минцифры подчеркивают, что сейчас пакет подзаконных актов проходит межведомственное согласование и дорабатывается с учетом предложений бизнеса и экспертов, и говорить об итоговой конструкции проверки пока преждевременно.