ИИ-модели в России проверят на соответствие духовным ценностям для доступа к госзакупкам

В России разработчики искусственного интеллекта смогут подтверждать соответствие своих моделей законодательству и традиционным ценностям в независимых лабораториях. Концепцию обсуждали в июле и августе на платформе АНО «Цифровая экономика». Источники из одной из участвующих компаний и Минцифры подтвердили эту информацию.

С момента вступления в силу закона об ИИ 26 июля, основные правила ещё предстоит утвердить через подзаконные акты. Закон предусматривает два статуса для крупных моделей — суверенный и национальный. Чтобы получить их, разработчики должны доказать соответствие моделей законодательству и ценностям.

Пока нет планов по созданию отдельного акта с перечнем ценностей, поскольку они уже определены указом президента № 809. Вместо этого будут разработаны бенчмарки — тесты для оценки моделей. Процедуру планируют закрепить в правительственном постановлении.

Процесс проверки включает подачу заявления, описание архитектуры и механизмов фильтрации в лабораторию. Лаборатория оценивает ответы модели на тесты и проверяет устойчивость к промпт-инъекциям — взлому ИИ через вредоносные данные. После этого заключение направляется в правкомиссию по цифровизации.

Только разработки, претендующие на суверенный или национальный статус, будут проходить проверку. Первыми сферами внедрения ИИ станут образование и госуслуги. Несколько лабораторий, прошедших проверку госорганов, смогут проводить экспертизу.

Процедура состоит из двух этапов. Сначала разработчик тестирует модель сам, затем аккредитованная лаборатория проверяет его выводы. Минцифры принимает финальное решение о статусе. Безопасность государственных систем будут оценивать ФСБ и ФСТЭК.

Подзаконные акты всё ещё проходят согласование, и говорить о окончательной схеме проверки рано. Алексей Борщов из «Авандок» считает, что бизнесу будет сложно договориться о содержании традиционных ценностей. Он предлагает сосредоточиться на едином процедурном подходе.

Юрист Дмитрий Галанцев предупреждает о риске субъективного применения критериев. Он предлагает ввести аккредитующую структуру, несколько конкурирующих лабораторий и апелляционную коллегию. Также он предлагает фиксировать сроки действия сертификатов и вести публичный реестр заключений.

Институт системного программирования РАН может стать одним из проверяющих, считает Алексей Забродин из РТК-ЦОД.