Российский ИИ проверят на традиционные ценности

Механизм пока обсуждается и коснется только моделей, которые претендуют на статус суверенных или национальных.

В России готовят правила проверки больших языковых моделей на соответствие законодательству и традиционным духовно-нравственным ценностям.

В правительстве обсуждают создание нескольких аккредитованных испытательных лабораторий. Разработчики будут предоставлять сведения об архитектуре модели, механизмах фильтрации и другие документы.

Саму модель планируют тестировать с помощью специальных бенчмарков. Специалисты смогут проверять, можно ли обойти установленные ограничения с помощью промпт-инъекций.

Перечень традиционных ценностей отдельно создавать не планируют: ориентиром станет действующий Указ президента № 809. 

После проверки лаборатория подготовит заключение, а итоговое решение будет принимать Минцифры.

Получение статуса национальной или суверенной может дать разработчикам доступ к мерам господдержки и государственным данным. Такой статус также может понадобиться для ИИ, который будут использовать в образовании и оказании государственных услуг.

Ранее писали, что Госдума приняла первый закон о регулировании ИИ.

Почему это важно

В России формируются отдельные требования для ИИ-моделей, которые смогут претендовать на специальный статус и связанные с ним преимущества.

Источник: Ведомости