В России обсуждают возможную корректировку правил, связанных с разработкой и использованием искусственного интеллекта. На рабочей встрече в Минцифры поднимались сразу две крупные инициативы: проверка ИИ-систем на соответствие духовно-нравственным ценностям и идея сделать маркировку ИИ-контента обязательной. Параллельно готовятся предложения в нормативную базу - проект поправок к закону об ИИ планировали рассмотреть 19 августа.
Тесты для ИИ: "национальный датасет" и проверка на ценности
Одна из ключевых идей - создание национального бенчмарка (национального датасета) для тестирования нейросетей. Под этим понимают набор эталонных заданий и правильных ответов, который позволит оценивать ИИ по единым критериям: насколько модель применима в российских условиях, как справляется с практическими задачами и совпадают ли её ответы с "духом времени и ценностями страны".
Сам принцип бенчмарка хорошо знаком индустрии: это стандартный "экзамен" для моделей, где проверяются не абстрактные способности, а прикладные кейсы. Например, работа с данными, выгрузки из баз, подготовка отчетов, интерпретация информации - то есть задачи, с которыми ИИ сталкивается в бизнесе и госструктурах.
Открытый или закрытый: как спорят о формате тестирования
В ходе обсуждения рассматривали два подхода - открытый и закрытый формат тестов.
- Вариант закрытого датасета, по данным участников, предлагала ФСБ: логика в том, что если задания неизвестны заранее, разработчики не смогут "натренировать" модель на конкретные вопросы и обойти проверку.
- Представители бизнеса, наоборот, высказывались за открытый формат - полностью закрытая проверка может затормозить развитие моделей, усложнить отладку и сделать требования непрозрачными.
В качестве компромисса на столе оказался гибридный вариант: два набора заданий. Открытый - для предварительной самопроверки и понятных ориентиров. Закрытый - для финальной оценки, где темы могут совпадать, но формулировки будут другими, чтобы сохранить объективность итогового результата.
Кто будет решать, что считать "правильным"
Не менее острый вопрос - кто определит содержание такого бенчмарка. Среди обсуждаемых вариантов - создание совместной комиссии, где были бы представлены государственные структуры, бизнес и экспертные организации. Идея в том, чтобы избежать перекоса: с одной стороны, учесть государственные приоритеты, с другой - не превратить тестирование в формальность или инструмент давления на разработчиков.
Пока проект остается на стадии обсуждения. Нет окончательных ответов по ключевым пунктам: будут ли тесты открытыми или закрытыми, кто утвердит задания и какие именно критерии станут основными. В аппарате профильного вице-премьера Дмитрия Григоренко говорили, что предложения прорабатываются с отраслью и ведомствами. В Минцифры также отмечали, что подзаконные акты к закону об ИИ продолжают обсуждать с бизнесом.
Обязательная маркировка ИИ-контента: что хотят поменять
Вторая крупная инициатива - поправки, которые могут сделать маркировку ИИ-контента обязательной. Речь идет о материалах, созданных с применением больших моделей ИИ: изображения, аудио и видео. В действующей логике регулирования акцент сделан на том, что у пользователей должна быть техническая возможность маркировать такой контент. Теперь обсуждается переход от "возможности" к "обязанности".
При этом деталей пока заметно не хватает. Обсуждаемые поправки оставляют открытыми сразу несколько практических вопросов:
- какая доля "участия ИИ" будет считаться достаточной, чтобы требовать маркировку;
- кто обязан проставлять отметку - автор материала или площадка/распространитель;
- должна ли метка сохраняться при перезаливе файла на другую платформу;
- кто будет контролировать соблюдение требований;
- какая ответственность наступит за отсутствие маркировки.
Также пока не определено, какое ведомство станет уполномоченным органом, который установит формат, содержание и порядок размещения предупреждения.
Известна лишь ориентация по срокам в базовой норме: по закону об ИИ возможность маркировать такой контент должна появиться у всех пользователей с 1 марта 2027 года. А вот когда и в каком виде инициативу об обязательности внесут в Госдуму - ясности пока нет.
Почему маркировка не "убивает" дипфейки
Участники обсуждения обращают внимание: даже если сделать маркировку обязательной, это не гарантирует исчезновение дипфейков. Логика проста - создатели вредоносного контента могут продолжать пользоваться иностранными сервисами, а распространять материалы в обход правил и без отметок. В таком сценарии маркировка становится полезной для добросовестных игроков, но не решает проблему намеренных злоупотреблений полностью.
Что это может изменить для рынка: дополнительные нюансы и последствия
Во-первых, появление "ценностного" бенчмарка потенциально приведет к формированию единого стандарта допуска ИИ к использованию в чувствительных сферах - госуслугах, образовании, медиа и корпоративных процессах. Для разработчиков это означает дополнительный контур соответствия: недостаточно, чтобы модель была точной и быстрой - она должна быть предсказуемой и приемлемой по содержанию ответов.
Во-вторых, сама идея закрытой части тестирования фактически подталкивает к созданию системы сертификации: когда есть финальный "экзамен", возникает логика допуска модели к конкретным классам задач. Это может затронуть закупки и внедрение ИИ в организациях: появится запрос на документальное подтверждение прохождения проверки.
В-третьих, обязательная маркировка, если её введут, потребует технической инфраструктуры. Одна история - подпись или плашка на странице, другая - встроенные метаданные в файле и правила их сохранения при копировании. Если метка теряется при любом переносе, регулирование будет работать хуже; если же требуется "неснимаемая" маркировка, это усложнит обработку контента и повысит издержки площадок.
В-четвертых, остается вопрос границ: что делать с материалами, где ИИ использовался частично - например, для шумоподавления в аудио, улучшения качества изображения, автоматической цветокоррекции или генерации отдельных фрагментов. Без четкого порога "доли ИИ" возможно два перекоса: либо маркировать придется слишком многое (что приведет к профанации), либо наоборот - участники рынка будут трактовать норму максимально узко.
В-пятых, вероятный эффект - рост спроса на инструменты детекции и внутреннего комплаенса. Бизнесу важно будет понимать, что именно попадает под требования: компании могут начать вводить корпоративные правила - где ИИ допустим, кто утверждает публикацию материалов, как фиксируется происхождение контента.
В-шестых, для медиарынка и рекламы обязательная маркировка может стать фактором доверия: прозрачность происхождения изображения или ролика снижает риск репутационных скандалов. Но одновременно это добавит ответственности редакциям и продакшенам - потребуется регламент, кто и как подтверждает источник.
В-седьмых, если нормы будут приняты, неизбежно появится практика проверок и споров: например, обязан ли распространитель маркировать контент, если автор метку не поставил, или достаточно "добросовестных мер" со стороны платформы. От ответа на этот вопрос зависит, ляжет ли нагрузка на создателей или на площадки.
В итоге обе инициативы - и тестирование ИИ на соответствие ценностным ориентирам, и обязательная маркировка ИИ-контента - пока находятся в стадии обсуждения. Но направление понятно: государство стремится одновременно повысить управляемость ИИ в чувствительных сценариях и сделать цифровую среду более прозрачной для пользователей, особенно на фоне риска дипфейков и манипулятивного контента.
