Россиян спасут от опасного ИИ Ozon и Wildberries. Подготовлено постановление с расходами на 3 миллиарда

Контроль над ИИ

Активное развитие ИИ в России необходимо, чтобы не допустить технологического отставания, но этот процесс может привести к рискам для жизни и здоровья граждан, если не будет находиться под контролем государства. Угрозы могут исходить как от разработчиков ИИ, владельцев нейросетевых сервисов, так и от операторов ИИ, в том числе крупнейших из них — маркетплейсов. Такие выводы содержатся в материалах Минцифры, подготовленных по итогам публичных обсуждений проекта постановления Правительства «О внесении изменений в постановление Правительства № 418 от 2 июня 2008 г.». С документами удалось ознакомиться CNews. Новая редакция постановления может вступить в силу уже с 1 октября 2026 г.

Планируемые изменения призваны наделить Минцифры полномочиями по регулированию ИИ в России главным образом обеспечения безопасности общества и государства при внедрении и использовании этих технологий. Министерство собирается стать единым центром контроля за ИИ в России: через него будут проходить проекты федеральных законов, акты Президента и Правительства России и другие документы.

Риски безопасности

В Минцифры констатировали, что отсутствие системного регулирования, неопределённость прав и обязанностей лиц, связанных с ИИ, а также недостаточность мер поддержки сдерживают развитие нейросетей, что грозит техническим отставанием. Но если развитие набирает обороты, а должный контроль отсутствует, появляются куда более весомые риски.

Минцифры будет заботиться о безопасности ИИ на российских маркетплейсах

«Актуализируется риск того, что технологии искусственного интеллекта будут применяться без одновременного принятия мер по безопасности указанных технологий, что может привести к нанесению ущерба, в том числе жизни и здоровью граждан, имуществу, общественной безопасности и т.п.», — следует из материалов Минцифры.

Кроме того, внедрение и использование ИИ, как и любой другой технологии, может быть сопряжено «с рисками причинения вреда личности или юридическому лицу, а если технология внедряется в значимых объектах инфраструктуры или в госсекторе — также обществу в целом и государству», констатировали в министерстве.

К регулированию ИИ со стороны Минцифры готовы не все. Торгово-промышленная палата (ТПП) предлагала Минцифры исключить из числа субъектов регулирования, которых почти 28 тысяч, российские маркетплейсы. По версии палаты, контроль со стороны Минцифры якобы будет иметь негативные последствия для развития цифровой экономики.

«Предлагаемые изменения наделяют Минцифры России широкими полномочиями по подготовке нормативных правовых актов в сфере искусственного интеллекта, что создает риск распространения будущего регулирования на алгоритмы рекомендаций, поиска, ранжирования, антифрода и иные технологии, используемые маркетплейсами», — говорится в предложении палаты. В ТПП запрашивали дополнительные консультации с отраслью электронной коммерции до принятия проекта постановления.

Однако в Минцифры что-либо менять отказались и предложение на тот момент (конец июля 2026 г.) не учли. Но работа над проектом постановления продолжается.

«Опубликованный документ не является итоговой версией. С учетом замечаний по итогам оценки регулирующего воздействия (ОРВ) проект постановления будет скорректирован. По итогам будет подготовлена новая редакция проекта постановления», -– пояснили CNews в пресс-службе Минцифры.

При необходимости новая редакция будет повторно размещена на портале правовых актов для общественного обсуждения. Минцифры продолжает совместную работу по совершенствованию законодательства в сфере ИИ совместно с бизнесом и заинтересованными ведомствами, подчеркнули министерстве, не раскрыв более свежих подробностей.

Опасный ИИ на маркетплейсах

Эксперты, опрошенные CNews, поддержали позицию Минцифры о необходимости контроля за ИИ на маркетплейсах.

«Их нужно оставлять под регулированием. Это, наверное, одна из главных точек контакта, где рядовые граждане сталкиваются с негативным эффектом от использования ИИ», — сообщил CNews технический директор разработчика ИИ-решений Metamentor Данила Дьяченко.

Последние несколько лет генерация карточек и контента для них, автогенерация ответов на отзывы и вопросы, которая отличается от реальных свойств товара, — это реальная проблема, и она вводит в заблуждение миллионы пользователей. Дьяченко назвал недобросовестную валидацию контента на маркетплейсах, например допуск к продаже небезопасного товара, одной из главных угроз, исходящих от ИИ для россиян.

Уровень безопасности на маркетплейсах остается критически низким, поскольку нововведённый 243-ФЗ от 26.07.2026 сместил фокус с комплексного регулирования на поддержку исключительно больших фундаментальных моделей (БФМ), добавляет Радмила Радзивил, управляющий партнер ЮК «Правый берег».

На маркетплейсах угроза жизни и здоровью граждан может выражаться в пропуске опасного товара системой модерации, создании недостоверного описания лекарственного препарата либо продвижении продукции с ложными медицинскими свойствами, рассуждает Алена Троицкая, юрист Lidings.

Специфика риска здесь не в тяжести единичного случая, а в масштабе: одна ошибка модели на маркетплейсе реплицируется миллионы раз за сутки, затрагивает многомиллионную аудиторию, и обнаруживают эту ошибку обычно постфактум, благодаря жалобам, добавляет бизнес-архитектор проектов ИИ экосистемы «Авандок» ГК «Корус Консалтинг» Алексей Борщов.

При этом часть экспертов действительно считает, что электронная торговля может пострадать от избыточного регулирования. Советник M&A и корпоративной практики, руководитель практики AI & Legal Tech O2-STREAM Софья Смирнова указывает и на наращивание контроля в отношении электронной торговли.

«Отклонение предложения ТПП исключить маркетплейсы я считаю обоснованным по существу, хотя и не по форме. Маркетплейс — не разработчик модели, но он оператор, чьи ИИ-системы напрямую влияют на потребителя, и по объёму этого влияния он опережает большинство разработчиков. Правильная развилка не «включать или исключать отрасль», а привязывать объём обязанностей к роли субъекта и к уровню риска конкретной системы. Тем более что параллельно вступает в силу закон о платформенной экономике, и требования к платформам стоит согласовывать между двумя режимами, а не наращивать независимо», — добавила эксперт.

По словам Борщова, реальная проблема, которую поднимала ТПП, не в самом факте регулирования, а в качестве соотношения с другими законодательными актами: с 1 октября маркетплейсы уже входят в число регулируемых площадок по 289-ФЗ о платформенной экономике, согласно которому алгоритмы ранжирования и рейтингов товаров, предлагаемых на маркетплейсах, регулируются через реестр цифровых платформ, а раскрытие правил ранжирования становится обязательным.

«Если требования к одним и тем же алгоритмам будут составляться в разных ведомствах по разной логике, площадки получат не двойной контроль, а двойную отчётность, поэтому, на мой взгляд, вопрос заключается не в целесообразности исключения для одной отрасли, а в разграничении предметов регулирования», — считает Борщов.

Как маркетплейсы внедряют ИИ

CTO coMind (архитекторы AI-native) Егор Апрельский отмечает, что самые известные примеры внедрения ИИ на маркетплейсах — у Wildberries, Ozon, «Яндекс Маркета» и Avito. При этом именно Wildberries и Ozon применяют ИИ по всей цепочке: персональная выдача, проверка товаров и контента, инструменты для продавцов от генерации карточек до прогноза спроса, таргетинг рекламы и логистика. «Яндекс Маркет» сделал ставку на покупателя: агент Market AI подбирает товары по фотографии и консультирует при выборе, указал эксперт. А вот Avito развивает собственные модели: лёгкая модель A-Vibe пишет объявления и помогает продавцам вести переписку с покупателями, а само ранжирование объявлений давно работает как нейросетевая модель.

Для маркетплейсов это означает, что регулирование охватывает и собственные модели площадки, и ее сервисы для продавцов, и алгоритмическую выдачу. Отказ Минцифры исключить маркетплейсы по предложению ТПП логичен: ИИ-инструменты продавцов часто собраны из внешних компонентов, но работают на инфраструктуре площадки и под её брендом, поэтому ответственность естественно остаётся на операторе платформы.

При этом сами площадки готовы говорить только о преимуществах нейросетей для всех участников электронной торговли. Так, в «Озоне» CNews заявили, что ИИ активно используется в прикладных сценариях крупных маркетплейсов, что делает его одним из ключевых инструментов повышения операционной эффективности.

«Прежде всего, внедрение машинного обучения в сервисы и поисковые алгоритмы значительно увеличивают выручку компаний и уровень персонализации, которую они предлагают пользователям, а также позволяет оптимизировать ключевые бизнес-процессы», — указали в «Озоне».

В Ozon ИИ-алгоритмы интегрированы в работу маркетплейса на разных уровнях: от модерации, где ML-модели автоматически проверяют карточки товаров, до рекомендательных систем. Регулярная доработка поиска уже обеспечила маркетплейсу +11,5% к заказам ежедневно, а объём покупок из рекомендаций на главной странице вырос более чем в 5 раз. В результате благодаря ИИ сегодня 9 из 10 пользователей Ozon ежедневно получают персональные подборки, а почти половина кликает по ним. Нейросети внедряются и во внутренние процессы маркетплейса: ИИ пишет более 10% нашего программного кода, повышая качество отладки, а также помогает HR-департаменту быстрее и проще обрабатывать кадровые документы — особенно на стадии найма сотрудников.

ИИ-помощник Ozon в формате чата формирует аналитические дайджесты и рекомендации по продажам меньше чем за минуту (что в 100 раз быстрее ручной аналитики), а половина топовых продавцов уже применяет его на практике. Популярностью также пользуются наши разработки по генерации описаний товаров и автоматическому редактированию фотографий: продавцы, которые системно применяют их при работе со своим ассортиментом, создают готовые карточки в среднем на 25% быстрее, чем без автоматизации.

Кроме того, недавно Ozon в пилотном режиме запустил ИИ-ассистента для покупателей, который в формате диалога помогает им с выбором товаров, анализируя обезличенные данные о запросах, отзывах, стоимости и сроках доставки.

Угроза жизни и здоровью от ИИ — не придумка

Эксперты согласны и с утверждением Минцифры о том, что ИИ может нести опасность для жизни и здоровья граждан.

Генеральный директор «Биорг» Дарья Джанкотти указывает, что если говорить про угрозу жизни и здоровью, это, в первую очередь, про медицинские сервисы с ошибочными рекомендациями или системы модерации, пропускающие контент, провоцирующий на различные поступки. Однако маркетплейсы попадают под логику 149-ФЗ: сервисы с аудиторией более 500 тыс. пользователей в сутки, говорит эксперт, добавляя, что их можно рассматривать в контексте финансовой и информационной безопасности.

«Угрозы жизни и здоровью, и прочие вопросы безопасности в области ИИ, о которых справедливо беспокоится государство, как правило, связаны с вопросом автономного принятия решений ИИ-системой, то есть без участия человека. В этом контексте снова возвращаемся к вопросу о том, что на текущий момент ИИ можно рассматривать как цифрового помощника человека, эксперта, а не как самостоятельного актора. Представьте себе алгоритм, управляющий медицинским оборудованием, беспилотным транспортом или энергоузлами КИИ. Именно для таких сфер в законе вводят понятие «доверенных моделей» и требуется обязательный человеческий контроль там, где на кону стоят права, свободы и физическая безопасность граждан», — считает Дарья Джанкотти.

При этом адвокат Intellect Александр Золоев указывает, что Минцифры выделяет «критический» уровень риска для систем, способных причинить вред жизни и здоровью граждан, нанести урон безопасности государства, а также для автономных комплексов, действующих без участия человека. Реальные примеры уже есть в мире: по данным Reuters, из-за использования нейросетей в медицинском оборудовании как минимум 10 человек получили травмы в период с конца 2021 г. по ноябрь 2025 г. Это лишь вершина айсберга — по мере проникновения ИИ в транспорт, медицину, промышленность и ЖКХ риски будут только нарастать, добавил эксперт.

Однако вряд ли в этом вопросе стоит драматизировать, добавляет Данила Дьяченко. По его словам, ИИ несет в себе такие же угрозы «жизни и здоровью», как и советы «знакомого».

В числе угроз Дьяченко указал массовое использование ИИ в процессах найма сотрудников. «На мой взгляд, это прямое порождение человеческой лени, которое значительно усложняет для обычных людей найм в компании, и они зачастую на более длительные промежутки остаются без работы, если они не научились редактировать резюме так, чтобы оно проходило валидацию ИИ-помощников HR, пока они пьют латте на кокосовом», — говорит эксперт. В то же время откровенно некомпетентные кандидаты могут попасть на должности, которые они не тянут.

Ещё одна угроза — это дипфейк-мошенничество. Уже на текущем витке развития ИИ сгенерировать компрометирующую информацию на любого человека и при должных стараниях выдать её за правду не составляет труда.

Сколько потребуется денег

Российские маркетплейсы, разработчики ИИ и владельцы сервисов должны будут потратиться на внедрение мер безопасности, которые предложит Минцифры через законодательные акты.

Пока точная сумма таких трат не известна. По предварительным расчетам, затраты могут достигнуть 2,7 млрд руб. в первый год после вступления постановления в силу. В последующие годы расходов не ожидается. При этом в Минцифры особо подчеркнули, что расчет пока гипотетический.

«Согласно предварительным оценкам, при реализации положений проектов нормативных правовых актов, разработка которых будет осуществляться в рамках закрепляемых полномочий, совокупный объём гипотетических затрат составит 2,667 млрд руб.», — говорится в материалах Минцифры.

В течение семи лет планируется достигнуть всех намеченных целей — создать условия для отечественных моделей ИИ и обеспечить безопасность ИИ, в том числе на объектах КИИ и в госсекторе.

Оценивать результативность работы Минцифры государство будет по таким показателям, как число преступлений и правонарушений, совершаемых с использованием ИИ, количество инцидентов с участием нейросетей на объектах КИИ, число отечественного программного обеспечения на базе (с поддержкой) ИИ.

Эксперты считают, что заявленная сумма может оказаться заниженной, но при этом для небольших разработчиков распределение расходов может стать существенным бременем.

«Как и в любой области ИБ, все столкнутся с внедрением процессов и продуктов, которые будут контролировать проверку выполнения установленных требований и, тем самым, обеспечивать безопасность», — пояснил CNews директор по развитию бизнеса CICADA8 Алексей Антонов.

В целом затраты можно сравнить с тем, что заказчик платит за любой класс решений — от пары до нескольких десятков миллионов рублей, в зависимости от объёма инфраструктуры. «Но важно понимать, что недостаточно одного внедрения. Не менее важно сформировать правильный процесс вокруг системы — это потребует отдельной экспертизы», — добавил Антонов.

Отдельная «боль» — требование обеспечить чистоту прав на данные для обучения, хотя, в конечно счете, это и необходимо, и доступ к отечественным вычислительным мощностям, которые остаются в остром дефиците, уточняет Дарья Джанкотти. По ее словам, бизнесу придется создавать целые департаменты ИИ-комплаенса и тратить десятки и сотни миллионов рублей на юридическую очистку датасетов, не говоря уже о других затратах на инфраструктуру.

Неоднозначная инициатива Минцифры

В целом эксперты признали грядущее усиление позиций Минцифры в регулировании ИИ неоднозначным вопросом. «С одной стороны, то, что государство в лице Минцифры становится во главе решения вопросов безопасности применения ИИ, закономерно и логично. Это принципиально важно для граждан прежде всего», — пояснил CNews генеральный директор АНО «НЦК ИСУ» Кирилл Семион.

С другой стороны, функции «по координации внедрения в ключевых отраслях» выглядят как сверхзадача.

«Трудно представить, какой объем работы потребуется. Он зависит от глубины погружения регулятора. Если до уровня отдельных проектов, то это может стать непосильной ношей. Проблема любого регулирования — не затормозить развитие и практическое применение технологии. То есть всё будет зависеть от документов, регламентирующих деятельность ФОИВ в данном вопросе», — считает эксперт.

Заместитель директора управления продуктов и технологий «Е-Флопс» Филипп Моднов поддерживает централизацию, так как у ответственного за деятельность ИИ должны быть «фамилия и адрес».

«Использовать ИИ для внутренних задач без попадания результатов на внешний рынок можно и без регулятора. Но как только продукты, использующие ИИ или созданные с помощью LLM, попадают в рабочие контуры производств, возникает классическая дилемма: кто будет отвечать за возможные отрицательные последствия для бизнеса и пользователей? Ответ «ИИ» очевидно не подходит, нужна фамилия и адрес. В этом случае централизация может дать одинаковые правила для всех (с градацией по критичности информации), единое информационное поле и унификацию технических требований, что хорошо. Конечно же, есть риск лоббирования ряда компаний, но это неизбежно, увы», — считает Филипп Моднов.

CTO coMind, архитекторы AI-native Егор Апрельский видит несколько рисков для бизнеса. Первый — непропорциональная нагрузка на небольших разработчиков: само постановление конкретных требований не вводит, их пропишут подзаконные акты, и если эти нормы будут писаться под крупнейшие экосистемы, постоянные издержки соответствия вытеснят мелких игроков с рынка, поэтому требования должны быть пропорциональны размеру и рискам системы. Второе узкое место, по его словам, проверка одной организацией тысячи сценариев ИИ. «Поэтому модель контроля должна опираться на декларации, независимый аудит и ответственность владельца системы, а не на предварительное согласование каждого внедрения», — считает эксперт.

Риск для государства, подчеркивает Егор Апрельский, — совмещение ролей. «В перечне показателей ведомства число инцидентов с ИИ стоит рядом с количеством отечественного ПО на базе ИИ, то есть Минцифры отвечает и за тормоз, и за газ. После первого серьезного инцидента перевесит осторожность, и развитие замедлится. При погоне за ростом пострадает безопасность. Чтобы баланс сохранялся, нужна прозрачная отчетность о том, как ведомство взвешивает эти две цели», — констатировал эксперт.

Главный риск может заключаться в чрезмерной централизации и зарегулированности, добавляет Юрий Тюрин, технический директор MD Audit (ГК Softline). Если единые требования будут одинаково применяться к условному чат-боту и ИИ, управляющему критическим технологическим процессом, это способно замедлить внедрение относительно безопасных решений.

«Есть и риск концентрации экспертизы: регулятору придется постоянно успевать за развитием технологий. Поэтому оптимальным выглядит риск-ориентированный подход: чем выше потенциальный ущерб от ошибки или атаки, тем жестче требования. А показатели вроде количества инцидентов и преступлений с использованием ИИ должны дополняться показателями качества реагирования и фактического снижения рисков. Тогда централизация будет инструментом повышения безопасности, а не просто новым уровнем бюрократии», — констатировал Юрий Тюрин.