В России предлагают ввести «фильтры национальной безопасности» для ИИ

Заместитель министра юстиции предложил обязать крупнейших разработчиков моделей искусственного интеллекта внедрить «фильтры национальной безопасности», чтобы нейросети не могли наносить ущерб, сопоставимый с деятельностью иностранных агентов.

Представьте себе, что искусственный интеллект просто заменит зарубежных «иноагентов» и начнёт делать то же самое, — так он охарактеризовал потенциальный риск.

По его словам, компании вроде Яндекса и Сбера должны скорректировать развитие своих ИИ‑моделей и взять на себя ответственность за работу фильтров — по аналогии с практикой, применяемой в некоторых других странах.

Замминистра предложил законодательно закрепить, кто отвечает за работу таких защитных механизмов, а также ввести санкции за нарушения: административные, уголовные и финансовые. Он подчеркнул, что штрафы будут самой ощутимой мерой воздействия.

Контекст государственной политики

Ранее президент поручал развивать «суверенные» модели ИИ, ориентированные на российскую культуру, историю и традиционные ценности, и подписал указ о создании комиссии по развитию искусственного интеллекта с участием представителей органов безопасности и обороны.

Министерство цифрового развития подготовило законопроект о регулировании ИИ, но он получил критику от крупных компаний. В частности, в нефтегазовой отрасли заявили о невозможности изолированного создания «суверенных» моделей без учёта глобальных технологий.

После возражений бизнеса власти отказались от идеи полностью запрещать использование зарубежных нейросетей и принудительного внедрения отечественных моделей во все информационные системы.