ФСТЭК готовит требования к безопасности ИИ
Фото: пресс-служба BIS Summit 2026
ФСТЭК России разрабатывает новые требования к безопасности систем искусственного интеллекта. Они будут привязаны к рискам и угрозам, а не к отдельным моделям. Об этом первый заместитель директора ведомства Виталий Лютиков рассказал на конференции по информационной безопасности BIS Summit 2026.
По словам Виталия Лютикова, в нормативных документах ИИ по-прежнему считается обычным программным обеспечением. У него есть две особенности: он зависит от данных, на которых обучен, и ведет себя непредсказуемо. Ограничения модели задает ее окружение, то есть фильтры и базы данных, поэтому защищать нужно в первую очередь их. «Наши главные задачи — не допустить утечки данных через ИИ-модели и влияния ИИ-агентов на КИИ (критическую информационную инфраструктуру — прим.ред.). Тот, кто внедряет ИИ-решения, должен понимать риски и обеспечивать качество внедрения с учетом всех неопределенностей», — сказал Лютиков.
Аудитор Счетной палаты Светлана Орлова рассказала, что ведомство уже проводит аудит с помощью ИИ. Данные Счетная палата обрабатывает в едином цифровом пространстве вместе с другими ведомствами. «ИИ не заменит человека. И категорически нельзя переходить на новый этап цифровизации, не убедившись в том, что предыдущий этап полностью защищен», — отметила она.
Гендиректор АНО «НТЦ ЦК» Игорь Качалин возглавляет Консорциум исследований безопасности технологий ИИ. Он предупредил, что распределить ответственность станет особенно сложно, когда ИИ-агенты начнут взаимодействовать друг с другом. По его словам, даже система, созданная по актуальным стандартам безопасной разработки, может оказаться недоверенной после встраивания в конкретную информационную систему.
Директор АНО «Центр компетенций по импортозамещению в сфере ИКТ» Илья Массух, модерировавший сессию, сравнил ИИ с прежними ИТ-трендами, от ПК до блокчейна. По его мнению, в отличие от них ИИ действительно может надолго и радикально изменить жизнь людей, поэтому вопрос его безопасности стоит особенно остро.
Президент группы компаний InfoWatch Наталья Касперская, вторая модератор сессии, считает, что раньше специалистов по информационной безопасности не слушали, а говорили только о внедрении ИИ. Теперь риски, по ее словам, начали осознавать на самом высоком уровне. «Поскольку наша страна находится в чрезвычайно уязвимой в плане технологий позиции, нам надо быстрее, чем западному миру, адаптировать систему безопасности к искусственному интеллекту», — сказала Наталья Касперская.
