Участники SOC Forum: запрещать ИИ бессмысленно, им нужно управлять
Фото: пресс-служба SOK Forum
ИИ уже встроен в бизнес-процессы, и стратегия запретов ведет только к потере конкурентоспособности. В этом сошлись участники пресс-конференции на SOC Forum 27 октября — представители ГК «Солар», «Почты России», ДОМ.РФ и «Магнита». По их мнению, задача ИБ-служб — выстроить управляемую среду, а не блокировать технологию.
ИТ-директора просят безопасников дать способ безопасно работать с нейросетями, а не запрещать их, заявил генеральный директор ГК «Солар» Игорь Ляпунов. Он выделил четыре угрозы. Первая — скорость автономных атак. «Защита, которая работает со скоростью человека, уже проиграла», — сказал Ляпунов. По его данным, ИИ-агент уничтожил облачную инфраструктуру Azure примерно за 7 минут, а число публично раскрываемых уязвимостей за восемь месяцев 2026 года выросло вдвое — с 5045 до 10 740. Вторая угроза — вайбкодинг: по прогнозу Gartner, к концу 2026 года 20% публичного кода будут писать ИИ-агенты. «Узкое место сместилось с написания кода на доказательство того, что он безопасен», — подчеркнул спикер. Третья — сами агенты, которые получают доступы и учетные записи как новые идентичности. «Без "паспорта" для агентов больше половины ИИ-проектов остановятся», — считает Ляпунов. Четвертая — отсутствие национальных ИИ-моделей в условиях международной напряженности.
Заместитель гендиректора «Почты России» по цифровой трансформации Дмитрий Чудинов сравнил попытки ограничить ИИ с чрезмерными ограничениями, которые когда-то тормозили автомобилестроение. По его словам, в обычной разработке критических рисков нет — автоматизированный контроль кода делает процесс даже чище. «Меня пугает связка промпта и прав, когда модель имеет доступ к продакшену», — пояснил он.
Директор по ИБ ДОМ.РФ Дмитрий Шарапов назвал главной проблемой непредсказуемость больших языковых моделей: алгоритм можно прочитать, а поведение модели — нет. Один из способов снизить риски — дать сотрудникам удобные внутренние аналоги внешних сервисов, чтобы данные не уходили в публичные модели. «Если я финансовую отчетность могу сделать на внутреннем решении, я не пойду во внешнее», — пояснил Шарапов. Впрочем, полностью заменить фронтирные модели внутренними разработками не получится, признал он.
Руководитель управления ИБ «Магнита» Олег Лалаев указал на проблему масштаба: когда в инфраструктуре работают десятки тысяч агентов, нужно понимать, как выстроить сеть и шлюзы для их контроля.
Закрыть риски ИИ одним продуктом невозможно, считает директор Центра технологий кибербезопасности «Солара» Иван Вассунов: нужна единая платформа, где каждое решение отвечает на свой вопрос безопасности. Технический директор центра Евгений Федоров добавил, что классические средства защиты анализируют отдельные шаги, но не всю цепочку. Например, агент с правами менеджера получает письмо с инструкцией выгрузить базу CRM на внешний адрес. Каждый шаг выглядит легитимно, и ни одна система не поднимает тревогу. «Атака, связанная с ИИ, живет между шагами», — пояснил он. Для таких сценариев «Солар» представил Solar AI Firewall: продукт отслеживает, что агент читает, отвечает и делает. По заявлению компании, он выявляет около 99% атак более чем ста типов при доле ложных блокировок 0,72%.
