В докладе подчёркивается, что внедрение ИИ открывает новые горизонты для бизнеса и общества, но одновременно формирует принципиально новые угрозы для цифровых активов. Опасности могут возникать не только из-за целенаправленных кибератак, но и при рутинном использовании ИИ-инструментов, что может привести к утечке конфиденциальных данных. Поэтому задача компаний — не только использовать потенциал ИИ, но и выстроить надёжную систему защиты, минимизируя риски на всех уровнях.
«Защита ИИ — это непрерывный цикл, требующий постоянного обновления и адаптации. Применение семи шагов, которые мы предложили в 2025 году, обеспечивает высокий уровень кибербезопасности, надёжность и этичность искусственного интеллекта, позволяя эффективно отвечать на новые вызовы цифровой эпохи. Управление активами ИИ требует инвентаризации моделей, данных и архитектуры, чтобы устранить "слепые зоны". Комплаенс становится инструментом анализа норм, а выявление уязвимостей включает проверку происхождения данных и процессов разработки. Обязательны верификация и регулярное обновление моделей. Мониторинг отслеживает дрейф данных и аномалии, а расследование — анализ артефактов. Реагирование учитывает автономность ИИ, включает анализ причин, изоляцию угрозы и восстановление системы», — отметил спикер.
Продолжением темы кибербезопасности при использовании технологий ИИ стал доклад ещё одного представителя ООО «Газинформсервис», начальника Аналитического центра кибербезопасности ООО «Газинформсервис» Лидии Витковой. Она выступила с докладом «Когда ИИ общается с ИИ: новые вызовы безопасности и архитектура мониторинга для мультиагентных сред», который также был посвящён безопасному использованию ИИ.
Доклады представителей компании «Газинформсервис» вызвали живой интерес у гостей форума. В ходе дискуссии участники пришли к единому мнению, что в современных условиях защита искусственного интеллекта от киберугроз — одна из наиболее острых задач, для эффективного решения которой требуется системный подход и профессиональная экспертиза.
