Итоги ключевой сессии Консорциума ИБ ИИ: эксперты подвели итоги года и наметили приоритеты безопасности искусственного интеллекта на 2026 год

9 декабря 2025 г. на площадке Кластера «Ломоносов» в рамках Открытой конференции ИСП РАН, посвященной 85-летию со дня рождения основателя Института, академика В.П. Иванникова, успешно завершилось открытое итоговое совещание Консорциума исследований безопасности технологий искусственного интеллекта. Мероприятие под тематическим названием «Перспективы информационной безопасности в искусственном интеллекте» стало центральной дискуссионной площадкой года, собравшей ведущих регуляторов, экспертов в области ИИ и информационной безопасности, представителей науки и бизнеса.

Основной фокус встречи был направлен на подведение итогов деятельности рабочих групп Консорциума в 2025 году и формирование стратегических планов на предстоящий 2026 год.

Ключевые тезисы от приглашенных экспертов:

Вероника Строголева (Минцифры России) отметила, что 2025 год стал этапом активного формирования нормативной базы в сфере ИИ, где особое внимание уделялось вопросам ИБ. На 2026 год приоритетом станет выработка конкретных механизмов обеспечения доверия к технологиям ИИ, включая стандарты оценки их надежности и безопасности.
Наталья Касперская (ИнфоВотч) акцентировала внимание на социальных рисках, связанных с распространением ИИ, таких как манипуляция общественным мнением и дезинформация. Она представила ряд предложений по регулированию, направленных на создание в России сбалансированной и устойчивой экосистемы доверенного искусственного интеллекта.
Николай Ляпичев (АНО «Цифровая экономика») ввел в дискуссию понятие «топологии рисков ИИ» как новой сложной среды для информационной безопасности. Он подчеркнул необходимость четкого распределения ответственности при использовании ИИ-систем и важность учета международного опыта.

Итоги работы Рабочих групп и планы на 2026 год:

В ходе сессии руководители рабочих групп представили отчеты о проделанной работе:

• РГ 1 (Нормативное регулирование): Как отметил Дмитрий Служеникин, Секретарь Консорциума, 2025 год показал, что регулирование ИИ – динамичная сфера, требующая постоянной корректировки подходов на основе накопленного опыта. Приоритеты на 2026 год: Активное участие в создании единого штаба по развитию ИИ, разработка конкретных предложений по изменению законодательства и формирование перечня НПА, требующих корректировки с учетом созданной модели угроз. 
• РГ 2 (Тестирование технологий ИИ): Антон Башарин (Свордфиш Секьюрити) сообщил о разработке и апробации методик тестирования ИИ-систем на устойчивость к враждебным воздействиям. Также обозначил четкую цель: выработка требований и методик проверки соответствия им технологий ИИ.
• РГ 3 (Реестр доверенных технологий ИИ): Лидия Виткова (Газинформсервис) подробно рассказала о работе по формированию реестра доверенных решений ИИ. В 2025 году была сформирована концепция реестра доверенных решений ИИ, сформирован список функциональных и нефункциональных требований. В результате работы выявилась необходимость Полигона тестирования ТИИ. К нему формируется ТЗ. Но главный вопрос, который был направлен в адрес регуляторов «Кто квалифицированный заказчик?».

Также Лидия представила результаты практической работы с регионами, выявив ключевые проблемы:

• Неполнота и ошибки в данных о развернутых ИИ-системах.
• Критическое несоответствие заявленной и реальной архитектуры.

В ответ на эти вызовы был предложен комплекс мер:

1. Стандартизацию и автоматизацию оценки через чек-листы и систему предварительного Trust Score (оценка доверия).
2. Кадровое обеспечение через программы обучения и библиотеку лучших практик.
3. Создание независимого экспертного пула для аудита.
4. Формирование технологической базы: полигон для тестирования, библиотека эталонных атак и «цифровые двойники» ГИС для безопасной оценки рисков интеграции.

• РГ 4 (Безопасная разработка): Вартан Падарян (ИСП РАН) подчеркнул, что правовое регулирование должно опираться на реальные технологические возможности. Была представлена Дорожная карта разработки инструментов ДИИ. Группа работает над определением базового уровня защищенности, которому должны соответствовать системы ИИ. Практический результат года: Создание основ Платформы Доверенного ИИ – отчуждаемого инструментария, объединяющего абстракции для безопасной разработки и MLOps-инфраструктуру. Это готовый фундамент для внедрения принципов Security-by-Design в жизненный цикл AI-систем. 

На основе опыта, полученного в рамках работы, в том числе и Консорциума, ИСП РАН внес на рассмотрение поправки в ГОСТ Р 56939-2024

Модератор сессии, Игорь Качалин (НТЦ ЦК), резюмировал, что Консорциум подтвердил свою роль как эффективной площадки для консолидации усилий государства, науки и индустрии. Главным итогом 2025 года стало формирование системного подхода к безопасности ИИ, а ключевой задачей на 2026 год станет практическая реализация разработанных концепций и их внедрение в реальные процессы разработки и регулирования.
Мероприятие прошло в рамках Открытой конференции ИСП РАН, посвященной 85-летию со дня рождения основателя Института, академика В.П. Иванникова, что подчеркивает преемственность фундаментальных научных школ и их роль в решении самых актуальных технологических задач современности.