Консорциум исследований безопасности технологий искусственного интеллекта
Проекты
  • Рабочие группы
    • РГ-1
    • РГ-2
    • РГ-3
    • РГ-4
Информация
  • О Консорциуме
  • Участники
  • Реквизиты
  • Документы
Участники
Пресс-центр
  • Наша деятельность
  • Отраслевые новости
Контакты
    Консорциум исследований безопасности технологий искусственного интеллекта
    Проекты
    • Рабочие группы
      • РГ-1
      • РГ-2
      • РГ-3
      • РГ-4
    Информация
    • О Консорциуме
    • Участники
    • Реквизиты
    • Документы
    Участники
    Пресс-центр
    • Наша деятельность
    • Отраслевые новости
    Контакты
      Консорциум исследований безопасности технологий искусственного интеллекта
      0
      Консорциум исследований безопасности технологий искусственного интеллекта
      • Проекты
        • Назад
        • Проекты
        • Рабочие группы
          • Назад
          • Рабочие группы
          • РГ-1
          • РГ-2
          • РГ-3
          • РГ-4
      • Информация
        • Назад
        • Информация
        • О Консорциуме
        • Участники
        • Реквизиты
        • Документы
      • Участники
      • Пресс-центр
        • Назад
        • Пресс-центр
        • Наша деятельность
        • Отраслевые новости
      • Контакты
      • Кабинет
      • info@trust-ai.ru
      Главная
      Проекты
      Рабочие группы
      "РГ-4" Безопасная разработка технологий ИИ

      "РГ-4" Безопасная разработка технологий ИИ

      "РГ-4" Безопасная разработка технологий ИИ
      Руководитель: ИСП РАН
      Лидер группы: Падарян Вартан Андроникович
      Участники группы:
      • InfoWatch
      • Академия криптографии Российской Федерации
      • АНО «НТЦ ЦК»
      • АО «Позитив Текнолоджиз»
      • АПКИТ
      • Ассоциация ФинТех
      • Ассоциация ФинТех
      • ВИНИТИ РАН
      • ГК ГАРДА
      • НГТУ НЭТИ
      • НИУ ВШЭ
      • НИЯУ МИФИ
      • ООО «АйТи Бастион»
      • ООО «Газинформсервис»
      • ООО «Код Безопасности»
      • ООО «СВОРДФИШ СЕКЬЮРИТИ»
      • ООО «Солар Секьюрити»
      • ПАО ВТБ
      • РБО
      • РГГУ
      • РТУ МИРЭА
      • СПб ФИЦ РАН

      Цели

      Выработка согласованных требований к процессам разработки безопасных технологий ИИ. Определение состава мер и средств, обеспечивающих выполнение этих требований.

      Задачи

      Организационные, в рамках консорциума:

      1

      Синхронизация по перечню угроз безопасности ИИ, разработка предложений в части НПА (РГ1);

      2

      2. Определение порядка тестирования безопасности технологий ИИ (РГ2).


      Методические и технологические:

      1

      Состав процессов разработки безопасных технологий ИИ;

      2

      Технологии и инструменты разработки (анализа), включая безопасные ML-фреймворки;

      3

      Оценка требуемых вычислительных ресурсов для реализации требований безопасной разработки;

      4

      Требования к применяемым инструментам.


      Ожидаемые результаты

      Методические указания по обеспечению безопасной разработки технологий ИИ. Перечень референсных инструментов, обеспечивающих разработку безопасных технологий ИИ. Требования к эталонным датасетам, гарантирующим уровень безопасности предобученных моделей.


      ЗАДЕЛ ИСП РАН

      Исследовательский центр доверенного искусственного интеллекта

      Платформа для разработки доверенных технологий ИИ

      • Ядро платформы – собственное решение класса MLOps/MLSecOps
      • Доверенные ML-фреймворки PyTorch и TensorFlow
      • Быстрое подключение новых инструментов анализа и мониторинга моделей и датасетов
      • Интеграция в жизненный цикл новых и существующих систем ИИ
      • Платформа обеспечивает инструментальное сопровождение созданных Центром методологий разработки доверенных систем, использующих ИИ

      Отчуждаемые инструменты

      • Тестирования и защиты моделей машинного обучения от состязательных атак на этапе эксплуатации
      • Выявления и устранения предвзятости моделей машинного обучения
      • Интерпретации моделей машинного обучения
      • Обнаружения аномалий и дрейфа в наборах данных
      • Выявления и устранения закладок и вредоносного кода в предобученных моделях машинного обучения
      • Защиты от копирования обученных моделей машинного обучения и защиты от извлечения обучающих данных из обученных моделей

      Похожие проекты

      Рабочие группы, РГ-1
      "РГ-1" Формирование НПА для реализации Нац стратегии развития ИИ
      Рабочие группы, РГ-2
      "РГ-2" Тестирование технологий ИИ
      Рабочие группы, РГ-3
      "РГ-3" Создание и функционирование реестра доверенных решений ИИ
      Назад к списку
      Проекты
      Консорциум
      Контакты
      Контакты
      info@trust-ai.ru
      127273, Москва г, Отрадная ул., дом № 2Б, строение 1, этаж 9, комн.40
      © 2025 Консорциум исследований безопасности технологий искусственного интеллекта
      Политика конфиденциальности
      Карта сайта