При поддержке Минцифры создан консорциум для исследований безопасности технологий искусственного интеллекта.
Консорциум исследований безопасности ИИ объединяет экспертов и организации для разработки безопасных, этичных и надежных технологий искусственного интеллекта. Мы стремимся минимизировать риски, обеспечивать прозрачность и содействовать ответственному внедрению ИИ на благо общества.
21 мая 2024 года руководителями АНО "Национальный технологический центр цифровой криптографии" (НТЦ ЦК), Академии криптографии Российской Федерации и Института системного программирования им. В.П. Иванникова Российской академии наук (ИСП РАН) было подписано соглашение о формировании Консорциума исследований безопасности технологий искусственного интеллекта.
Задачи
- Способствовать созданию и развитию защищённых технологий для работы с различными типами данных, включая обезличенные персональные данные, с использованием технологий машинного обучения и методов ИИ
- Повышать уровень защищённости отечественных программных продуктов и программно-аппаратных комплексов (ПАК), использующих технологии доверенного и защищённого искусственного интеллекта
- Совершенствовать средства разработки и тестирования технологии доверенного и защищённого ИИ
- Способствовать повышению квалификацию специалистов по разработке отечественных программных продуктов и ПАК с применением технологии доверенного и защищённого ИИ
- Разрабатывать методы и решения для обеспечения доверия и защищённости технологии ИИ с использованием криптографии
- Создавать центры коллективного пользования научным и технологическим оборудованием
- В ближайшее время к консорциуму планируют присоединиться компании из сферы информационной безопасности и искусственного интеллекта, а также передовые вузы страны.