Деятельность ИЦДИИ ИСП РАН

Результаты деятельности ИЦДИИ

1. Доверенные фреймворки машинного обучения TensorFlow и PyTorh.

С августа 2022 года сотрудниками ИЦДИИ исправлено около 60 ошибок во фреймворках. Все они приняты в основные ветки TensorFlow и PyTorch.

Специфика внедрения:

• непрерывная работа по выявлению дефектов фреймворков;
• синхронизация с оригинальными открытыми версиями.

Результаты 2022 года:

Уменьшение числа угроз безопасности систем ИИ за счет использования доверенных фреймворков:

• апробация на решениях индустриальных партнеров;
• внедрение в «Kaspersky Machine Learning for Anomaly Detection» v. 3.0.

Обеспечение технологической независимости:

• формирование коллектива, который может оперативно исправлять уязвимости в базовом ПО для машинного обучения.

В планах на 2023 год:

• инициативная сертификация для нового заказчика АО «КТ – Беспилотные системы»;
• отчуждаемая методика разработки доверенных фреймворков машинного обучения;
• новые версии доверенных фреймворков.

2. Доверенная версия платформы Talisman.

Платформа Talisman предназначена для построения интеллектуальных информационно-аналитических систем.

Соответствует критериям доверия к системам, использующим технологии искусственного интеллекта. Критерии разработаны в рамках мероприятия 46 Программы Центра, ожидается официальный документ от ФСТЭК РФ в 2023 году.

Решается задача применения разработанных технологий и методик к платформе Talisman, в том числе апробация и доработка фреймворков, а также уточнение критериев доверия с учетом специфики платформы. Ведётся анализ используемых датасетов и моделей машинного обучения.

В планах на 2023 год:

• апробация и внедрение платформы у индустриальных партнёров (IPC, «ЕС-Лизинг»).