Платформа Доверенного Искусственного Интеллекта (ДИИ)

Платформа Доверенного Искусственного Интеллекта (ДИИ)

Платформа ДИИ — облачная платформа для разработки доверенных систем искусственного интеллекта. Обеспечивает автоматизацию процессов по выявлению и устранению угроз, возникающих на всех этапах жизненного цикла разработки моделей машинного обучения.

Инфраструктура

• MLOps ядро платформы;
• инструменты тестирования уязвимости к атакам, защит, интерпретации;
• репозиторий до¬веренных фреймворков;
• среда анализа безопасности фреймворков;
• бенчмарки для проведения экспериментов.

Платформа ДИИ – это:

• Набор инструментов обеспечения доверия, расширяющийся с появлением новых передовых техник в научной литературе. В набор входят:
  • инструменты проверки уязвимости моделей к распространенным типам атак;
  • инструменты обучения априорно устойчивых и интерпретируемых моделей;
  • инструменты повышения устойчивости моделей к распространенным типам атак;
  • инструменты интерпретации работы моделей.
• API и SDK для встраивания процессов по обеспечению доверия в существующие инструменты разработки.
• Отчуждаемость. Платформа может быть развёрнута на площадке заказчика − как на существующем оборудовании, так и в составе программно-аппаратного комплекса;
• Гибкая модульная архитектура, позволяющая добавлять новые инструменты, специфичные для прикладных задач заказчика;
• Обновляемые доверенные версии распространенных библиотек и фреймворков машинного обучения (PyTorch, TensorFlow и др.);
• Инфраструктура, обеспечивающая методологию, позволяющую получать доверенные версии необходимых фреймворков и библиотек;
• Прозрачное решение типовых вызовов и проблем, возникающих при разработке моделей машинного обучения: версионирование моделей и данных, изоляция и планирование экспериментов, обеспечение воспроизводимости результатов;
• Инструменты для решения проблемы устаревания моделей и борьбы с дрейфом данных в реальных системах, использующих технологии ИИ.

Для кого предназначена Платформа ДИИ?

Платформа предоставляет инструменты, полезные следующим группам разработчиков:

• ML-инженерам, решающим прикладные задачи ИИ в критических областях;
• ML-исследователям в области доверенного ИИ ‒ для проведения экспериментов и быстрого внедрения передовых разработок в индустриальные процессы;
• MLOps-специалистам для построения инфраструктуры и автоматизации процессов разработки решений, использующих технологии ИИ;
• Специалистам по информационной безопасности, нацеленных на высокий уровень надёжности ‒ для формализации процессов обеспечения безопасности приложений на основе машинного обучения.

Схема работы