Исследовательский центр доверенного искусственного интеллекта

О центре

Исследовательский центр доверенного искусственного интеллекта (ИЦДИИ) основан на базе ИСП РАН в 2021 году в результате конкурсного отбора в рамках федерального проекта «Искусственный интеллект».

Руководитель: Д.Ю. Турдаков, к.ф.-м.н.

Число сотрудников: более 100.

Цель работы центра: создание методик и соответствующих программных и аппаратно-программных платформ для разработки и верификации технологий искусственного интеллекта (ИИ) с требуемым уровнем доверия.

Задачи центра

• фундаментальные и прикладные исследования в области доверенного искусственного интеллекта;
• создание масштабируемой (облачной) платформы, включающей специализированные инструменты разработки доверенных систем ИИ, а также соответствующих ПАК;
• подготовка высококвалифицированных кадров через реализацию новых учебных курсов по тематике Центра и вовлечение студентов и молодых специалистов во все активности Центра, в том числе разработку прикладных доверенных систем ИИ;
• создание и модерирование распределенного сообщества ведущих российских ученых по тематике Центра и экосистемы потребителей на основе принципа равнодоступности результатов работы Центра.

Индустриальные партнеры

• Лаборатория Касперского
• ЕС-Лизинг
• Интерпроком
• ТЕХНОПРОМ

Основной продукт ИЦДИИ ИСП РАН

Облачная платформа для анализа и разработки доверенных систем, использующих технологии ИИ. Объединяет программные инструменты и методики для противодействия принципиально новым угрозам, возникающим на всех этапах жизненного цикла соответствующих технологий:

• Доверенные фреймворки и библиотеки машинного обучения.
• Инструменты проверки наличия аномалий в наборах данных.
• Инструменты оценки устойчивости обученных моделей к атакам.
• Инструменты для повышения доверия к предобученным моделям.
• Методы защиты моделей от атак на этапе эксплуатации.
• Методы объяснения моделей.
• Методы обнаружения дрейфа данных.
• Методы выявления предвзятости моделей.