Новости ИСП РАН


Новости ИСП РАН

Участники Альянса в сфере ИИ подписали декларацию об ответственном генеративном ИИ 13 Марта, 2024

Участники Альянса в сфере ИИ подписали декларацию об ответственном генеративном ИИ

Совместная декларация была подписана 13 марта на Дне ИИ в рамках международной выставки «Россия» на ВДНХ. Документ устанавливает этические принципы и рекомендации по ответственному отношению к искусственному интеллекту не только для разработчиков исследователей, но и пользователей нейросетевых сервисов.

Декларацию, разработанную на базе Альянса в сфере искусственного интеллекта, подписали компании-участницы ассоциации – Сбер, Яндекс, MTS AI. Также к ней присоединились ведущие вузы и научные организации страны: НИУ ВШЭ, Сколтех, Университет Иннополис, МФТИ, Университет ИТМО, Институт системного программирования РАН и Нижегородский государственный университет. Подписание состоялось в присутствии заместителя Председателя Правительства России Дмитрия Чернышенко. Декларация развивает и детализирует Кодекс этики в сфере искусственного интеллекта применительно к генеративному ИИ.

Документ является одним из примеров саморегулирования сферы технологий и охватывает разные аспекты осознанного отношения к разработкам на основе ИИ. Участники договорились о принципах безопасности и прозрачности, этичном отношении к чувствительным темам, принятии мер для предотвращения злоупотреблений и создания недостоверной информации, а также просвещении пользователей о возможностях новых технологий. Речь идёт о моделях для генерации голоса, письменного текста, изображений, звуков, видео и иных электронных сообщений на основании запроса пользователя.

С полным текстом декларации можно ознакомиться на сайте.

Александр Ведяхин, первый заместитель Председателя Правления Сбербанка:

«Генеративный искусственный интеллект открывает безграничные возможности для развития экономики и творческого потенциала. Сегодня он развивается сверхбыстрыми темпами. Потенциал внедрения генеративного искусственного интеллекта для решения конкретных задач безграничен. Сервисы на основе генеративного искусственного интеллекта смогут внести существенный вклад в улучшение жизни миллионов людей. При этом развитие и применение технологий должны быть ответственными. Этика имеет ключевое значение при разработке любых AI-систем. На всех этапах проектирования новых решений, отбора датасетов и обучения нужно договориться об общих правилах, принятых для общего блага. И тогда генеративный AI будет именно таким, каким его хотят видеть: помощником, который даёт суперсилы и новые супервозможности каждому, повышает производительность, высвобождает время для действительно важных вещей».

Александр Крайнов, Директор по развитию технологий искусственного интеллекта Яндекса:

«Генеративный искусственный интеллект набирает силу в решении как рабочих, так и личных задач. Мы в Яндексе стремимся делать наши продукты не только полезными, но и безопасными. Принятие декларации поможет всей отрасли в развитии сервисов на основе искусственного интеллекта при соблюдении ответственного отношения к технологии и её использованию».

Дмитрий Марков, исполнительный директор MTS AI:

«Подписание декларации о генеративном искусственном интеллекте коррелирует с общей стратегией Кодекса этики. Несмотря на многообещающие эффекты генеративного ИИ, очень важно качество данных, на которых обучают модели, чтобы избежать дезинформации в существенных вопросах нашей жизни».

Александр Кулешов, академик РАН, ректор Сколковского института науки и технологий:

«Важно понимать, что возможности генеративного искусственного интеллекта, которыми мы пользуемся уже сейчас, сами по себе представляют массу встроенных методов и алгоритмов для борьбы с несанкционированным его использованием. И этим надо пользоваться. Сколтех всячески поддерживает ответственное регулирование и грамотный и продуманный подход к такому инструменту как искусственный интеллект, приветствует появление данной декларации». 

Дмитрий Ливанов, ректор Московского физико-технического института:

«Генеративный ИИ совершает сегодня научно-техническую революцию в мире. И несмотря на то, что основные достижения происходят в больших технологических компаниях, они берут начало в ведущих университетах и усиливаются компетенциями наших выпускников.  Мы в МФТИ осознаём свою ответственность за формирование мировоззрения будущих исследователей и разработчиков, поэтому безусловно присоединяемся к этой декларации».

Владимир Васильев, ректор Национального исследовательского университета ИТМО:

«Принципы, изложенные в декларации, помогут разработчикам и пользователям учесть большинство рисков на начальном этапе работы с ИИ. Для поддержания и увеличения темпа развития искусственного интеллекта в России эффективнее заранее учитывать «подводные камни» в рекомендательных документах, чем исправлять запретами уже совершенные ошибки. Важна именно коллективная работа — это и государственные органы, и бигтех, и университеты, — так мы сможем оценивать прогресс и перспективы развития AI синхронизированно».

Александр Гасников, ректор Университета Иннополис:

«Генеративный искусственный интеллект слишком быстро меняет ландшафт технологий, и ведущим ИТ-компаниям и вузам страны, по-видимому, необходимо объединиться для формирования надежного и этичного фундамента в развитии и применении ГИИ. Подписание декларации об ответственном ГИИ не только подчеркивает нашу общую приверженность разработке безопасных, справедливых и транспарентных ИИ-систем, но и станет фундаментом для устойчивого технологического будущего. Эта инициатива поможет стимулировать инновации, обеспечивать защиту данных и личности, а также развивать ИИ ради блага нашего общества».

Арутюн Аветисян, директор Института системного программирования им. Иванникова Российской Академии Наук:

«Подписание декларации – логичный шаг, уточняющий положения Кодекса этики в сфере ИИ с учётом последних достижений: появления больших фундаментальных и генеративных моделей. В частности, в декларации отражены рекомендации, которые находятся в русле мировых тенденций: например, разработчикам предлагается проводить маркирование сгенерированного контента. Отдельно хотелось бы подчеркнуть научно-образовательную составляющую. В декларации есть рекомендации для исследователей и преподавателей по использованию генеративного ИИ как дополнительного инструмента. Это очень правильный подход. Нужно не запрещать передовые технологии, а учить их правильно использовать».

Олег Трофимов, ректор Национального исследовательского Нижегородского государственного университета им. Н.И. Лобачевского:

«Использование искусственного интеллекта в медицине является мировым трендом, а для Университета Лобачевского – это ключевое научно-образовательное направление. Мы хорошо понимаем, что ИИ несет не только большие возможности, но и очень серьезные вызовы, которые требуют от нас ответственного поведения и координации усилий. Декларация об ответственной разработке и использовании сервисов на основе генеративного искусственного интеллекта появилась очень вовремя. Она призвана зафиксировать наши добрые намерения, как разработчиков, и будет способствовать диалогу по ключевым вопросам развития ИИ».

Источник: Альянс в сфере искусственного интеллекта


Все новости