Центр защитных моделей Искусственного Интеллекта МНИИПУ

Команда Центра защитных моделей ИИ (ЦЗМ МНИИПУ) начала формироваться в экспертном сообществе МНИИПУ в 2018 году. Сегодня ЦЗМ является специализированным научно-прикладным подразделением МНИИПУ, деятельность которого направлена на разработку, упреждающую оценку, сертификацию существующих моделей и систем искусственного интеллекта общего назначения на предмет их соответствия культурному коду, морально-этическим нормам, национальному законодательству в странах присутствия МНИИПУ.

Центр является ядром формирующегося Консорциума по смысловой безопасности искусственного интеллекта – объединения ведущих вузов, исследовательских центров и технологических компаний России и других стран для разработки и внедрения защитных моделей ИИ (гардов), стандартов безопасного использования генеративных и предсказательных ИИ‑систем.

Миссия ЦЗМ – обеспечить доверие к ИИ‑сервисам за счёт системной защиты пользователей от вредного, манипулятивного и юридически рискованного контента, а также за счёт разработки и внедрения национальных стандартов смысловой безопасности ИИ в странах присутствия МНИИПУ.

Деятельность ЦЗМ включает разработку и успешную апробацию в ИИ-сервисах модели класса «Деперсонификатор» (детектор персональных данных и охраняемого авторским правом материала) и класса
«Реестр» (классификатор нескольких типов запрещённого контента по российскому законодательству). Доступ к моделям предоставляется по запросу.
Также проходят тестовые испытания модели класса «Барьер» (детектор инструкций для взлома в пользовательском запросе), класса «Серая зона» (классификатор неоднозначного, пограничного контента), класса «Маркер» (детектор немаркированного ИИ-генерированного текста).

Ключевые сотрудники ЦДЗ:

Кузьмин Алексей Алексеевич

Директор центра защитных моделей искусственного интеллекта

 

 

 

 

Имеет 20-летний опыт управления проектами в области цифровизации и искусственного интеллекта, десятки успешно реализованных цифровых проектов

Душкин Роман Викторович

Заместитель директора – главный архитектор

 

 

 

 

Профессор  МНИИПУ, первый российский евангелист  ИИ, разработчик, автор более 20 книг об ИИ, руководитель образовательной программы «Искусственный интеллект и моделирование когнитивных процессов в проектировании и разработке информационных систем» в НИЯУ МИФИ

Тихомирова Екатерина Григорьевна

Главный эксперт

 

 

 

 

Доктор философских наук, профессор, ведущий российский эксперт по вопросам этики применения ИИ, преподаватель уникального авторского курса «Антропология искусственного интеллекта» в НИЯУ МИФИ.