Инженерно-математическая школа ВШЭ и VK открывает направление по безопасности машинного обучения и ИИ
Инженерно-математическая школа (ИМШ) Московского института электроники и математики (МИЭМ) Вышки и VK расширяет подготовку специалистов в сфере информационной безопасности. Благодаря высокому спросу на профильных специалистов мастерская по высоконагруженным системам расширяет направления работы и трансформируется в мастерскую безопасной разработки и эксплуатации высоконагруженных систем. Это стратегически важное направление, в котором у МИЭМ ВШЭ накоплена значительная экспертиза.
В мастерской откроется новое подразделение, посвященное безопасности машинного обучения (ML Security). Оно сфокусировано на защите моделей искусственного интеллекта и их датасетов от различных типов атак: кражи, вредоносных данных и подмены результатов.
Студенты, работающие в этом направлении, получат практический опыт в области автоматизации процессов машинного обучения (MLOps) и обеспечения их безопасности (MLSecOps). В командах под руководством экспертов они займутся:
разработкой R&D-инструментов MLSecOps — исследованием атак на ML-модели и созданием реестра решений по их защите;
созданием инструментов контроля безопасности ML-моделей и датасетов — утилит для анализа устойчивости моделей к угрозам и автоматизации проверки их безопасности.
Запуск нового направления осуществляется при поддержке индустриального партнера — VK. Руководителями проектов выступают эксперты Центра программных разработок и цифровых сервисов МИЭМ ВШЭ Виктор Минченков и Михаил Шульгин.
Дмитрий Коваленко
«Открытие нового направления в ИМШ — важный шаг для МИЭМ. В рамках мастерских наши студенты получают практические навыки и уверенное владение инструментами. Благодаря участию экспертов и работе над реальными проектами от индустриального партнера — VK, мы помогаем студентам получить необходимый импульс для старта успешной карьеры в технологических компаниях», — отметил Дмитрий Коваленко, проректор ВШЭ, директор МИЭМ.
Новое направление открывает перед студентами возможности для участия в актуальных исследованиях и разработке решений, которые определят будущее защиты данных и машинного обучения.
Дмитрий Куколев, руководитель SOC VK, уверен: «Работа над проектами Инженерно-математической школы — это вызов. Но процесс точно будет увлекательным, а результаты — полезными».
Инженерно-математическая школа НИУ ВШЭ и VK была создана на базе МИЭМ как проект, объединяющий студентов разных факультетов и кампусов НИУ ВШЭ, заинтересованных в программировании, анализе данных и информационной безопасности. Здесь студенты получают доступ к индустриальным кейсам, работают с ведущими экспертами-практиками и осваивают методы решения актуальных технологических задач от бизнес-юнитов компании VK.