1 сентября завершилась Летняя школа машинного обучения Сколтеха (SMILES-2023 https://smiles.skoltech.ru/) в Белокурихе Горной, предгорной местности Алтайского края. Итогом 12-дневного интенсивного курса стали постерные презентации и защиты групповых проектов, созданных на хакатоне «Методы ИИ для решения индустриальных задач устойчивого развития». Успешно защитившиеся выпускники получили сертификаты, подписанные ректором Сколтеха Александром Кулешовым и руководителем Центра прикладного ИИ Сколтеха Евгением Бурнаевым.
«Мы не случайно решили в этот раз провести SMILES вдали от Москвы: это помогло привлечь больше участников из регионов. Кроме того, находясь в таком достаточно удалённом от цивилизации месте, студентам было легче сфокусироваться и на занятиях, и на работе над проектами, — отметил директор SMLES-2023 профессор Евгений Бурнаев. – Мы постарались максимально охватить в 12-дневном курсе все современные достижения глубинного машинного обучения, донести до участников темы, которые сейчас действительно интересны мировому научному сообществу в этой области. Некоторые результаты, описанные в лекциях, изначально были впервые представлены в мае этого года на ведущей международной конференции по машинному обучению ICLR 2023, и вот, их читают на Алтае, практически «с корабля на бал». Из общих впечатлений о школе — здесь собрались сильные студенты из разных регионов, которые смогли сделать очень интересные проекты, и это позволит им по возвращении домой заниматься машинным обучением ещё с большим успехом и мотивацией».
Победителями постерной сессии стали:
- Александр Толмачев представил постер «Анализ глубоких нейросетей на основе метода информационного узкого места с помощью сжатия с потерями». «В последние годы нейронные сети все чаще используются в самых разных сферах: в медицине, беспилотном транспорте, системах прогнозирования природных явлений. И все более значимым становится вопрос, как именно нейросеть принимает решения, и почему мы можем ей доверять, особенно в таких критических вопросах, как диагностика болезней по снимкам легких или предсказание распространения лесных пожаров, – говорит Толмачев. – Один из наиболее перспективных подходов анализа процесса обучения таких моделей – применение теоретико-информационных методов для исследования нейронных сетей. В нашей работе представлен метод для анализа взаимной информации между выходами слоев нейронной сети, основанный на сжатии внутренних представлений». В дальнейшем исследователь планирует применить технику нормализационных потоков к используемому методу – относительно новая технология уже позволила осуществить прорывы в различных областях машинного обучения. «Кроме того, будут проведены новые эксперименты с разными нейронными сетями для более подробного исследования соответствующих им информационных плоскостей. Эти исследования позволят нам приблизиться к ответу на главный вопрос, как учится нейронная сеть – с точки зрения теории информации», – добавил он.
- Татьяна Зайцева представила результаты исследования «Регулярность тайловых B-сплайнов», в котором изучаются специальные системы функций, тайловые B-сплайны. «На их основе построены алгоритмы для геометрического моделирования поверхностей. Подобные алгоритмы используются в мультипликации, например, компанией Pixar. На каждой итерации они добавляют новые детали к моделируемой фигуре», – рассказала Зайцева. Автор проекта исследует гладкость B-сплайнов, которая влияет на качество получаемых поверхностей и сходимость прикладных алгоритмов.
- Артем Галлямов представил постер «Разработка суррогатной модели для процесса очистки трещины ГРП». В проекте удалось сократить время работы существующего симулятора гидравлического разрыва пласта (ГРП) с 3 часов до 0,1 секунды с помощью суррогатной модели машинного обучения. Результаты исследования позволят проводить массированные расчеты при моделировании процесса ГРП и подбирать наиболее оптимальные параметры, что позволит увеличить кумулятивную добычу нефти и газа до 20%. В дальнейшем Галлямов планирует применить различные архитектуры нейронных сетей и улучшить качество данных.
Победители хакатона:
- Команда проекта «Прогнозирование динамики радарных спутниковых снимков на основе нейросетевых уравнений в частных производных» — Анатолий Онищенко и Стефан Мария Айлуро — разработали модель предсказания динамики льда в пределах залива. Она необходима для повышения безопасности судоходства на севере, когда серьезно не хватает данных со спутников. «Морякам на Севере крайне важно с точностью представлять себе картину перемещения льдов, чтобы избежать угроз для судоходства. Обычно они ориентируются на спутниковые снимки, но такие снимки делаются не каждый день, что не позволяет применять здесь классические методы машинного обучения. – поясняет Айлуро. – Особенность нашего решения в том, что оно улавливает паттерны взаимодействия близких участков льда, а также паттерн влияния погоды, заменяя не только спутниковые снимки, но и предсказывая саму динамику движения льдов. Благодаря этому модель может быть применена в существующих условиях нехватки реальных данных». В планах по дальнейшему развитию проекта у победителей – исследовать вдохновленные физикой архитектуры и адаптировать современные подходы к недостатку данных.
- Команда проекта «Оценка непрерывного энтропийного вассерштейнова барицентра на основе модели энергии» – Игорь Удовиченко и Александр Колесов – осуществляли поиск барицентра Вассерштейна, то есть некого среднего распределения. «На протяжении многих лет эта задача представляла собой лишь теоретический вопрос из-за некоторых ограничений, не позволяющих найти подходящее приложение или применение на практике, — поясняют авторы проекта. – С разработкой нового эффективного алгоритма начинается новая веха в данной области исследований, способствующая не только улучшению теоретических аспектов вопроса, но и открытию широкого спектра различных применений алгоритма».
- Команда проекта «Применение методов машинного обучения для исследования влияния потока плазмы в газовом разряде на динамику микрочастиц в конденсированном состоянии» — Даниил Колотинский, Богдан Кириллов и присоединившийся к ним онлайн Петр Ховенталь – исследовала левитирующие в плазме газового разряда микрочастицы конденсированного состояния. Они взаимодействуют друг с другом невзаимным образом из-за плазменного окружения. «Понимание механизмов взаимодействия плазмы и микрочастиц конденсированного состояния важно для многих областей, включая астрофизику, микроэлектронику и плазменную медицину. – объясняет Даниил Колотинский. – Для более точного понимания процессов, происходящих в таких системах, ученым требуются быстрые и эффективные способы для расчета сил, действующих на микрочастицы в потоке плазмы. Разработанный нами подход, основанный на применении методов машинного обучения, позволяет быстро и точно предсказывать эти силы».
Очно в SMILES-2023 обучались 65 студентов, магистров и аспирантов ведущих вузов России, активно вовлеченных в исследования в области машинного обучения и его применения для моделирования технических и физических систем. Для реализации проектов участникам школы был предоставлен доступ к суперкомпьютеру «Жорес» Сколтеха, специально предназначенному для решения задач машинного обучения и моделирования, основанного на данных.
Свыше 200 слушателей присоединились к школе онлайн. Участие в Летней школе машинного обучения Сколтеха было бесплатным для всех слушателей. Информационными партнерами школы выступили федеральный проект «Искусственный интеллект» национального проекта «Цифровая экономика» и открытая платформа «Россия – страна возможностей».
Контакты:
Skoltech Communications
+7 (495) 280 14 81
