Мы обсудим постановку федеративного обучения с неполным участием устройств. Поскольку локальные выборки и коммуникационные каналы устройств в федеративных сетях неоднородны, вместо равномерного выбора участвующих клиентов обычно используются стратегии, основанные на значимости каждого клиента. 

Поскольку в таком случае направление, собранное с участвующих устройств, является смещенной оценкой полного градиента, возникает ряд трудностей для анализа таких схем. 

В частности, FedAvg не имеет гарантий сходимости даже при использовании неестественных предположений, таких как ограниченность градиентов, что создает предпосылки для разработки более совершенных фреймворков.

Вы хотите обучить мощную языковую модель, но доступная память на GPU строго ограничена, а стандартные оптимизаторы вроде AdamW тратят гигабайты на состояния и градиенты. Как же быть в условиях ограниченных ресурсов?

Семинар состоится с уникальным гостем Cong Fang — ресерчер из Peking University. Встреча пройдёт на английском языке.

Современные большие языковые модели (LLM) требуют колоссальных вычислительных ресурсов при полном дообучении. Поэтому методы малопараметрической настройки, такие как Low-Rank Adaptation (LoRA), стали стандартом для задач дообучения. Однако классическая LoRA страдает от фундаментальной проблемы — неоднозначности параметризации: одно и то же обновление весов может быть представлено множеством пар матриц (A, B), и выбор конкретного разложения влияет на качество обучения.

The Gromov-Wasserstein Optimal Transport (GWOT) problem aims to find structural correspondences between distributions without requiring point-to-point alignment. While continuous GWOT holds great potential for machine learning, most current solvers rely on discrete approximations. These methods often fail to generalize, restrict applicability to highly correlated datasets, and struggle with scalability.

Представьте себе ситуацию: вам нужны качественные прогнозы, скажем, перевода изображений из одной модальности в другую (например, МРТ снимков мозга из одного формата в другой), но полноценных парных примеров катастрофически мало. Зато простых данных по каждому типу объектов полно. Задача звучит знакомо? Мы назовём её задачей переноса доменов при наличии парных и непарных данных, и именно она станет главным героем нашего семинара!

Если для вашей задачи простого RAG оказывается недостаточно, на помощь приходят чуть более сложные методы, например, RAG fusion. Этот подход предлагает переформулировать запрос пользователя несколькими способами с помощью LLM, сделать по ним поиск, а затем объединить результаты, предварительно отранжировав их. Зачастую такой подход позволяет получить большую точность поиска, несильно усложнив классический RAG.

Обязательно ли иметь огромные вычислительные ресурсы для получения качественных генераций? Оказывается, что можно существенно наращивать качество за счет правильного извлечения знаний, полученных в ходе обучения больших моделей.

На семинаре обсудим три ключевых сюжета:

Что особенного в методе Ньютона и почему он устойчив к аффинным преобразованиям;

Как строить scale-invariant методы: нормализация градиентов, адаптивные шаги, предобусловливание и др.;

Современные подходы: что обсуждают на передовой, зачем это нужно большим моделям и как всё это связано с LoRA-дообучением.

Расскажем о подходе CALF (Critic as Lyapunov Function), который объединяет методы устойчивости динамических систем с алгоритмами RL и даёт строгие гарантии стабильности поведения агента.

Посмотрим на более широкий круг практических проблем, с которыми сталкиваются современные системы видеоанализа.

Матричная задача Прокруста — это задача поиска наилучшей ортогональной матрицы, приближающей заданную. Несмотря на простую формулировку, она находит применение в самых разных областях: от квантовой химии до методов оптимизации в машинном обучении.

При обучении современных нейронных сетей все чаще параметры (nn.Module ю ноу) имеют вид матриц (двумерных тензоров), однако классические методы оптимизации никак не учитывают эту структуру, так как любимые AdamW и SGD (sign SGD) работают в режиме element-wise.

Поговорим о современных вызовах в обработке видео — от уязвимостей нейросетевых моделей до оптимизации потокового вещания с помощью федеративного обучения.

Разберем современные подходы к использованию гомогенности локальных данных для построения эффективных методов распределенного и федеративного обучения. На семинаре будут представлены последние результаты нашей лаборатории и перспективные направления развития этой области