Utilizing Intrinsic Knowledge of Visual Generative Models
18:35
О чём пойдёт речь?
Сегодня уже никого не удивить высоким качеством моделей генерации изображений и видео. Крупные технологические компании соревнуются за пальму первенства в вопросах качества и скорости генерации визуального контента. Но обязательно ли иметь огромные вычислительные ресурсы для получения качественных генераций? Оказывается, что можно существенно наращивать качество за счет правильного извлечения знаний, полученных в ходе обучения больших моделей.
На семинаре мы:
- Разберём, как устроен процесс обучения больших генеративных моделей;
Узнаем как использовать знания предобученной генеративной модели для улучшения её же качества на стадии supervised fine-tuning;
Рассмотрим inference-time scaling и reasoning — техники, которые активно применяются в LLM, но пока не изучены в визуальных генеративных моделях