Лаборатория подготовила доклады для конференции ICML 2023
Сотрудники лаборатории подготовили две статьи, которые прошли на ведущую в мире научную конференцию по машинному обучению ICML 2023. Мероприятие проходило с 23 по 29 июля 2023 года на Гавайях с возможностью онлайн-участия.
Статья Is Consensus Acceleration Possible in Decentralized Optimization over Slowly Time-Varying Networks? подготовлена Дмитрием Метелёвым, Александром Рогозиным, Дмитрием Ковалёвым и Александром Гасниковым.
«Наша работа оказалась в списке прошедших, она представляет чисто теоретический интерес. В статье рассматриваются нижние оценки в распределенной задаче оптимизации на медленно меняющейся сети, а также специфические ограничения на нее, при которых удается получить теоретическое ускорение распределенных алгоритмов», — рассказал об исследовании Дмитрий Метелёв.
Материал High-Probability Bounds for Stochastic Optimization and Variational Inequalities: the Case of Unbounded Variance подготовлен Абдурахмоном Садиевым, Мариной Даниловой, Эдуардом Горбуновым, Самуэлем Хорватом, Готье Гиделем, Павлом Двуреченским, Александром Гасниковым и Питером Рихтариком. Ключевой целью исследования было проанализировать сходимость методов с клиппингом для задачи минимизации и вариационных неравенств при более общих предположениях на шум.
«Я увидел доклад Эдуарда [Горубнова] на Youtube-канале Optimization and Statistics, мне он понравился. Я написал Эдуарду, мы созвонились и договорились о совместной работе над статьей. Координатором работы над проектом был Эдуард непосредственно. Я начал изучать предыдущие работы и со временем доказал основную лемму, потом провел анализ сходимости clipped-SGDA», — поделился впечатлениями от работы Абдурахмон Садиев.
На конференции были представлены передовые исследования по всем аспектам машинного обучения, используемого в тесно связанных областях, в частности, искусственного интеллекта, статистики и науки о данных, а также в важных прикладных областях, таких как машинное зрение, вычислительная биология, распознавание речи и робототехника. Участниками выступили академические и промышленные исследователи, предприниматели, инженеры, аспиранты и другие ведущие специалисты.