Новости из мира науки, технологий и авто
Источник фото: pixabay.com Специалисты качественно и количественно продемонстрировали эффективность вариационного автоэнкодера Ланжевена по сравнению с современной структурой логического вывода, основанной на градиентах.
Вариационный автоэнкодер (VAE) – одна из хорошо изученных генеративных моделей, которая очень популяра в современных исследованиях нейронного обучения. Во время использования VAE в практических задачах, имеющих большие размеры и огромный набор данных, ученые часто сталкиваются с проблемой построения нижних границ свидетельств с низкой дисперсией.
Марковская цепь Монте-Карло (MCMC) - это эффективный подход к ограничению доказательной нижней границы (ELBO) для аппроксимации апостериорного распределения, гамильтонов вариационный автоэнкодер (HVAE) представляет собой расширение MCMC для построения несмещенного малодисперсного ELBO.
Решение значительно повышает эффективность апостериорной оценки, но основным недостатком HVAE является необходимость двойного доступа к апостериорному градиенту в методе «чехарда», что приводит к снижению эффективности вывода.
Для решения этой проблемы специалисты предложили квазисимплектический вариационный автокодер Ланжевена (Langevin-VAE), который может значительно улучшить эффективность использования ресурсов.
