Ученые разработали машину факторизации на основе Attentive DenseNet для прогнозирования CTR

Ученые разработали машину факторизации на основе Attentive DenseNet для прогнозирования CTR Источник фото: pixabay.com

В новой работе ученые рассмотрели проблему прогнозирования рейтинга кликов (CTR). Машины факторизации и их варианты рассматривают попарные взаимодействия функций, но от выполнения взаимодействия функций высокого порядка с использованием FM пришлось отказаться из-за высокой временной сложности.

Учитывая успех глубоких нейронных сетей (DNN) во многих областях, исследователи предложили несколько моделей на основе DNN для изучения взаимодействия функций высокого порядка. Многослойные перцептроны (MLP) широко используются для изучения надежных отображений от встраивания функций до окончательных логитов.

Вдохновленные великими достижениями плотно подключенных сверточных сетей (DenseNet) в области компьютерного зрения, специалисты предложили новую модель под названием «Машина факторизации на основе Attentive DenseNet» (AdnFM).

AdnFM может извлекать более полные глубокие функции, используя все скрытые слои из нейронной сети с прямой связью в качестве неявных функций высокого порядка, а затем выбирает доминирующие функции с помощью механизма внимания.

Кроме того, неявные взаимодействия высокого порядка с использованием DNN более рентабельны, чем явные. Обширные эксперименты с двумя наборами реальных данных показывают, что предлагаемая модель может эффективно улучшить производительность прогнозирования CTR.

 

Источник: arxiv.org