DeepFM-Transformer: DeepFM과 NLP Transformer 결합모델 기반의 추천 시스템

Abstract

제품 설명데이터는 제품을 구매하는 데 매우 중요한 요인이기에, 추천 시스템에서 성능을 높일 수 있는 데이터이다. 기존에 좋은 성능을 보여준 Factorization Matrix 기반 모델은 데이터 특성 간 상호작용 가능하여 추천 시스템에서 좋은 성 능을 보여주지만, NLP 모델이 아니기에 제품 설명 텍스트 데이터를 다른 특성과 조합하여 추천하기가 어렵다. 본 논문에서는 제품 설명 텍스트 데이터를 자연어 처리하고, 다른 특성과 함께 조 합하여 학습하는 추천 모델을 제안한다. 제안된 모델인 DeepFM-Transformer는 특 성 간 상호작용을 학습하는 DeepFM 모델과 제품 특성 텍스트 데이터를 NLP 하는 Transformer 모델을 결합한 추천 모델이다. 연구 결과 Factorization Matrix 기반 모델인 DeepFM에 비하여 평점 예측 RMSE에서 0.00715, xDeepFM에 비하여 0.01503 의 성능 향상을 보여, 제품의 설명이 추천 성능 향상에 영향을 미친다는 것을 밝 혀 내었다.|Product description data is a very important factor in purchasing a product, so it is data that can improve performance in a recommendation system. Factorization Matrix based models show good performance in recommendation systems by enabling interaction between data features, but since they are not NLP models, it is difficult to recommend product description text data in combination with other features. In this paper, we propose recommendation modeling that learns by processing product description text data in natural language and combining it with other features. The proposed model, DeepFM-Transformer, is a recommendation model that combines the DeepFM model, which learns interactions between features, and the Transformer model, which processes natural language text data of product features. As a result of the study, it showed a performance improvement of 0.00715 in rating prediction RMSE compared to the Factorization Matrix-based model DeepFM and 0.01503 compared to xDeepFM, revealing that the product description has an effect on improving recommendation performance Keywords— DeepFM-Transformer, Recommendation system, product description, DeepFM, Transformer, Self-Attention, NLP, deep learning, neural network.