반응형 전체105 추천시스템 논문 3개 소개 1. MONET: Modality-Embracing Graph Convolutional Network and Target-Aware Attention for Multimedia Recommendation(Graph, Transformer&Attention, MultiModal) MONET는 논문 제목에서도 알 수 있듯이 GCN, 즉 Graph Convoution Network를 활용한 추천시스템 모델이다.여기에 Multi-Modal과 사용자-아이템 interaction이 같이 사용된다. 기존은 두 가지 한계점이 있는데,1) 사용자의 아이템 선호도를 나타낼 순 있지만, collaborative signal에만 초점을 맞춰서 final 사용자, 아이템 임베딩에서 충분한 multimodal 특징을 보여주기 어.. 2024. 2. 3. [논문리뷰] LARGE-SCALE CONTRASTIVE LANGUAGE-AUDIO PRETRAINING WITHFEATURE FUSION AND KEYWORD-TO-CAPTION AUGMENTATION(CLAP) 오늘은 오랜만에 멀티모달모델에 대해 리뷰를 해보려고 한다. 대상논문은 CLIP의 오디오버전인 CLAP이며 CLIP이 이미지-텍스트 멀티모달 모델이라면, CLAP은 오디오-텍스트 멀티모달 모델이다. Text의 encoder를 CLIP의 Text encoder를 사용하였으며, 오디오 encoder부분이 CLIP과의 큰 차이이며 기본 로직은 CLIP과 동일하다고 볼 수 있다. Abstract 현재까지 Constrastive Learning(같은 분류의 데이터는 차원축소시 더 가까이두고 다른 분류의 데이터는 더 멀리 두는 학습법)은 멀티모델 representation learning에서 큰 성과를 보여주었는데, 이 논문은 contrastive 언어-오디어 사전학습의 파이프라인을 제시해서 오디어 데이터와 NLP를.. 2024. 1. 20. [논문리뷰] TabNet : Attentive Interpretable Tabular Learning 오늘은 Tabular data 학습에 사용되는 TabNet이라는 모델 논문을 읽어보았다. 원 논문을 깔끔하게 요악한 towarddatascience글도 있어서 같이 참고해보았다. Introduction XGBoost, LightGBM 그리고 Catboost같은 Gradient Boosting Model이 계속해서 tabular data 학습측면에서 인기를 얻고있는데, 구글이 2019년에 낸 TabNet은 Neural Network중 하나로 tree기반의 모델들보다 많은 벤치마크 데이터에서 우수한 성능을 보여줬다. 성능이 우수한 것뿐만이 아니라 설명도 가능한 모델이다. 그런데 왜 인기가 없을까나!?!(심지어 feature preprocessing도 필요없음) TabNet balances explainabi.. 2023. 6. 4. [논문 리뷰] LightGCN: Simplifying and Powering Graph ConvolutionNetwork for Recommendation 오늘은 오랜만에 추천시스템 알고리즘 중 LightGCN 논문에 대해 리뷰해보려고 한다. 대표적인 추천시스템 알고리즘 중 하나로 GCN의 common design인 1) feature transformation, 2)nonlinear activation을 없애고 성능을 올린 알고리즘이다. Abstract 추천시스템 Collaborative Filtering에서 Graph Convolution Network(GCN)은 새로운 SOTA가 되었다.(2020년 당시 얘기임) 근데 GCN의 효율성은 잘 입증이 안되었는데, GCN 사용한 작업들도 GCN에 대해서 ablation 분석(GCN에서 몇가지 특성 빼가면서 분석하는 것)도 안하고 사용했기 때문이다. ※원래는 GCN 자체가 graph classification.. 2023. 4. 1. 이전 1 2 3 4 5 ··· 27 다음 728x90 반응형
