[2024/01/18]Machine Learning 輪講

[nogawanogawa]

Why

Machine Learning 輪講は最新の技術や論文を追うことで、エンジニアが「技術で解決できること」のレベルをあげていくことを目的にした会です。

prev. #227

What

話したいことがある人はここにコメントしましょう！
面白いものを見つけた時点でとりあえず話すという宣言だけでもしましょう！

[nogawanogawa]

Beyond Two-Tower Matching: Learning Sparse Retrievable Cross-Interactions for Recommendation

論文URL

https://dl.acm.org/doi/abs/10.1145/3539618.3591643

著者

Liangcai Su, Fan Yan, Jieming Zhu, Xi Xiao, Haoyi Duan, Zhou Zhao, Zhenhua Dong, Ruiming Tang

会議

SIGIR ’23

背景

産業用推薦システムは一般的に、candidate matchingとrankingの2フェーズから構成されている。
candidate matchingでは、高いrecall とレイテンシを同時に達成する必要がある。

Two towerモデルは高精度で効率よくtop k検索が可能なので、主要な方法として用いられている。
しかし、Two Towerモデルは1つの内積しか用いないのでクエリ-アイテム間の特徴相互作用とモデル化する能力が制限される。またエンドツーエンドで学習されるわけでもないので、これもrecallを低下させる要因になりうる。

目的

• 既存のTwo tower モデルにあるrecallを低下させうる限界を解消するモデルの開発

アプローチ

• SparCode
  • all-to-all interaction
  • sparse 転置インデックス

memo

nogawanogawa/paper_memo#102

[Hayashi-Yudai]

Content-based Neighbor Models for Cold Start in Recommender Systems

RecSys Challenge '17 の論文。
コールドスタート問題を解消するためにコンテンツ情報をどのように活用していたかが紹介されていた。