LLM调研
一 推荐场景
Xu 等 - 2024 - Prompting Large Language Models for Recommender Sy.pdf
1 LLM作为推荐模型
1)判别式推荐discriminative recommendation
item scoring
re-ranking tasks
click-through rate prediction
[tips]https://github.com/RUCAIBox/LLMRank for questions : (1)很难感知历史交互的顺序,(2)可能会受到提示符中流行度或项目位置的影响。
2)生成式推荐generative recommendation
Li 等 - 2023 - Large Language Models for Generative Recommendatio.pdf
A generative recommender system directly generates recommendations or recommendation-related content without the need to calculate each candidate’s ranking score one by one for sorting and ranking.
分类
non-tuning paradigm
tuning paradigm
计算成本高、推理时间慢
2 LLM改进推荐模型
1)LLM as feature encoder
2)LLM for data augmentation
如通过学习用户过往影视偏好,生成个性化摘要
3 LLM作为推荐模拟器
agent映射了真实世界用户的基本行为。
4 case
1
Xi 等 - 2023 - Towards Open-World Recommendation with Knowledge A.pdf
2
Yin 等 - 2023 - Heterogeneous Knowledge Fusion A Novel Approach f.pdf
3
Agent4Rec,一个拥有1000个 LLM 授权生成代理的推荐系统模拟器。这些代理从 MovieLens-1M 数据集初始化,包含不同的社会特征和偏好。每个代理以逐页的方式与个性化电影推荐进行交互,并采取各种行动,如观看、评级、评估、退出和面试。通过 Agent4Rec,我们希望探索 LLM 授权的生成代理在模拟推荐环境中真正独立的人类行为方面的潜力。
https://github.com/LehengTHU/Agent4Rec
5
使用开源 LLM,我们利用它们的深层作为内容编码器,丰富了内容在嵌入级别的表示。对于闭源 LLM,我们使用提示技术在令牌级别上丰富训练数据。
https://github.com/Jyonn/ONCE
## 二 LLM功能归纳
https://github.com/TamSiuhin/LLM-UM-Reading