LLM调研

一 推荐场景

Xu 等 - 2024 - Prompting Large Language Models for Recommender Sy.pdf

1 LLM作为推荐模型

1)判别式推荐discriminative recommendation

item scoring

re-ranking tasks

click-through rate prediction

[tips]https://github.com/RUCAIBox/LLMRank for questions : (1)很难感知历史交互的顺序,(2)可能会受到提示符中流行度或项目位置的影响。

2)生成式推荐generative recommendation
Li 等 - 2023 - Large Language Models for Generative Recommendatio.pdf

A generative recommender system directly generates recommendations or recommendation-related content without the need to calculate each candidate’s ranking score one by one for sorting and ranking.

分类

  • non-tuning paradigm

  • tuning paradigm

计算成本高、推理时间慢

2 LLM改进推荐模型

1)LLM as feature encoder

2)LLM for data augmentation

如通过学习用户过往影视偏好,生成个性化摘要

3 LLM作为推荐模拟器

agent映射了真实世界用户的基本行为。

4 case

Xi 等 - 2023 - Towards Open-World Recommendation with Knowledge A.pdf

Yin 等 - 2023 - Heterogeneous Knowledge Fusion A Novel Approach f.pdf

Agent4Rec,一个拥有1000个 LLM 授权生成代理的推荐系统模拟器。这些代理从 MovieLens-1M 数据集初始化,包含不同的社会特征和偏好。每个代理以逐页的方式与个性化电影推荐进行交互,并采取各种行动,如观看、评级、评估、退出和面试。通过 Agent4Rec,我们希望探索 LLM 授权的生成代理在模拟推荐环境中真正独立的人类行为方面的潜力。

https://github.com/LehengTHU/Agent4Rec

5

使用开源 LLM,我们利用它们的深层作为内容编码器,丰富了内容在嵌入级别的表示。对于闭源 LLM,我们使用提示技术在令牌级别上丰富训练数据。

https://github.com/Jyonn/ONCE
## 二 LLM功能归纳

https://github.com/TamSiuhin/LLM-UM-Reading

LLMs as Predictors

LLMs as Enhancer

LLMs as Controllers && Evaluators

Applications of LLM-UM

Pasted image 20240815161156.png


LLM调研
https://chunfei-he.github.io/2024/03/19/LLM调研/
作者
Chunfei He
发布于
2024年3月19日
许可协议