贝壳用户偏好挖掘的思考与实践

• 很难证明什么样的行为权重是最优的，且很难找到优化方向；
• 人为选定的衰减方式以及衰减因子的选取具有主观因素，并不适用于所有的偏好；
• 基于统计的偏好挖掘难以优化。

2.2 基于模型的偏好计算

基于统计的偏好计算方法的优点是直观，可解释性强，但缺点是难以优化，因此我们考虑通过有监督模型的方式解决偏好预估的优化问题。

技术方案：

对于低维且等长的偏好，可以通过有监督的多分类模型。利用用户过去发生不同行为所对应的属性，预测未来在不同属性上发生重行为的概率。需要解决的问题主要是历史行为的时间窗口的划分，这类低维、行为相对稠密、长度统一的偏好，可以采用有监督模型XGBoost、DNN，以及时序模型LSTM和GRU等。

然而，对于枚举值较多的属性的用户偏好，例如地理位置相关的属性，用户在不同枚举值上的行为稀疏，且用户过去行为覆盖的位置Item数目不同，导致召回的候选集长度不统一，因此使用传统意义上的多分类模型很难去完成。

对于这类偏好，常见的方法是embedding，通过用户近期交互过的物品，将偏好预估视为top-n推荐，使用pair-wise训练策略训练模型，得到个性化的用户偏好向量。

虽然用embedding表征用户偏好在推荐系统中取的了很好的效果，然而这种向量化的偏好表征方法不可解释，在需要人去理解不同偏好意义的场景中具有局限性。

挑战：

• 高维、稀疏的偏好，很难预估；
• 输出需要是可解释的。

3 偏好挖掘在贝壳找房的实践

贝壳找房作为一个居住服务类的平台，将用户、经纪人和房源链接在一起，帮助用户找到更满意的居住环境，帮助经纪人更好地服务用户，对用户的偏好进行挖掘可以帮助平台更好的了解用户。

偏好挖掘在贝壳找房主要有两类的应用场景，一方面是对业务赋能，有助于平台算法和策略的制定，如个性化推荐、定向push等场景；另一方面是给人传达可理解的用户需求，比如帮助运营人员圈人群包，进行精细化运营和定向推送，或者在用户从线上转线下的过程中，将用户的需求无损地传递给经纪人，更快地了解用户。

3.1 基于多分类的偏好挖掘

3.1.1 问题抽象

问题定义：

在用户信息交互中，如果用户对某一属性的Item付出了较大成本，则说明用户对Item背后的属性有较强的偏好，基于此假设，在已知用户过去发生不同行为及行为对应的属性维度，将偏好预估问题定义为预测未来时间段内发生重行为所对应的属性维度。

样本构造：

我们需要思考偏好的主要应用场景，以及环境对动作的解释能力。如果我们对线上行为的采集能力明显高于线下环节，那么我们在思考“重行为”时，就要考虑如果使用大量生命周期末端的线下行为，基于线上的特征是否可以很好的解释。

优化目标：

模型的目标为预估用户在不同属性的Item上发生重行为的概率。这里我们要考虑用户的偏好是multi-hot还是one-hot，基于这两种形式，我们需要考虑对输出层的构造方法。但需要强调的是，使用one-hot并不意味着否定用户多峰偏好的事实。

离线后验：

这是一个被高频提问的点，即偏好的质量如何评估，自然我们可以从下游应用的角度进行评估，但该评估方式存在实验难、效果回收慢、影响因素多等诸多不便。

从中台角度我们更希望建立中间指标实现对偏好质量的独立可衡量，建立小闭环。我们通过预估向量与真实行为向量的内积或交叉熵来衡量预估的效果，内积越大、交叉熵越小，则预估越准确。

如何选择适合自己的指标建议从下游应用出发，例如下游使用内积的方式进行排序操作，那么内积可能更为合适。但使用内积的方式进行评价可能存在与模型的优化方向不一致的问题，需要在模型评价时考虑进来。

3.1.2 树模型、DNN模型

思想：

通过用户的行为，构建一个有监督的分类模型，预估用户的各维度的偏好。

特征工程：

特征工程的原问题是什么可以反应用户的偏好，需要考虑两个层面，一是，基于用户历史与属性Item交互反应用户愿为什么属性付出成本；二是考虑用户当前的业务进程，反应了用户的偏好是否在未来发生发幅度的迁移和改变，即用户的偏好预估多大程度上依托历史交互行为。基于这两点思考，我们将两类信息编码进特征中：

• 用户历史与不同Item交互，例如，用户在某个属性上访问次数、频率、转化率等；
• 用户的生命周期，例如，用户当前各类行为的带衰减线性加权，或用户最重行为的one-hot都可以表达用户的生命周期。

优化点：

特征工程实际上是对用户个体与用户历史交互序列进行了编码，编码的过程中引入了较多的人工先验知识，例如人为划分行为聚合时间的长度。

3.1.3 在模型中引入用户行为序列

思想：

用户偏好是个复杂且不稳定的问题，当前偏好与过去的不同阶段的行为量及偏好有关系，而传统的神经网络很难去捕捉不同时间对当前阶段的偏好的影响，因此我们把将偏好预估问题抽象为一个多变量时间序列预测的问题，将用户行为按照时间划分成不同周期，根据每个周期内的行为，预估下一周期用户发生重行为所在的属性维度。这样，模型可以感知到过去偏好的变化情况，通过时序模型学习到过去对未来偏好的影响。

LSTM时序模型：

LSTM有两个传输状态，一个cell state(C_t)，一个hidden state(h_t)，其中 C_t 改变较为缓慢，作为贯穿整个cell的传送带，保存长期记忆，而 h_t 在每个cell内的区别相对较大。

LSTM通过“门”来决定将哪些信息保留、哪些信息删除，forget gate决定了上一时刻的单元状态C_t-1 有多少保留到当前时刻 C_t；input gate决定了当前时刻网络的输入 x_t有多少保存到单元状态C_t，output gate控制单元状态 C_t有多少输出到 LSTM 的当前输出值 h_t。其网络结构和前向计算公式如图3.1所示。

特征工程：

划定周期，将一个周期内的行为次数与属性Item、行为类别进行交叉聚合。周期的选择根据下游场景的需求和业务类型，选择不同长度的周期，对于用户需求相对稳定、下游场景不需要紧随用户当前实时偏好的场景中，可以选择周为周期粒度，反之，如果需要实时关注用户当前的偏好变化，可以以天为周期粒度。

优化点：

在贝壳平台，由于城市对用户偏好的影响很大，所以我们加入城市作为特征，先将城市进行embedding，再将embedding后的结果与sequence特征经过LSTM的结果进行拼接，进入全连接层。

技术路线：

• 获取用户每个周期内的行为次数与属性Item、行为类别作交叉得到的序列特征，以及城市的编码结果或one-hot结果；
• 序列特征经过LSTM，得到用户的历史行为表达；
• 城市特征经过Embedding层，得到的向量作为城市属性表达；
• 历史行为表达与城市属性表达进行拼接，经过全连接层输出概率向量。

整体的架构如下图：

对于Item数目较多的属性，多分类的方法存在局限性，一是构造特征时，属性Item与行为进行交叉会导致特征维度爆炸；二是用户的行为稀疏，绝大部分Item上没有行为；三是当类别较多时多分类模型表现不够好。因此，为了在高维稀疏的偏好预估问题中取得更好的效果，我们对模型进行了进一步的优化，将多分类问题转化为二分类问题。

3.2.1 Seq4Rec模型

思考：

实际上，对于Item数量较多的属性，我们只需要关注用户对其访问过的Item的偏好情况，我们可将问题简化为预估用户对其访问过的属性的Item的偏好情况，这样大大缩减了问题的难度。但是每个用户访问过的Item不同、Item数量不一，依然无法使用多分类模型。

那么，既然不能多分类，能否将多分类的问题转化为二分类呢？沿着这个思路，我们将多分类中的不同属性信息作为召回项加入到特征中，将后续是否在召回项上发生重行为作为目标。这样，序列特征作为用户表达，召回项特征作为Item表达，这种方法我们称其为Seq4Rec。

特征工程：

Seq4Rec方法的用户序列特征不是基于时间的行为交叉聚合，而是用户的每次交互，序列特征包含序列类型的编码，以及行为所在的属性Item的编码，最后加上召回项Item的编码。特征构造的主要步骤如下：

• 首先，获取用户交互过的属性Item编码以及行为类型编码，构造基于行为的sequence，作为用户的表达；
• 第二步，获取召回集，用户历史访问过的Item作为其召回集；
• 第三步，将召回集中的每个Item作为属性表达；
• 最后，属性表达与用户表达的sequence拼接到一起。

Item的Embedding：

在模型训练过程中，为了降低维度，并且更好地表达属性信息，需要对sequence中的Item以及召回的Item进行embedding，将高维稀疏的离散特征转化为低维稠密的向量特征。为此将我们采取预训练的方式，先进行embedding，再用得到的向量对Item进行替换。对Item进行embedding的技术路线为：

• 根据用户在每个session中浏览的房源的时间顺序，构建去重的属性Item的序列；
• 根据曝光次数，对Item编码成字典；
• 根据时间序列，生成样本；
• skip-gram模型得到属性的Item的embedding值。

模型架构：

整体的架构流程图如下。首先将用户交互行为的Item编码替换成与训练的embedding向量，与行为类型编码共同形成用户行为sequence，经过LSTM，与召回项Item的embedding向量进行concat，进入全连接层，最终输出0到1范围内的概率值。

思考：

在LSTM的方案中，我们将用户历史属性交互序列用于用户的编码，取得了一定的效果提升。接下来，我们进一步探索序列的更优表达形式。在前述版本中，用户的行为序列被压缩编码到了一个定长向量中参与后续计算，是否会成为瓶颈。其次对于一个属性枚举而言，用户行为序列是否等权重，等作用的影响特定属性。最后，在匹配逻辑上，历史访问序列与目标属性的关系，应当被如何表达与强调。我们尝试结合深度兴趣网络思路，对偏好挖掘任务进行优化。

对深度兴趣网络的借鉴：

从思想上，深度兴趣网络框架提出在基于用户序列进行用户编码过程中考虑目标Item，而不是对用户的多峰偏好进行等重表达。公式表达如下：

在偏好挖掘场景中，我们将其抽象为偏好推荐问题，因此用户的访问序列由用户访问房源的偏好组合构成，其中组合的概念我们可以理解为多通道。

用户对房源的访问实际是与偏好的组合做了交互，这里我们假设，用户对小区属性的偏好会受到其包括价格、面积等多维度偏好的影响。从另一个层面看，目标属性对用户交互序列的多属性的信息提取都会产生影响，而非单独影响对应属性。因此注意力对用户Seq的房源属性组合生效，拼接后送入FCs中进行关系学习并输出。

如何求取用户Seq中一个房源对应偏好组合的注意力权重，是AU模块要解决的问题，即目标偏好与用户Seq偏好组合的相关性，其核心的关系计算由FCs完成，FCs的输入包含Seq对应房源的偏好组合的Embedding向量，目标属性的embedding向量，以及用户Seq房源各属性Embedding与目标属性Embedding向量的Element Wise Minus。

本文介绍了偏好模型在贝壳的应用，包括XGBoost/神经网络、时序模型。为了解决高维稀疏问题，将多分类转化为基于召回集的二分类问题，为了解决多峰偏好问题，采用深度兴趣网络，并引入基于偏好的attention机制。

通过几个版本的迭代，在后验内积和交叉熵上进行验证，提高了模型的性能。我们的模型还在不断尝试与优化中，有后续进展会持续更新。

5 引用资料

[1] Beyond User Embedding Matrix: Learning to Hash for Modeling Large-Scale Users in Recommendation

[2] Deep Interest Network for Click-Through Rate Prediction

[3] Real-time Personalization using Embeddings for Search Ranking at Airbnb