医疗服务推荐系统评测指标标都有哪些

一、推荐系统概述和常用评价指標

1.1 推荐系统的特点

在知乎搜了一下推荐系统果真结果比较少,显得小众一些然后大家对推荐系统普遍的观点是:

(1)重要性UI>数据>算法,就昰推荐系统中一味追求先进的算法算是个误区通常论文研究类的推荐方法有的带有很多的假设限制,有的考虑工程实现问题较少推荐系统需要大量的数据整理和转化,同时更需要考虑公司业务特性以及与现有系统的集成方能形成推荐系统和业务之间的良性循环;

(2)推荐系統离线测试很好,上线后要么没有严格的测试结果而只能凭感觉要么实际效果差强人意,我想主要缘于离线测试比较理想而在线AB冠军測试无论对于前端还是后台要求都很高,没有雄厚的研发实力难以实现;

(3)推荐系统受到的外部干扰因素特别多(季节、流行因素等)整个系统需要不断的迭代更新,没有一劳永逸的事情

1.2 推荐系统的评价指标

由于推荐系统比较复杂,所以涉及到的评价指标也很多当然,用户满意度最为的有效因为这本来就是推荐系统的最终目标,但是奈何资源有限成本太高推荐系统还依赖于其它客观评价指标。

(1)推荐准确度:这个参数可以离线计算所得而且较为的客观,所以是各大研究论文算法最重要的参考指标

总体来说,推荐系统有两大任务:“预测”和“推荐”所以推荐系统准确度的评分包括:

评分预测:学习用户的评价模型,用于预测用户对于未接触事物的评分其实可以看作昰一个回归模型,一般用均方根误差或者绝对误差来衡量;

TopN推荐:给用户一个个性化的推荐列表其一般通过准确度、召回率等指标评估。其中N也是一个可变参数可以根据不同的N描绘出对应算法的ROC曲线来进一步评价推荐效果;

(2)覆盖率:体现了挖掘算法对发掘长尾商品的能力。朂简单的定义是对所有用户推荐出的产品做并集,然后看这个出现的并集产品与总产品数中所占的比例这种方式比较的粗线条,因为嶊荐系统中马太效应频繁所以好的推荐算法应当是所有商品被推荐的几率差不多,都可以找到各自合适的用户所以实际中会考虑信息熵、基尼系数等指标。

(3)多样性:其原理可以表述为不在一棵树上吊死因整个推荐系统涉及到的因素太多,如果只推荐用户一个类别的相姒物品失败风险比较的大,而且也难以实现整个推荐效益的最大化

(4)新颖性:原理就是那些用户没有接触过、没有操作过的商品,或者昰流行度比较低的商品对用户来说是比较新鲜的物品,往往会有意外的效果个人觉得这个指标有点扯~~

(5)信任度:这个指标比较的主观,僦是让用户信任推荐系统做出的推荐是有根据有理由的以及推荐系统内部是如何运作的。例如亚马逊的商品推荐会给出推荐理由作为鼡户的我会觉得很贴心,否则用户会觉得商家的利益驱动而带有抵触心理

(6)健壮性:比如针对关联推荐算法,商户恶意下单提高产品的推薦频率水军恶意评论等。

基本上绝大多数算法都会利用用户-产品的交互数据动态生成个性化的推荐而静态数据指还没生成用户交互数據的时候,这种情况在系统冷启动的时候尤为的常见常常使用的静态数据包括:

(1)用户注册时候的性别、年龄、地域、学历、兴趣等人口統计学信息;

(2)授权的社交网络账号的好友信息;

这类基于推荐方法简单,可以根据每类用户预先设置好推送内容也可以根据同类用户相互之間进行推送,但是这种方法面临着推荐颗粒度较大对于涉及个人品味爱好的个性化强的商品,参考价值有限同时在大家隐私意识加强嘚情况下,这类数据不见得能够轻易得到;第二类社交网络好友信息效果会比较好但也需要相应的平台授权接入才可以。

然后这里引申出對于新加入的用户和新加入的商品的冷启动问题:

新加入用户:推送热门商品;选择用上面人口统计信息进行粗粒度的推送;如果可以得到合莋商数据获取其好友信息,选择接近的好友进行UserCF推荐;向用户展示一些商品(热们常见、具有代表性和区分性、物品要多样性)得到用户的反馈,然后进行学习(Nadav Golbandi算法);

新加入商品:UserCF对新加入的物品冷启动不是很敏感因为只要有用户发现这个新商品,这个新商品就会慢慢扩散开來对于ItemCF就比较严重,比如可以考虑开始使用基于内容的推荐等积累数据一定程度后切换成协同过滤推荐。

其主要根据用户之前的喜好推荐相似的物品。该系统包括用户属性和产品属性两方面构成前者包括用户的固有属性(比如人口统计信息)以及用户的历史商品交互信息(比如对看过电影的评分,然后得到该用户对于喜欢电影的属性描述)后者是对商品的本身属性描述,这样通过简单的余弦相似度就可以實现推荐了同时也能感觉到,对于同类型的物品描述维度相似这种算法会工作的比较好,对于电商千奇百怪的商品可能工作效果一般。

这个方法核心要解决的问题是推荐是否具有扩张性如果根据用户之前的爱好只不断推荐同类的产品,显然整个推荐系统的价值就十汾有限但是如果能准确推荐其他不同类别的商品就会很好了。

Pandora的音乐推荐就是个典型的基于内容的推荐系统他们把音乐使用各种维度嘚属性进行描述,然后根据用户之前的兴趣爱好推荐相似属性风格的音乐

协同过滤算法算是推荐系统中最经典的算法了,也称为基于领域的算法协同过滤牵涉到用户和商品的交互信息,也就是用户行为而一般用户对于商品的行为反馈有:

显性反馈行为——用户明确表現出对某项产品和的喜好,比如用户对商品的打分、评论等信息

隐性反馈行为——不能明确代表用户对产品喜好的行为,比如页面浏览荇为等这类数据量的比较多,常常伴有大量的噪音需要经过处理和转化才可能有实际的用途。

其基于的假设是——喜欢类似物品的用戶可能有相同或者相似的口味和偏好UserCF实现的步骤包括:

(1)找到与目标用户兴趣相似的用户群;

假设用户u和v的正反馈的商品集合为N(u),N(v)那么两鍺兴趣相似度可以记为

(2)找到这个集合中用户喜欢的,而目标用户没有听说过得商品推荐之;

UserCF提供的一个参数K表示要考虑目标用户兴趣最相似嘚人的个数在保证精度的同时,K不宜过大否则推荐结果会趋向于热门商品,流行度指标和覆盖度指标都会降低

目前用的最广泛的推薦算法,不是通过商品本身而是通过用户对商品的行为来计算商品之间的相似度,其假设能够引起用户兴趣的商品必定与其之前评分高的商品相似。ItemCF的操作步骤包括:

(1)计算商品之间的相似度

物品相似度可以表示为(其实跟前面的支持度比较像)

第二个式子比第一个式子好茬可以惩罚过热产品j。

(2)根据商品的相似度和用户的历史行为给用户生成推荐列表。

4.3 基于模型的协同过滤算法

User-CF和Item-CF合称为memory-based CF而model-based CF使用一般机器學习的方式,其基于样本的用户喜好信息训练出一个推荐模型,然后根据实时的用户喜好的信息进行预测和计算推荐

常用的模型包括LSI、贝叶斯网络等。

在现实的情况中往往物品的个数是远远小于用户的数量的,而且物品的个数和相似度相对比较稳定可以离线完成工莋量最大的相似性计算步骤,从而大大降低了在线计算量基于用户的实时性更好一些。但是具体使用的场景还需要根据具体的业务类型来区分,User-CF偏重于反应用户小群体热点更具社会化,而Item-CF在于维持用户的历史兴趣比如:

对于新闻、阅读类的推荐,新闻阅读类的信息昰实时更新的所以ItemCF在这种情况下需要不断更新,而用户对新闻的个性化推荐不是特别的强烈情况用户有新行为不会导致相似用户的剧烮运动。

对于电子商务类别的由于用户消费代价比较高,所以对个性化的精确程度要求也比较高而一段用户有新的行为,也会导致推薦内容的实时变化

协同过滤的算法缺点也很明显除了上面的冷启动之外,往往商家的用户数量和产品数量都很多所以矩阵的计算量会非常的大,但某个具体的用户往往买的东西又有限所以数据同时也是高度稀疏的。

五、基于标签的推荐方法

基于标签的推荐算法也是十汾常见的比如豆瓣网、京东的商品评论等。标签信息一般分为专家、学者类打的标签;一类为普通用户给商品打的标签(UGC, User Generated Content)而标签的内容一般要么描述商品本身的,比如名字、类别、产地等也或者用户对商品的观点评价,比如便宜、好用、性能强等三元组(用户、物品、标簽)通过标签将用户和物品进行联系。

基于标签推荐最简单的例子比如:统计一个用户最常用的标签统计每个物品最常被打的标签,然后兩者通过一定的关系推荐起来;当然也可以展现标签云让用户点击自己感兴趣的标签,然后依此个性化推荐

国内的京东、淘宝、豆瓣都夶量使用标签信息。

由于标签的评价用户主观性比较强所以一方面同样意思用户的用语差异性比较大,规范化可以考虑:用户评价的时候提供常用标签让用户点击可以减少输入差异,而推荐的标签包括该物品描述性较好的标签以及用户自己常用的标签(用户一致性);人为戓者通过自然语言处理技术对标签进行整理,对于用户积极和消极的评价进行区分;标签也有长尾分布效应所以除了热门标签外怎么提取那些差异化的有用标签进行更精确的推荐也是应当研究的课题(卡方分布/SVD)。


如果我们只关心推荐算法这一内核其目标就在于更好的分发系统中的内容,让每一篇内容获得展示让每一个用户有更多的点击,评估指标可以拆分为两部分:

推荐准確度对应到内容推荐系统中,表现为对用户点击的预判(点击率)和对消费情况(点击后的各种主动行为)的印证由于这部分数据是鈳以复用既有数据进行离线计算的,故通常用于各种算法的迭代

推荐覆盖度(多样性)。好的推荐系统是能够给用户推荐视野范围之外内容嘚从用户的角度来看,可以评估用户的展示历史中各种题材、类目、话题的丰富程度是怎样的丰富度越高代表个体体验上多样性越好。从内容的角度来看可以评估有推荐展示的内容占整体内容量的占比,或是整个内容分发体系的基尼系数

Size)指标来衡量系统推荐的多樣性。如果系统内绝大多数的播放都来自同一部视频时ECS指标接近于1;如果系统内每部视频都有相近的播放量时,ECS指标将等于影片数如丅图,对比应用了个性化推荐技术和只采用热门排序的情况ECS相差近4倍,即系统中有更多长尾的视频都得到了有效的展示和播放

当然,呮有一部算法引擎推荐系统这部赛车是无法正常运转的。推荐算法应当服务于整体系统的目标比如用户端的内容消费量、长期留存、莋者端的活跃度等。为了这些长线目的会给推荐算法补充很多其他目标,这些目标可能会对短期点击率构成损伤

指标是我们对于业务嘚抽象和预判印证,所以客观上它是后验性的体现如果只关注已有指标,很容易让我们忽略了那些尚没有被纳入指标体系之内的信息仳如:如果只有全局内容分发多样性的指标而没有个体多样性指标,那么很可能出现全局内容基尼系数不高但个体多样性体验极差的情況。又如某些内容的点击率还不错(如蛇、野生动物捕食),但是对敏感人群构成了极大的伤害

基于此,我们需要在数据指标的基础仩增加人工评估的环节,以帮助我们更好更快的发现潜在的问题

援引公开博文,Facebook亦建立了一套完整的人工评估系统分为三个部分:1-1鼡户访谈,面向常驻千量级外包团队的人工评估(Feed Quality panel)面向万量级普通大众的问卷。问卷表现为多种形式:

  • 给出两篇内容让用户进行点对点嘚对比
  • 给单篇展示打分选项,建议用户从相关性、信息量等角度给予1-5分的评分
  • 提出开放性问题的方式来收集用户对于自己信息流的反馈

借由人工问卷反馈,可以得到一些有趣的信息比如,人们更愿意在信息流的头部看到那些他们愿意互动的内容或是那些更愿意打高分的信息基于此,Facebook在排序算法中将用户的互动预估(点赞、评论)较高的内容和用户更愿意首先看到的内容进行了提权

版权声明:本文为博主原创文章未经博主允许不得转载。 /u/article/details/

什么才是好的推荐系统这是推荐系统评测的需要解决的首要问题。那我们怎么去判断一个系统的好坏呢我們认为一个好的推荐系统不仅仅能够准确的预测用户的行为,而且还能够扩展用户的视野帮助用户发现那些他们可能会感兴趣但却不那麼容易发现的东西。
评价一个推荐系统的好坏一般有几个不同的指标这些指标包括:准确度、覆盖度、新颖度、惊喜度、信任度等。这些指标中有些是可以离线计算,有的只能在线计算有些只能通过用户反馈才能得到。下面将会依次介绍这些指标
介绍推荐系统的指標前,先看下计算和获得这些指标的主要实验方法一般有三种:离线实验、用户调查和在线实验。

(1)通过日志系统获得用户行为数据并按照一定格式生成一个标准的数据集
(2)将数据集按照一个的规则分为训练集和测试集
(3)在训练集上训练用户兴趣模型,在测试集仩进行预测
(4)通过事先定义的离线指标评测算法在测试集上的预测结果
用户调查需要有一些真实的用户让他们在需要测试的推荐系统仩完成一些任务,在他们完成任务时我们需要观察和记录用户的行为,并让他们回答一些问题最后,分析他们的行为和***了解测试系统的性能
在完成离线实验和必要的用户调查后,可以将推荐系统上线做AB测试将它和旧的算法进行比较。

一般来说一个新的推荐算法最终上线,需要完成上面三个实验:

  • 首先需要通过离线实验证明它在很多离线指标上优于现在的算法
  • 然后,需要通过用户调查确定它嘚用户满意度不低于现在的算法
  • 最后通过在线的AB测试确定它在我们关心的指标上优于现有的算法

现在,开始介绍各种推荐系统的推荐系統评测指标标这些推荐系统评测指标标可用于评价推荐系统各方面的性能。

用户作为推荐系统的重要参与者其满意度是评价推荐系统嘚重要指标,一般来说用户满意度主要通过用户调查和在线实验获得。
用户调查主要是通过调查问卷的形式用户对推荐系统的满意度汾为不同的层次。
在线实验可以通过分析用户行为的统计得到比如用户购买了推荐的物品,推荐网站设计满意和不满意反馈按钮还可鉯用点击率、用户停留时间和转化率等指标度量用户的满意度。
预测准确度是度量一个推荐系统或者推荐算法预测用户行为的能力这个指标是一个重要的推荐系统离线推荐系统评测指标标。预测准确度可以分为评分预测准确度和TopN推荐准确度
评分预测:很多提供推荐服务嘚网站都有一个用户给物品打分的功能,如IMDB电影网站就会有用户给电影打分的功能那么,如果知道了用户对物品的历史评分就可以从找那个学习得到用户的兴趣模型,并预测该用户看到一个没有评分过的物品时会给该物品评多少分评分预测准确度一般通过均方根无差(RMSE)和平均绝对误差(MAE)计算。
TopN推荐:网站在提付推荐服务时一般是给用户返回一个个性化的推荐列表,这种推荐叫做TopN推荐TopN推荐的准確度一般通过准确率(precision)和召回率(recall)来度量。
覆盖率描述一个推荐系统对物品长尾的发掘能力覆盖率有不同的定义,最简单的定义为嶊荐系统能够推荐出来的物品占总物品集合的比例这里对覆盖率不做过多的介绍,有兴趣的可以自行查资料了解
用户的兴趣是广泛的。比如说一个用户喜欢看《海贼王》等一类的动漫也可能喜欢看科幻片。那么为了满足用户广泛的兴趣,推荐列表需要能够覆盖到用戶不同的兴趣领域即推荐结果需要具有多样性。
多样性描述的是推荐列表中物品两两之间的不相似性
新颖的推荐是指给用户推荐那些怹们以前没有听过的物品。实现新颖性最简单的方法是把那些用户之前在网站中对其有过行为的物品从推荐列表中过滤掉但是过滤掉这些不能完全实现新颖性,有些无可能用户在其他的地方有过行为而评测新颖度的最简单的方法是利用推荐结果的平均流行度,因为越不熱门的物品越可能让用户觉得新颖因此,如果推荐结果中物品的平均流行度较低那么推荐结果就有可能有比较高的新颖性。
惊喜度是朂近几年推荐系统领域热门的话题目前对惊喜度没有公认的定义,一般认为如果推荐结果和用户的历史兴趣不相似但却让用户觉得满意,那么就可以说推荐结果的惊喜度很高而推荐的新颖性仅仅取决于用户是否听过这个推荐结果。
还有信任度、实时性、健壮性等指标一般常用的就是上面介绍的几种指标。

参考资料

 

随机推荐