赶快学一下如何评估「营销活动效率」
作者介绍
@花花
曾任职于美团、腾讯、今日头条担任数据分析师。
操盘过上百亿的资源评估，与大家一起成长学习。
01 前言
在实际的评估工作中，不是所有的营销活动都做了AB实验，也不是所有进行了AB实验的营销活动都能准确评估出活动效果，比较典型的情况如下：
场景一： banner位要进行大促活动，但距离活动上线时间较短，如果要做AB实验需要产研定制化开发，拿不到产研排期资源的情况下，运营往往会对全量用户进行活动运营。事后要评估该大促活动的投入产出时，就没有严格的实验组和对照组进行对比，如果直接参加活动用户作为实验组、用大盘未参加大促活动用户作为对照组，那么实验组和对照组本身就是存在很大差异的（参与大促活动的一般更加活跃且对补贴敏感），在这种情况下该怎么进行评估才能得到更加合理的结论呢？
场景二： 某直播平台上线了一个直播间的新功能，并进行了AB实验，其中实验组能看到新功能，对照组看不到新功能。但是事后评估时发现，实验组中虽然都能看到新功能且点击使用该功能的用户数据表现都很好，但是点击使用该新功能的用户渗透率很低，如果直接用AB实验的实验组和对照组相比较，那么不能得到显著性的结论。那么直播间的这个新功能真的就没有效果的吗？
02 PSM方法简介
为了解决如上两个场景的营销活动效率评估，常常会根据实际情况matching一个对照组，倾向评分匹配（Propensity Score Matching，简称PSM）是matching的方法之一，使得实验组和对照组进行更合理的比较。
PSM这种方法一般用于医学、公共卫生、经济学等领域。比如研究问题是吸烟对于大众健康的影响，如果要进行随机对照实验，招收大量实验用户，然后随机分配到吸烟组和不吸烟组，这种实验设计不太容易实现，也并不符合科研伦理。
这种情况下观察研究是最合适的研究方法，但是面对最容易获得的观察研究数据，如果不加调整，很容易获得错误的结论， 比如拿吸烟组健康状况最好的一些人和不吸烟组健康状况最不好的一些人作对比，得出吸烟对于健康并无负面影响的结论。
从统计学角度分析原因，这是因为观察研究并未采用随机分组的方法，无法基于大数定理的作用，在实验组和对照组之间削弱混杂变量的影响，很容易产生系统性的偏差。 PSM就是用来解决这个问题，消除组别之间的干扰因素。
PSM的定义很直观，是一个用户属于实验组的 “倾向性”。具有不同特征的用户被干预的概率应该相等。理论上，如果我们对每一个实验组用户都在对照组里匹配一个得分相等的用户，我们就能得到同质的实验组和对照组，就可以假装做了一个 A/B 实验了，接着就可以随意地进行组间比较。
在实际工作中，通过多期的观测验证PSM方法较为适用于某些营销场景，那么可以将PSM模型产品化。运营同学无须每次提需求到算法侧，只需要通过简单的输入就能获得最终结果。
1）输入
确定样本集是PSM中最为重要的一个环节，包含确定实验组用户和对照组用户。实验组用户一般选取策略触达的用户或者是真实体验到核心策略的用户，具体根据营销活动特点来定义，而对照组则是给到一个范围，通过建模从给到的对照组范围中筛选用户特征和实验组相似的用户作为真实的对照组。
一般对照组的圈选范围最好是有活动参与的倾向性但是并没有参与的用户，比如说是同样有某个活动页的曝光，体验活动的用户为实验组，有曝光但是未体验该活动的用户则为圈选的对照组范围。
2）PSM建模
首先要进行倾向性得分估算：这一步直接就是建模问题，自变量为用户特征变量，按需做一下特征预处理，套用LR或者其他更复杂的模型，如LR + LightGBM等模型估算倾向性得分。
其次进行倾向性得分匹配：在有了每个用户的倾向性得分的基础上，针对目前的实验组用户，匹配得到一个近乎于同质的对照组。当用户量足够时候，一个简单做法是进行一对一无放回匹配：对于每一个实验组用户，我们去对照组里找一个倾向性得分最近的用户，把他们配成一对。匹配过程中，可以限制一下配对用户的得分差异不能超过某一个阈值，配不上就放弃，以防把 “太不相似” 的用户匹配在一起。
模型输出及评价：模型的输出包含了实验用户、构建的与之匹配的对照组用户、倾向性得分，评价指标包含模型在训练集上的AUC（越高说明倾向性建模越准确，一般AUC≥0.85则认为效果较好）、各个特征维度的匹配关系值（值越高说明这个特征维度的匹配关系越好）。
3）效果计算
通过PSM构建出与实验组用户特征类似的对照组，那么效果计算的逻辑就和AB实验的计算逻辑类似了。
03
PSM方法实操
以上面提到的场景一作为案例，对没有进行AB实验的营销活动进行效果分析。
确定样本集范围
实验组：点击进入大促活动页面并领取到红包的用户A1，导出uesr_id明细作为PSM实验组输入，假设用户数为10,000
对照组范围：有大促页面曝光但是未领取红包用户B1，导出uesr_id明细作为PSM对照组圈选范围输入，假设用户数为50,000
PSM建模
从对照组范围B1中通过PSM建模构建出用户特征和A1相似的用户B2，一个实验组用户找到一个特征相似的对照组用户，所以B2的用户数也为10,000。模型的AUC=0.89，且其他特征匹配值较好。
结果计算
可靠性：AUC>0.85，模型效果较好，匹配结果可以参考。
活动补贴效率计算：实验组A1样本量10,000，贡献的总的GMV为500,000元，总投入成本是50,000元；PSM构建的对照组B2样本量10,000，贡献的总的GMV为300,000元，总投入成本是25,000元。最终计算该大促活动的投入产出比为ΔGMV/Δ成本=（500,000-300,000）/（50,000-25,000）=8，那么我们就可以得出该大促活动的投入产出比是8，即1元投入带来8元的GMV。
04 后记
PSM不是适用于所有的营销场景，一般来说适用于样本量足够、实验效果较为显著且倾向性建模较为可靠的场景，有些场景下难以定义对照组的范围，这个时候如果用全量用户（排除实验组用户）作为对照组的圈选范围，那么最终的误差可能较大。
因此建议在能做AB实验的情况最好还是进行AB实验，在真的无法做AB的情况下再考虑PSM，同时PSM可以结合DID+用户分群提高准确性。
带你探索数据的神奇奥秘
如何在高三下半学期快速掌握理科知识?
总结归纳：学习一段时间后，对所学内容进行总结归纳，形成自己的知识体系。考前准备：考试前要进行全面的复习，重点关注易错题和重难点。同时，确保考前有充足的休息，保持良好的状态。总之，快速掌握理科知识不是一蹴而就的，需要持续的努力和正确的方法。通过上述策略的实施，你可以在高三下半学期有效地...
保健评估指南中如何支持和拓展幼儿的学习
重视有幼儿操作过程的观察，并对发现文图的原因提出教育策略。观察活动层层递进，切不可短视，尤其是培养幼儿良好的习惯，是逐步渐进的过程，观察幼儿要细致、系统，对幼儿评价要客观、有效、公正。切忌把《指南》当成一把尺子，尊重幼儿的个体差异。幼儿的发展是持续的，渐进的、有阶段性特征，时快时慢。...
怎么快速看懂财务报表
多看看参考答案的分析部分,学习一下表达方法,会有很大提高的。如果是第二种情况,那建议你把教材的基本例题摘抄下来,自己制作一本习题集,多看多练,做到闭上眼睛以后,公式会自动跑到眼前,这样形成习惯,做题就会顺畅多了。最后,祝你顺利过关!问题九:财务报表怎么看,我是个财务新人,理论知识学过,但是公司之前报表我...
阜阳公需课继续教育如何学得快?
一、阜阳公需课继续教育如何学得快？1. 制定学习计划：评估自己的学习时间和能力，制定一个合理的学习计划并且严格实施，保证在规定时间内完成学习任务。2. 确定学习重点：仔细阅读课程大纲，在学习过程中找到重点和难点。3. 集中学习时间：尽可能利用时间集中学习，减少不必要的干扰，提高学习效率。4. 多...
如何快速学习日语
4. 制作记忆卡片：使用记忆卡片来记忆日语词汇和句型。在一面写上日语单词或句子，另一面写上对应的中文意思或解释。反复复习记忆卡片，加深记忆。5. 创造语境：学习日语时，尽量将所学的语言知识应用到实际生活中。可以尝试用日语写日记、与日语母语者进行交流或参加语言交流活动。6. 使用学习资源：利用...
怎样能够快速学习英语?
自我激励和持续学习：保持积极的学习态度，设定短期和长期目标，并庆祝达成每一个小目标。学习语言是一个长期过程，需要耐心和坚持。反思和调整学习方法：定期评估自己的学习进度和方法的有效性。不要害怕调整学习计划，找到最适合自己的学习方式。总之，每个人的学习速度和风格都不同，找到适合自己的方法是...
想要有效健身,如何快速找到自己训练短处?
动态评估其实是产自于美国著名理疗专家和训练学专家等人的研究结果，这项结果被称为功能性动作模式筛查，其广泛用于美国职业运动员运动能力评估中，宗旨是发现人体基本动作模式障碍和缺陷的一种测试方法。其实不止运动员可以用，单纯喜欢健身的人也可以试一下。对于动态评估这个研究成果有一些人觉得很好用，...
如何高效学习
详情请查看视频回答
日语应该怎么学?怎么能很快的学会?
一、快速学日语的方法 1：如今学习日语的人，一般都会遇到一个问题，即读写都可以但说得不好，可是每个人具体情况又不一样，所以一定要先了解自己的日语水平，然后再进行正确的治疗。假如要评估自己的日语水平最好找人帮忙，自己评估的话也要尽量做到客观分析。在对自己的水平进行评估后再去自学，2：...
企业评价学生的评语
xx同志踏实肯干，吃苦耐劳。有创造性、建设性地独立开展工作的思维；具有一定的开拓和创新精神，接受新事物较快，涉猎面较宽，在工程计算领域不断地探索，有自己的思路和设想。能够做到服从指挥，认真敬业，工作责任心强，工作效率高，执行公司指令坚决。在时间紧迫的情况下，加时加班、保质保量完成工作任务...
赤采奈康： 您说的所谓“物料”,从提问的内容上来理解,应该是“自己设计制作的信息媒介”,此信息媒介可能是某个促销或推广活动的一个点,而非一个面.单就活动传播媒介的一个点来衡量其推广效率,确实有难度,因为一个活动的推广传播,通常是由很多点所组成的面构成的.而且,不同的传播媒介,其评价方法也会各有不同.我的建议是,不要对一个“物料”这样的点去进行评价,而是将所有的“物料”综合起来进行整体的“投资回报率(ROI)”评估.
涪陵区18053386887： 如何提高销售效率 - ？
赤采奈康： 对于多数企业来说,在销售方面的投入都是一项主要的投入.这部分支出往往会占企业销售收入的5%到40%.而销售部门的重要程度却远过于此.销售部门可能是企业中获得授权最多的部门,它们对外代表企业的形象,并掌管着企业最重要的资...
涪陵区18053386887： 如何评估各类广告的效果? - ？
赤采奈康： 在广告界有一句大家都知晓的名言:我的广告费有一半被浪费了,但我不知道是哪一半被浪费了.广告的花费是广告主的一种投资,既然是投资,就必然要求得到回报,这种回报就是对广告效果的期望.广告费被浪费,意味着广告投资没有得到...
涪陵区18053386887： 销售流程如何改进,以提高营销效率? - ？
赤采奈康： 销售会议上,公司领导慷慨陈词动员销售人员努力提升业绩,销售人员却没有方向;加大营销成本投入,却不能明显拉动销售业绩的增长;销售计划盲目,客户抱怨某些产品断货的时候,仓库却有大量其他产品的积压;闭门造车,新产品滞销严...
涪陵区18053386887： 如何统一管理活动的效果与效率 - ？
赤采奈康： 这个要看是啥活动了,活动一般可以分为时间,内容,参与人员,地点等几个主要因素,针对这几个因素拟定一份活动计划,把活动的内容及参与人员按照活动发展的时间顺序一一安排,应该就可以了.不过一般的小活动比较简单,在心里有个大概的步骤安排就可以了!
涪陵区18053386887： 如何进行市场营销审计 - ？
赤采奈康： 市场销售审计:从销售控制着手,行销活动范围也是行销控制的范围,主要控制内容有一下几方面:(一)预测控制 1、对消费者行为研究 2、科学地进行市场调查 3、正确的进行市场预测(二)决策控制(三)作业控制 1、订单控制 2、运送控制 3、开票控制 4、账款收取控制 5、账款注销控制从以上几方面进行审查,将工作做细,就能很好地完成销售审计.
涪陵区18053386887： 您可以运用有关市场交换信息的理论,分析营销活动中的效率损失?？
赤采奈康： 你能告诉我一些相关的信息吗?就上面的话语,我无法判断你所表述和要的答案是什么 ! 常规的说来:市场信息交互带来的效率相关包括时间反应、传递失真、渠道建设框架、以及认为主导偏差等一系列.
涪陵区18053386887： 怎样提高销售效率 - ？
赤采奈康： 送你一句话:方法决定结果,态度决定一切.
涪陵区18053386887： 怎样销售电子产品 - ？
赤采奈康： 客户不只买你的商品,他更买的饿你服务态度,所以我觉得,只要你服务够好,就一定会成功! 所有的改变都可以在瞬间,所以你的客户一定会被你优秀的态度打动,你的商品一定会买的更好!
