广告系统的平台架构与交互流程

商业化是互联网产品常用的流量变现手段,商业化平台(广告平台)其核心是围绕客户(商家、广告主等),用户(网民、用户产品使用者),平台三者展开的商业活动。在业界比较大的广告平台包括:百度凤巢,腾讯广点通,阿里妈妈,头条巨量等。
 
这些广告平台面向的业务领域大体相同,都在计算广告学的范畴内,不管是展示广告、效果广告、信息流广告,还是CPT、CPM、CPC模式,也不管是竞价RTB还是合约广告,其系统架构上必然有很多共性,本文就尝试抽象一种通用的广告系统架构,从工程角度阐述其模块构成,从模块交互流转角度介绍主业务流程。
 
下文提到的每一个模块都可以展开为一个超大的工程或者算法问题,甚至有着几十、上百人的团队才可以搭建运转好,本文主旨在抽象、简化通用的架构组成。
 
一个广告系统内部由4个大模块(a.k.a 端)组成(如下图),包括:
1)业务端:也叫做平台端,to B。职责在于将营销参与者融入商业体系,管理好“生产资料”,可以看做广告平台的后勤部,例如广告主的设置投放条件,提交创意;运营分析优化广告主投放设置等;与代理商进行激励返点,财务计费结算等。
2)检索端:面向网民,to C,将流量商业化,其往往要求在尽量短的时间内,把最合适的广告,出给最合适的网民,是一个在线的检索系统。
3)数据端:收集展现、点击、转化数据,进行计算、转化、加工形成数仓和报表,供业务端、BI决策使用。同时可整合各方数据,提供统一是数据平台,产品可以包括DMP、标签系统等。
4)策略端:基于机器学习算法和技术,在广告领域建立模型,从机制、定向、触发角度和检索端交互,为在线广告提供智能的决策能力,更好的平衡网民、平台、广告主三者的诉求和利益,包括但不限于CTR、CVR预估、风控、反作弊等。
展开各模块(端)的流程图示如下,图例如下,
流程大图如下。
下面展开流程阐述。
 
1、注册/登录
广告主登录系统,进行基本的鉴权,角色分配,账户管理。同时为营销参与者包括产品、运营、销售等提供登录、附身功能。
 
2、代理开户 & 订单合同管理
代理商可代理广告主开户,客户同样统一维护在用户中心;对于KA类广告主往往投放CPT、GD模式的合约广告,因此还需要订单管理、询量询价、合同确认等。
 
3、资质审核
风控平台审核广告主资质,进行基本的打标和风险控制。
 
4、用户充值
广告主通过财务平台充值,只有账户余额balance>0时,才具备广告投放准入资格。
 
5、设置广告
通过客户端、API,或者直接访问投放平台系统,可进行广告投放设置,包括设置预算、排期,添加推广计划、单元、关键词、定向、创意等。这个步骤是广告主表达其诉求的环节。另外图中5.2步骤可以通过DMP提供的平台进行“圈人”操作,现代的广告投放系统基本都可以进行人群定向,因此可以直接对目标受众进行广告投放。投放平台一般是业务系统,多使用服务化的方式构建。
 
6、存储投放设置
如果把投放平台看做一个复杂的状态机,其无状态,那么状态数据就在广告库中,一般使用结构化的OLTP存储引擎,例如分库分表MySQL、RDS,或者分布式数据库PolarDB、OB、TiDB等,保存了全局广告主的投放诉求。
 
7、制作创意、制作网站、管理产品
创意是传达推广意图的载体,因此往往会有专门的创意制作工具,以及创意制作的公司。对于中小广告主(SME),一些平台可以提供其基本的建站能力。对于大型广告主(KA),例如苏宁、携程,其可以通过产品库的方式进行创意制作,类似百度闪投,可节约大量创意制作成本,并且提供智能化的千人千面产品投放。现在越来越多的广告平台采用创意组件化的方式投放,基于广告主提供的素材,动态拼接组件,更好的进行个性化的投放,提高点击率。
 
8、存储物料
物料存储往往是一些非结构化的数据,例如图片、视频等,因此需要专门的存储引擎,例如OSS等,同时还需要同步到CDN等,用于C端在线展示。
 
8、审核广告物料
风控审核平台会对增量物料进行机审、人审,保证符合平台规范和制度,避免风险物料展示,同时可对创意进行分类打标。
 
10、广告传输
广告库需要传输到检索端的广告索引中,才可以在线生效。广告可全量导出,利用分布式计算引擎,例如Spark/MaxCompute等,生成基准文件;可实时增量下发,一般通过binlog机制,可使用canal、fountain、hiriver等开源组件,或者利用阿里云DTS下发到消息队列,可实现广告数据的多端解耦和广播下发订阅。
 
11-19属于检索端流程,检索端由于面向网民,面向流量产品,因此其广告请求往往QPS高,需要低延迟的返回广告结果,在极短的时间内(几百毫秒内,SLA每个平台不同)完成复杂的触发、定向、广告召回、拍卖机制计算、拼接渲染等环节,多数广告平台的检索端采用C++技术栈。
 
11、离线/实时索引构建广告索引
检索端订阅广告传输流,以及计划撞线、广告主状态的增量,将信息保存或者更新到索引库,其规模往往较大,通过索引服务暴露接口,例如可以通过类SQL方式,根据query查询符合条件的Ad。因此这里往往会做倒排索引,和传统搜索引擎不同的,这里的倒排是Ad,而不是网页,其查询主键可以是keyword,或者定向条件等等多个维度。
 
12、请求广告/展现广告
网民浏览用户产品,用户产品请求商业广告。访问UI的也可能是ADX,符合OpenRTB协议的bid request,这样广告平台可以接入其他ADX进行竞价,例如tanx。
 
13、发起检索
请求通过UI服务器,往往是7层负载或者经过封装的服务,向内网服务发起请求。
 
14、查询特征
请求session提取feature环节,可根据某些id或者id-mapping后唯一定位访问者,拿到query、访问上下文、用户基本信息(IP、IDFA、安卓ID、OAID等)、用户标签信息(兴趣、社会属性)、用户历史行为(搜索或者电商上的行为)等等,这些feature和用户数据供后续环节使用。特征、标签数据往往存储在分布式KV存储中。
 
15、召回备选广告
输入是请求特征,输出是符合条件的N条广告或者创意。召回通常需要访问广告索引,一般使用倒排索引,也就是feature->unit/creative,可以包含多个通道,所谓通道可以是各种触发方式,例如关键词触发,兴趣定向触发等等,召回的广告需要经过各种业务过滤,并且返回的Ad只包含基础信息,然后构造广告返回队列并截断处理,返回不超过阈值个Ad。这部分可以看做是粗排海选。从广义上来说,搜索广告的关键词匹配也可以发生在这个环节,通过短语匹配、宽泛匹配等来召回搜索广告。
 
16、预估CTR/CVR
对于粗排后的所有广告,需要进行相应的CXR预估后进行精排,CXR一般包括CTR点击率,或者CVR转化率,输入是<query, List<Ad>>输出是<query, List<pCXR>>,预估的调用发起往往是并行的计算密集型操作,依赖于modeling模块或者服务,一次查询涉及数百次的feature提取和查表,表往往是个大的hashmap,也就是策略端负责更新的模型文件,因为涉及各种特征或者组合数据,因此其文件规模往往巨大,几百G都有可能,需要全量加载到内存,保证访问时延。
 
17、过滤/排序/计费,返回
针对一些预算场景,需要做匀速消费(pacing)与超预算控制,针对媒体和用户会做频次控制,所以会过滤某些Ad。对于精选过的Ad需要进行排序,一般采用eCPM排序(rank),对于广告还需要查正排,例如查询标题、描述、url,拼接用于展示的数据,拼接加密后的点击串,落展现日志,通过GSP机制进行计费等。
 
18、样式渲染
广告检索引擎返回的若干创意,往往只是raw的结构化信息,需要结合前端的模板,进行渲染组装后再返回给前端。
 
19、展现日志
对于搜索广告,可以近似看做该条广告展现了,push到消息队列或者日志系统;对于推荐广告,还涉及填充料和曝光率的问题,因此实际用户看到的远小于返回的广告。
 
20、点击广告
用户如果感兴趣会点击广告。
 
21、跳转到落地页
创意展示并且触发动作,可以包括跳转到落地页,拨打电话等等。
 
23、转化日志
如果发生了真实的转化,转化日志push到消息队列或者日志系统。
 
24、反作弊过滤
对于展现、点击、转化数据,需要经过反作弊后再计费,反作弊的目的主要是保护广告主和平台利益,过滤无效的展现、点击,例如网站主刷量,竞争对手恶意点击以及不符合统计学规律的各种异常情况。
 
25、扣费
通过计费服务进行扣费,计费服务需要满足高性能、高吞吐、高可用、可扩展等非功能需求,实时处理展现、点击请求,在指定的推广层级上进行扣费,往往涉及流式计算范畴,例如可以使用Flink构建计费服务,计费需要保证不丢、不重,端到端的exactly once语义。扣费最终反馈到财务中心,扣用户的余额balance。
 
26、计划撞线/广告下线
对于预算撞线的推广计划,或者广告主余额不足的情况,需要及时下线广告,尽量避免超预算的损失,这部分信息需要实时的反馈到广告索引中,由于涉及平台收入敏感数据,因此可以和广告库分离,单独下发,通过隔离保证下发的实时性。
 
27、报表数据计算
这部分涉及离线数据处理,把收集上来的展点消数据,经过批量、实时的计算引擎,进行抽取、转换、拼接、过滤,最终输出给数仓warehouse,以及用于广告主查看的报表平台。对于数仓会面向广告领域建模,有各种事实表和维度表,供业务、算法、BI、dashboard查询使用。对于广告主,往往维度固定,面临高并发的海量查询,因此采用MOLAP的选型,例如PALO,Kylin,Druid,Google Mesa、阿里ADB。
 
28、查看报表
广告主通过业务平台查询报表,例如最新7天所有推广计划的展点消数据。
 
29、查询数据
查询报表OLAP Engine。
 
30、代理商业绩管理、客户管理
CRM是业务平台中非常复杂的系统,面向销售、代理商、客服,典型功能包括线索管理、合同管理、开户,客户管理,业绩管理、返点等,通过运营的手段,为广告平台赋能。
 
31、分析优化产品
这部分的工作主要是数据分析相关,利用数据仓库技术,使用实时化方式,形成基础的事实和维度表,开源大多构建于HDFS上,使用ORC、Parquet、Carbondata等格式存储,使用Hive on MR、Spark做计算,ROLAP类使用Presto、Impala等查询。同时也会开发各种面向数据的服务,供BI、Dashboard、一些工具,以及算法工程师使用,用于观察系统大盘,实验对比,消费趋势等等,进一步做决策以及预警。
 
注:
1、本文主要阐述工程架构,对于策略端的算法,分为机制、触发(搜索广告)、定向(推荐广告)、模型等方向,限于笔者知识面,暂不展开。
2、样式平台是统一业务、检索、算法的标准化服务,业务端通过标准样式,供广告主编辑创意;检索端渲染会使用样式;算法可以基于样式做各种算法优选。
3、算法数据驱动业务流程,主要包括策略端通过机器学习进行建模后的模型数据,供modeling使用;通过实时的计算,可进行反作弊以及实时反馈服务到特征库;DMP通过引入多方的数据,帮助广告主更好的锁定目标人群,可以做用户画像、标签,用于在线检索理解session使用。
 
总结,本文尝试抽象一种通用的广告系统架构,从工程角度阐述其模块构成,从模块交互流转角度介绍主业务流程。相信跟随流程的流转,读者可以对于广告系统的内部工作方式有所了解,建立宏观的认识,对于更深度的了解系统会有一定帮助。
 
转载时请注明转自neoremind.com

 

1 Comment on this Post.

  1. 匿名2号

    GOOD!

Leave a Comment.