前端页面性能指标数据采集架构

本节课属于教程《高性能极致用户体验前端开发实战

上节我们根据浏览器渲染页面的流程梳理了前端开发中常用的性能指标和用户体验指标,同时也基于浏览器的Performance API标准给出了这些指标的计算方法。那么,剩下需要考虑的就是如何搭建这样一个前端性能监控平台的架构,各个环节如何有效运转衔接,如何扩展延伸。最重要的是如何处理数据问题。先放一张整体设计图:

我们来慢慢梳理一下:

采集脚本

首先我们有一个指标数据采集的脚本,用于采集各个端的数据,注意需要处理不同端的差异性(比如app内的web view和原生webview差异,不同前端框架可能导致的差异,Android和IOS的差异),同时需要考虑数据采样

  • 计算指标
  • 端差异化处理
  • 采样,前面介绍过了,即使用户量不大,但是叠加上时间维度,最后的数据累积起来也可能超出现有系统的处理能力。最好的方法是做采样。但是要合理选用采样策略,既要保证样本分布均匀,又要保证样本具有代表性。

总结起来,主要是上面三个方面。

日志系统

采集脚本采集到数据之后需要上报的,这里我们像开发页面那样简单的调用接口。要知道我们做的是性能监控,不仅随时都会收集数据上报,同时也很可能多端并发,所以一般的接口分分分钟就可能搞挂。所以,业界通用的做法是采用日至系统来承接。

这里主要介绍发送请求和处理请求两部分。

  1. 发送请求

像很多这种做网站数据统计的,比如百度统计,CNZZ,google等,他们都是发一个get请求,附带一些数据。而且为了处理跨域问题、提升并发,减少网页消耗,一般做法都是请求一个gif图片地址,在图片的url上带上参数。或者通过JSONP的形式。比如下图:

2. 处理请求

处理请求这里其实很简单了,如果你想到的是写后端接口来处理,那么就太复杂了,主要是性能上很难达到高并发的要求。最便宜、最简洁、最通用的方法是让HTTP Server写日志。通常用的Apache或者Nginx都能很简单做到这点,配置一下拦截的url规则和日志规则就可以了。当然日志是默认写入到磁盘的,剩下的就是要保证磁盘容量够大,预算能够放得下多少时间的日志量。

实时计算平台

前面介绍过流计算Flink,这里也就是需要这样的平台来帮我们实时汇总计算数据。

实时计算平台主要是为我们处理日志数据的,随着用户的增长,时间的推移,我们上报的埋点数据集合肯定是海量数据。需要实时计算平台为我们不停地整理日志数据,方便支撑我们不同纬度的业务需求,比如实时数据统计和离线数据归类。

  • 实时数据统计,实时计算当前的性能和体验指标,用于快速定位发现问题,对于像特别大型的官方活动,需要这种实时监控能力。
  • 离线数据归类,日志系统记录的上报数据最终要进行分析归类,转换成我们需要的结构化数据,最后存储在我们的mysql关系数据库中,这样方便后续继续分析使用。比如查询历史的数据情况,就不需要每次都来查询实时计算平台

数据持久化

分为两部分:

  • 临时持久化,缓存实时的数据计算结果,一般时间跨度不长。比如双十一大促活动24小时监控。
  • 长期持久化,比如可以按照天为维度,每天跑任务计算出所有需要的数据,最后写到我们的关系数据表中。

推荐

  1. 参考看下阿里云的日志服务架构

知识共享署名4.0国际许可协议,转载请保留出处; 部分内容来自网络,若有侵权请联系我:前端学堂 » 前端页面性能指标数据采集架构

赞 (1) 打赏

评论 0

如果对您有帮助,别忘了打赏一下宝宝哦!

支付宝扫一扫打赏

微信扫一扫打赏