APM 上报信息分析与应用,
APM 上报信息分析与应用,
在入正题之前我们再回顾下它的架构图:
本文章主要分析AMP各索引的作用,与及结合1.7环境上已接入的服务数据对比后,对索引中的主要字段进行解析。文章分为四个小章节。
1、索引类型
apm索引分为四种类型:
系统指标索引(System status metrics),索引名称格式:apm-version-metric-yyyy.dd.mm,主要储存进程资源指标,如:内存信息、cpu信息、gc信息等。
具体异常索引(Error-specific data),索引名称格式:apm-version-error-yyyy.dd.mm,主要存储进程error级别的经过json格式化后的异常信息栈。
跨度(或链路)索引(Span-specific data),索引名称格式:apm-version-span-yyyy.dd.mm,主要存储跨本进程调用链的信息,如:代码执行链、跟踪id,跨度id,跨度类型、跨度用时等。特别指出的是这个索引的数据是形成整个事务、链路的一部分。
事务索引(Transaction-specific),索引名称格式:apm-version-transaction-yyyy.dd.mm,主要存储事务的持续时间,单位微妙(PS:这里的事务跟TPS同一个概念:指一个客户机向服务器发送请求到服务器做出相应的过程,这里除了客户机请求之外,还包括内部的执行任务,如:定时任务),如:进程id,TPS值,事务类型,发生时间,请求接口。
ps:以下标红字段是个人认为比较有价值的字段。
2、索引字段说明
这些索引中,有很多字段都是公共的,所以我在其中某个索引中提及到了,在其它索引就不再单独做说明项了。
2.1、系统指标索引
jvm.memory.non_heap.committed
java进程非堆的内存空间可用大小,单位是bytes。针对jdk8以上就是元空间大小。
jvm.memory.non_heap.max
java进程非堆的内存空间最大值,单位是bytes。针对jdk8以上就是元空间最大值。由系统参数:MaxMetaspaceSize设置
jvm.memory.heap.max
java进程堆内存最大值,由系统参数-Xmx设置
jvm.memory.heap.used
java进程堆内存使用量,单位字节
jvm.memory.heap.committed
java进程堆可用内存大小,它的值一般为大于或等于已使用大小,小于等于最大内存空间,小于是因为Xms与Xmx设置不一样,为了系统内存不波动,建议设置初始值和最大值一样。
jvm.memory.non_heap.used
java进程非堆已使用大小
jvm.thread.count
JVM中当前活动线程的数量
jvm.gc.alloc
代码中是计算java进程所有线程使用的内存总量(包括已死去的线程),但是字面理解是堆内存中分配的内存总量相当于heap.max,个人认为性能调优上没什么参考价值
process.pid
对应的终端进程id
processor.name
代表事件类型:metric
processor.event
代表事件类型:metric
process.title
jdk安装目录
service.name
对应的终端服务名称,就是elastic.apm.service_name参数指定的值
service.runtime.name
运行环境,如是java进程该值就是java
service.runtime.version
jdk版本
host.ip
终端进程所有服务器ip
jvm.gc.count
jvm垃圾收集次数
jvm.gc.time
每次GC使用时间,单位是毫秒
labels.name
GC方式:如G1 Young Generation或G1 Old Generation
@timestamp
收集时间
system.process.memory.size
进程占用的虚拟内存
system.process.cpu.total.norm.pct
自上次上报以来该进程占用CPU的百分比。需要乘以100%。
system.cpu.total.norm.pct
自上次上报以来终端所在的机器当前cpu的使用率,需要乘以100%
system.memory.actual.free
操作系统当前可用内存(字节),由空闲内存加缓存和缓冲区组成
system.memory.total
操作系统总内存
字段使用分析:
从以上索引字段解析可以让我们实时了解该进程所在机器的ip、当前cpu的使用率、内存使用率、被监控进程的堆、非堆内存分配情况、内存使用率、cpu使用率、GC次数、GC使用时间、GC类型。比如:生产上内存分配一般是4GB,如果分配低于1GB我们可以当成一项告警指标,知道了配置的总内存和使用内存,又可以算出内存使用率,那么当内存使用率达到90%即可做出告警事件,GC使用时间、频率。GC的用时和频率没有什么标准来衡量,根据服务实际情况来优化,能满足当前需求和体验感能接受即可,但以我们目前服务部署的情况来分析,高发很少突破100以上的情况下,每个服务内存都不超过4GB的,比较合理的YGC一分钟内不能超过10次,每次不能超过20毫秒,FGC应该0次出现。可以以这个目标来优化靠拢。(下次我会写一篇关于G1里为什么能让我们指定时间内完成GC——启发式算法)
2.2、异常索引
parent.id
指向父节点的id,意思是上个服务请求的标识id,用于服务之间异常调用链路跟踪
transaction.id
事务id,这里的事务不是数据事务,代表一个完整的请求流程或一个内部任务。用于异常事件链路跟踪,结合数据看与parent.id值相同,说明代表服务id并不是固定死
error
异常栈
error.exception.message
抛出的异常信息,如:xxx属性为空、500 Server Error、The user specified as a definer ('test_seq'@'%') does not exist
error.exception.type
异常类型,如:java.lang.RuntimeException、com.segi.uhomecp.ifs.activiti.exception.WorkFlowException、java.sql.SQLException
error.culprit
异常发生的根源,就是哪个类里的哪个方法哪行代码发生的异常。如:com.segi.uhomecp.redis.RedisUtil$18.execute(RedisUtil.java:444)
error.id
此次异常事件的标识id
error.grouping_key
异常分组id,按error.exception.type分组
processor.name、processor.event
事件类型和名称是同个东西,就是代表span、error、还有metris
observer.hostname
apm服务的主机名
observer.type
默认都是apm-server
observer.version
apm服务版本号
observer.version_major
apm服务主版本号
trace.id
跟踪id
host.hostname
被监控的终端服务主机名
transaction.type
此事代码被执行的方式,意思是被http请求还是内部执行的定时任务。如:request、scheduled
transaction.sampled
监控数据事件是否包含跨度、上下文等全部相关信息,默认是true
timestamp.us
事件发生时间,微妙
url.path
接口uri,如:/lease-stat/admin/businessSummary/list
url.scheme
url类型,如果是http.其值就是:http,非http为空
url.port
接口对应的端口
url.domain
接口对应的ip或域名
url.full
接口完整url
http.request.method
请求方式,get或post,非http为空
http.response.status_code
http相应状态码,如:500
还有些一些用户http请求的信息字段,如:浏览器,用户终端类型,http版本等。
数据结构图:
字段使用分析:
好了,经过我们分析了这个索引的核心相关字段后。就可以知道这个索引能给我们解决什么问题了,首先最有价值的是error异常栈,我们码农级别最喜欢看的东西都这error doc里,从异常栈我们可以分析出错的原因,error.culpri触发异常的地方,除了这些信息我们从中还可以知道:异常接口、异常的服务进程、异常服务ip、http异常状态码、关连的异常链路。
2.3、跨度索引
span.id
跨度标识
span.stacktrace
这个是跨度调用链,记录了调用的文件名,调用行,调用方式等信息
span.duration.us
跨度耗时,单位微妙,这个时间是记录span.stacktrace内调用栈的用时。跨度是什么意思呢? 是指除了本进程内调用之外都算是跨度调用,比如:数据库操作、调ice等
span.type
跨度类型,数据库就是db,http就是external,相对subtye,它细粒度大些。
span.subtype
跨度调用子类型,有http、mysql、tcp(占不支持)等
span.name
给这个跨度调用取的简单名称。如:SELECT FROM ACT_RU_EXECUTION、SELECT、POST 192.168.1.7
span.action
跨度事件类型,像数据库查询,类型就是query
字段使用分析:
这个索引最有价值的调用链了:span.stacktrace和执行过程中所花的时间。
2.4、事务索引
transaction.duration.us
整个流程的处理时间,单位微妙,这个时间包含了跨度时间在内
transaction.name
整个事务的名称,用接口名、方法入口名来命
span_count
记录跨度数
字段使用分析:
transaction.duration.us是整个请求过程所使用的时间,可以根据这个时间推断出指定该接口所在的服务,所属的进程的性能,还有
schemes类型,根据这个可以判断是不是http请求,
这个索引的数据主要是结合跨度索引一起使用。
3、实践应用
经过了一翻上报索引数据的分析后,我们来实践一下。
现成的界面指标分析
4、高级应用
制作我们的仪表板:
通知告警:
相关文章
- 暂无相关文章
用户点评