...
1、背景说明
某用户使用smartbi实现了内部的实训平台，近期举办了实训大赛，平台使用的人较多，Smartbi服务近内存和CPU的消耗很大，过段时间平台就会崩掉，每天都要重启好多次。针对项目中经常遇到的CPU占用告警问题问题排查的思路整理及相关工具的介绍。
2、环境说明
Smartbi、MySQL知识库和业务库、挖掘引擎等相关组件都部署在一台服务器上。
...
2、问题说明
常见的CPU高占用问题，
3、问题分析
3.1 定位资源占用进程
根据上图展示的阿里云ECS服务器监控情况来看，整个服务器运行压力比较大，内存使用率和系统负载都很高。
...
下面需要对Smartbi的Tomcat进程做进一步分析。
3.2 Smartbi的Tomcat进程
3.2.1 方式1 通过top查看CPU消耗
命令：top -H -p pid
其中pid为Tomcat进程号，比如上图的20334
可以查看到很多线程占用CPU比较高，如果需要查看线程具体执行的代码逻辑需要通过如下操作
3.2.2 方式2 通过listthread.jsp查看CPU消耗
如果此时Smartbi页面可以正常访问，可以使用Smartbi内置的JSP页面来查看哪些线程占用CPU比较多。
...
加载此界面完成后Ctrl+S保存网页内容发回分析，可分析是哪个线程占用过高的CPU：
3.2.3 方式3 通过arthas工具查看CPU消耗
通过arthas工具监控发现Smartbi存在大量线程CPU使用率非常高。
3.2试试
经排查这些线程主要是对tx_processdag表进行全表遍历，tx_processdag大约有2.5万条记录，单独执行需要20s+才能够执行完毕，存在很大性能瓶颈。
4、项目案例
配置文件位置
在不同的操作系统上，my.cnf 文件的位置可能有所不同：
Windows: 通常位于 MySQL 安装目录下的 my.ini 文件。
Linux: 通常位于 /etc/my.cnf 或 /etc/mysql/my.cnf，可以通过如下命令查看配置文件的查找路径
...
mysqld 默认会从 /etc/my.cnf、/etc/mysql/my.cnf、/usr/local/mysql/etc/my.cnf ~/.my.cnf 多个文件依次读取配置。
注1：如果某个参数在多个文件都有配置，那么就以最后读取到的那个参数值为准。
注2：可以使用命令行参数 defaults-file 指定配置文件，指定这个参数后，MySQL 只会从这个文件中读取配置项，需要注意，defaults-file 在所有命令行参数中必须排在最前面才有效。
注3：如果有多个配置文件，查看当前生效的配置及使用配置文件位置的SQL语句
...
SELECT
info.VARIABLE_NAME,
info.VARIABLE_SOURCE,
info.VARIABLE_PATH,
gv.VARIABLE_VALUE,
info.MIN_VALUE,
info.MAX_VALUE,
info.SET_TIME,
info.SET_USER,
info.SET_HOST
FROM
( SELECT * FROM `performance_schema`.variables_info WHERE length( variable_path )!= 0 ) info
LEFT JOIN `performance_schema`.global_variables gv ON info.VARIABLE_NAME = gv.VARIABLE_NAME
ORDER BY
info.VARIABLE_SOURCE DESC
3、MySQL配置文件结构
my.cnf（my.ini）文件是一个文本文件，每个配置项都包含在一个特定的节（section）中，每个节由方括号 [ ] 包围，表示该节下的配置项适用于哪个组件或服务。常见的节包括：
[mysqld]: 针对 MySQL 服务器的配置
[client]: 针对所有客户端程序的配置
[mysql]: 针对 mysql 命令行工具的配置
3.1 [mysqld]配置
这是 MySQL 服务器的主要配置部分。
3.1.1 基本设置
...
3.1.2 性能优化
...
innodb_buffer_pool_size = 1G
...
interactive_timeout = 1800
...
max_allowed_packet=512M
...
3.1.3 日志设置（非必需）
...
3.1.4 安全性设置（非必需）
...
3.1.5 复制设置（非必需）
...
3.2 [client]配置
这是客户端程序的配置部分，主要是为了给mysql 客户端命令配置相关参数，此处配置了，在命令行中就不需要再次指定了
...
如下截图所示，因为在client中配置了user，链接时直接指定-p 输入密码即可，不用再执行-uroot参数了。
另执行[\s]命令可以看到当前的连接信息情况。
3.3 [mysql]配置
这是 MySQL 命令行工具的配置部分的配置，很少使用到，了解一下即可，基本不用配置。
4、MySQL知识库调优基线配置说明
公司内部使用的MySQL知识库的参数配置的基线也是基于my.cnf的调优配置（基本的调优配置如下），详情参考下方链接说明。
...
4.1 ETL导致的CPU占用告警
某项目反馈CPU使用率突然飙升，经排查发现是因为ETL执行引擎占用了较高的CPU
检查ETL配置发现执行引擎中配置了14核（一共16核）导致的问题，这个是ETL本身机制问题导致的。
注意：ETL运行原理是基于分配的CPU进行使用，如果job比较多且数据量大就会把所分配的CPU全部占用
ETL建议的CPU和内存比例为1:4 ，目前内存是32g，建议配置8核CPU。
