首页 文章 精选 留言 我的

精选列表

搜索[数仓建模],共10009篇文章
优秀的个人博客,低调大师

教你处理数仓慢SQL常见定位问题

摘要:通常在运维监控出现CPU使用率较高、P80/P95指标较高、慢SQL数量上升等现象,或者业务出现超时报错时,优先应排查是否出现慢SQL。 本文分享自华为云社区《GaussDB慢SQL常见定位处理手段》,作者:酷哥。 关键指标 通常在运维监控出现CPU使用率较高、P80/P95指标较高、慢SQL数量上升等现象,或者业务出现超时报错时,优先应排查是否出现慢SQL。 定位慢SQL手段 实时慢SQL查询 查询当前执行时间TOP10的SQL,识别长时间未结束的SQL后可以手动中止。 select a.pid, a.sessionid, a.datname, a.usename, a.application_name, a.client_addr, a.xact_start, a.query_start, (now() - a.query_start)::text as query_runtime, a.unique_sql_id, w.wait_status, w.wait_event, w.locktag, w.lockmode, w.block_sessionid, a.query from pg_stat_activity a join pg_thread_wait_status w on a.sessionid = w.sessionid where a.pid <> pg_backend_pid() and a.state = 'active' and a.client_addr is not null order by query_runtime desc; 根据查询结果,如果是等待锁,可以结合锁等待信息进一步分析,其他情况可以根据unique_query_id关联WDR报告、statement视图进一步分析慢的根因。 历史慢SQL查询 思路:根据CPU、慢SQL等监控指标,定位慢SQL出现的时间范围,通过以下几种方式进一步分析。 整体运行情况分析:WDR报告 通过导出对应时间段的WDR报告,可以分析耗时较长的SQL,WDR报告生成方法参见产品文档。 单次执行情况分析:statement_history statement_history记录了执行时间超过阈值(log_min_duration_statement,默认3 s)的详细SQL信息,包含计划生成时间、执行时间、锁等待时间等信息,其中部分信息与参数track_stmt_stat_level设置的级别(默认为'OFF,L0')有关。 设置参数track_stmt_stat_level='OFF,L1'后,statement_history中可以记录计划信息、锁等待时间等信息。 必须在postgres库内查询,根据时间段查询慢SQL(按照执行时间排序) SELECT *, finish_time - start_time as run_time FROM dbe_perf.statement_history WHERE start_time > '2022-07-08 18:00:00' AND start_time < '2022-07-08 19:00:00' -- 根据unique_query_id可以过滤出特定的查询 -- AND unique_query_id = 123456 ORDER BY run_time desc; 单个Query运行情况分析:statement statement记录了SQL按照unique_sql_id归一化的执行信息,包括执行次数、总的执行时间、访问数据量、内存使用等信息。 根据unique_sql_id查询历史执行信息 SELECT *, total_elapse_time / n_calls as avg_elapse_time FROM dbe_perf.statement WHERE unique_query_id = 123456; 动态抓取执行信息(计划、锁等待时间等) 为了避免对生产环境产生影响,可以动态抓取SQL执行信息 -- 抓取指定unique_sql_id的全量SQL信息 -- 示例:unique_sql_id为3267119089,全量SQL级别为L2,相当于track_stmt_stat_level='L2,off' select * from dynamic_func_control('LOCAL', 'STMT', 'TRACK', '{"3267119089", "L2"}'); -- 打开之后,查询statement_history -- 关闭抓取,清理 select * from dynamic_func_control('LOCAL', 'STMT', 'UNTRACK', '{"3267119089"}'); select * from dynamic_func_control('LOCAL', 'STMT', 'LIST', '{}'); select * from dynamic_func_control('LOCAL', 'STMT', 'CLEAN', '{}'); 查看会话快照信息 SELECT * FROM dbe_perf.local_active_session WHERE query_start_time > '2022-07-08 18:00:00' AND query_start_time < '2022-07-08 19:00:00' AND unique_query ilike '%%'; 常用处理手段 中止慢SQL 根据查询结果中的pid和sessionid,使用函数中止查询 select pg_terminate_session(pid,sessionid); 优化SQL 更新统计信息 查看统计信息 select * from pg_stats where tablename = '表名'; select * from pg_stats where tablename = '表名' and attname = '列名'; 更新统计信息 analyze tablename; 手动设置列的distinct值(该字段不同值的数量,选择率 ~ 总行数/distinct值) ALTER TABLE tablename ALTER COLUMN colname SET (n_distinct = 实际值); analyze tablename; -- analyze执行后生效 ​ -- 取消设置 ALTER TABLE tablename ALTER COLUMN colname RESET (n_distinct); analyze tablename; -- analyze执行后生效 使用hint优化计划 通过分析慢SQL的计划,可以使用hint进行调整,openGaussc常用的hint包括: Join顺序的Hint,语法示例:/+ leading((t1 t2))/ Join方式的Hint,语法示例:/+ nestloop(t1 t2)/ Scan方式的Hint,语法示例:/+ indexscan(t1 index1)/ 优化器GUC参数的Hint,语法示例:/+ set(param value)/ Custom Plan和Generic Plan选择的Hint,语法示例:/+ use_cplan/ .... 修改参数 根据慢SQL分析结论,可以考虑修改GUC参数,但是修改参数同时也会影响其他查询的计划,属于高风险操作。 其他 对于整体执行慢,可以通过分析WDR报告中TOP等待事件,进一步优化。 点击关注,第一时间了解华为云新鲜技术~

优秀的个人博客,低调大师

PDManer[元数建模]公有云版本已正式发布

2023来啦,各位开源中国的同学,新年快乐!期待已久的公有云在线版已于2023年1月1日正式发布,微信扫码即用。 功能特点如下: 1. 拥有客户端版本的全部功能; 2. 免费赠送3个协作席位,实时在线协作; 3. 平台公云版,开源版均能实现文件格式通用; 4. 提供模型广场,发布或者共享他人成果; 5. 将来持续推出更多实用功能; 欢迎使用,体验地址:http://pdmaas.pdmaner.com/

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册