运维技巧 – 活用临时表隔离冷热数据

《运维技巧 – 活用临时表隔离冷热数据》要点:
本文介绍了运维技巧 – 活用临时表隔离冷热数据,希望对您有用。如果有疑问,可以联系我们。

编辑手记:Oracle给了我们很多工具,在日常数据库管理中活用这些工具方可发挥最大效能.

作者简介:

张洪涛  富士康 DBA

在数据库监控过程中发现考勤数据库上Employees_ControlData存储过程执行时间需20分钟.这个存储过程逻辑很简单,就是打开一个游标,做LOOP循环,再删除重复数据,结构如下:

CREATE OR REPLACE PROCEDURE Employees_ControlData

IS

tmpVar    NUMBER(6);

tmpVar1   NUMBER(6);

tmpVar2   NUMBER (6);

tmpVar3   NUMBER(6);

CURSOR EMP_NO

IS

SELECT WORKNO FROM ZZ_EMPLOYEES;

BEGIN

–LINE 12行

FOR USERID INEMP_NO

LOOP

……

END LOOP;

–Line128行,删除重复数据

Delete ….  ;

COMMIT;

EXCEPTION

WHEN NO_DATA_FOUND

THEN

NULL;

WHEN OTHERS

THEN

— Consider logging the error and then re-raise

RAISE;

END Employees_Controldata;

ZZ_EMPLOYEES有4万多笔数据,LOOP也会执行4万多次.AWR报告与GridControl监控都显示效能瓶颈在LOOP循环中六处SQL,再看一下LOOP循环中六处问题SQL:

–Line14行

SELECT COUNT(*)

INTO tmpVar

FROM CPYTGL.EMPLOYEE_CONTROL

WHERE     EMP_NO = USERID.WORKNO

ANDTO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)=

TO_CHAR(SYSDATE-2,’YYYY/MM/DD’)

AND TYPE=’F’

AND INOROUT_TIME >SYSDATE-3

AND ROWNUM<6;

–Line38行

INSERT INTOEMPLOYEE_CONTROL_EXCEPTION

SELECT DISTINCT *

FROM EMPLOYEE_CONTROL

WHERE     EMP_NO = USERID.WORKNO

AND TO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)

AND TYPE=’F’

AND INOROUT_TIME >SYSDATE-3;

–Line49行

INSERT INTOEMPLOYEE_CONTROL_EXCEPTION

SELECT DISTINCT *

FROM EMPLOYEE_CONTROL

WHERE EMP_NO = USERID.WORKNO

AND TO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)

AND TYPE=’F’

AND INOROUT_TIME >SYSDATE-3

AND INOROUT_TIME NOTIN

(SELECT INOROUT_TIME

FROM EMPLOYEE_CONTROL_EXCEPTION

WHERE EMP_NO = USERID.WORKNO

AND TO_CHAR(INOROUT_TIME,

‘YYYY/MM/DD’)=

TO_CHAR(SYSDATE-2,

‘YYYY/MM/DD’)

AND TYPE=’F’

AND INOROUT_TIME >SYSDATE-3);

–Line72行

SELECT COUNT(*)

INTO tmpVar1

FROM CPYTGL.EMPLOYEE_CONTROL

WHERE     EMP_NO = USERID.WORKNO

ANDTO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)

AND TYPE=’L’

AND INOROUT_TIME >SYSDATE-3

AND ROWNUM<6;

–Line82行

INSERT INTO EMPLOYEE_CONTROL_EXCEPTION

SELECT DISTINCT *

FROM EMPLOYEE_CONTROL

WHERE     EMP_NO = USERID.WORKNO

AND TO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)

AND TYPE=’L’

AND INOROUT_TIME >SYSDATE-3;

–Line87行

INSERT INTO EMPLOYEE_CONTROL_EXCEPTION

SELECT DISTINCT *

FROM EMPLOYEE_CONTROL

WHERE     EMP_NO = USERID.WORKNO

AND TO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)

AND TYPE=’L’

AND INOROUT_TIME >SYSDATE-3

AND INOROUT_TIME NOTIN(SELECTINOROUT_TIME

FROM EMPLOYEE_CONTROL_EXCEPTION

WHERE     EMP_NO = USERID.WORKNO

AND TO_CHAR(INOROUT_TIME,

‘YYYY/MM/DD’)

AND TYPE=’L’

AND INOROUT_TIME >SYSDATE-3);

这六处SQL都查询了EMPLOYEE_CONTROL考勤信息表.此表已有近两亿笔数据,根据INOROUT_TIME字段进行分区,并对相关字段建立了索引.

CREATE INDEX EMPLOYEE_CONTROL_EMPNOINOROUT ON EMPLOYEE_CONTROL

(TO_CHAR(“INOROUT_TIME”,’YYYY/MM/DD’),EMP_NO) LOCAL;

SQL> SELECT column_name

2   FROM dba_part_key_columns

3  WHERE name = ‘EMPLOYEE_CONTROL’;

COLUMN_NAME

——————————————————————————–

INOROUT_TIME

SQL> SELECT num_rows

2   FROM dba_tables

3  WHERE table_name = ‘EMPLOYEE_CONTROL’;

NUM_ROWS

———-

193585044

EMPLOYEE_CONTROL考勤信息表至少需保留一年数据备查.六条SQL已加INOROUT_TIME >SYSDATE-3条件,执行计划中可进行分区裁剪,删减数据这条路行不通.

WHERE中的条件也正确使用了索引,似乎所有常规优化方法都已用上,如何才能进一步提升存储过程LOOP循环执行速度?

我们再分析这六条SQL,在WHERE条件中都出现了对EMPLOYEE_CONTROL表以下限定条件:

TO_CHAR(INOROUT_TIME,’YYYY/MM/DD’)

AND INOROUT_TIME >SYSDATE-3

AND TYPE=’L’

AND TYPE=’F’

存储过程实际要读取的只有一天的数据,这部分数据一般只有10万笔为热点数据.如果我们先把此部分数据单独读出,在LOOP循环中就可只读取临时表内容,避免4万次读取有两亿笔数据的EMPLOYEE_CONTROL考勤资料表.

依此思路,我们先建立一个临时表,并为临时表EMP_NO字段添加索引:

CREATE GLOBAL TEMPORARY TABLE CPYTGL.EMPLOYEE_CONTROL_TEMP

ON COMMIT DELETE ROWS

AS

SELECT *

FROMCPYTGL.EMPLOYEE_CONTROL

WHERE 1 = 0;

CREATE INDEX CPYTGL.EMPLOYEE_CONTROL_TEMP_NOONCPYTGL.EMPLOYEE_CONTROL_TEMP

(EMP_NO);

再在存储过程头部将符合条件的数据取出:

INSERT INTO cpytgl.EMPLOYEE_CONTROL_TEMP

SELECT*

FROM CPYTGL.EMPLOYEE_CONTROL

WHERE     TO_CHAR (INOROUT_TIME,‘YYYY/MM/DD’) =

TO_CHAR(SYSDATE – 2,‘YYYY/MM/DD’)

AND INOROUT_TIME > SYSDATE- 3

AND TYPE IN(‘F’,‘L’);

这样就可改写消耗资源的六条SQL查询临时表.以第14行SQL为例,需改写为:

–Line14行

SELECT COUNT (*)

INTO tmpVar

FROM cpytgl.EMPLOYEE_CONTROL_TEMP

WHERE EMP_NO = USERID.WORKNO AND TYPE = ‘F’ AND ROWNUM< 6;

LOOP循环中六条SQL改为查询10万笔记录的临时表后,存储过程只需1分钟即可跑完.相较之前20分钟运行时间有大幅度提升.

此例核心为使用临时表隔离冷热数据.DBA一次调优不一定能想出最佳方法,通过对应用的不断深入观察,以及Oracle工具的合理使用,加上一点点灵光一现那些看似解决不了的难题都可一一化解.

文章来自微信公众号:数据和云

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


起步 处理器架构,参考 x86是指intel的开发的一种32位指令集 intel和amd早期的cpu都支持这种指令集 AMD比Intel率先制造出了商用的兼容x86的CPU,AMD称之为AMD64 Intel选择了设计一种不兼容x86的全新64为指令集,称之为IA-64,后来支持AMD64的指令集,
pscp pscp -P 22 C:\work\test.txt root@192.168.1.5:/home/data pscp -P 22 root@192.168.1.5:/home/data/test.txt C://work// 检索 find / -name default.config
文件处理 ls -a # 显示所有文件 ls -l # 显示详细信息 ls -d # 显示路径 mkdir /目录名称 # 创建目录 cd /目录名称 # 切换目录 pwd # 显示当前路径 rmdir /目录名称 # 删除目录 cp -rp [目录名称] [目标目录] # 复制目录到目标目录 cp
准备一台电脑(我就用联想拯救者r7000演示) 参考博客制作启动盘 插上U盘,启动电脑,一直按F2 进入如下页面后,将U盘设置为第一启动项,点击exit,保存并退出 之后进入如下页面,选择第三项 进入如下页面,选择第四项 进入如下页面,选择第一项,选中后,先不要点Enter 按e键,将inst.st
认识 Linux系统是参考了UNIX系统作为模板开发的,但没有使用UNIX的代码;是UNIX的一种,但不是衍生版 在Linux内核的基础上开发是发行版 分区 逻辑分区永远从5开始 步骤 挂载:可理解为分配盘符,挂载点即是盘符名;不同之处:Linux中是以空目录名称作为盘符 Hda 第一块硬盘 Hda
文件处理命令 以 . 开头的文件是隐藏文件 以 - 开头表示这是一个文件 以 d 开头表示是一个目录 以 l 开头表示是一个软链接 第一个root是所有者,第二个root是所属组 ls -h 以文件默认大小后缀 显示 ls -i 查看i节点(唯一标识) 所有者:只能有一个,可变更 所属组:只能有一个
参考 01 02 03 前提环境 本地安装VirtualBox,并安装CentOS8,配置网络后,window系统上putty能连接到CentOS8服务器 配置步骤 右键服务器复制 启动复制后的服务器,查看ip和hostname发现和原来的服务器一样,需要修改 hostname # 查看主机名 vi
文件搜索命令 星号匹配任意字符,问号匹配任意单个字符 -iname 根据文件名查找且不区分大小写 -ok 命名会有一个询问的步骤 如果没有找到指定文件,可输入命令:updatedb 更新文件资料库;除tmp目录不在文件资料库收录范围之内 locate -i 文件名 # 检索时不区分大小写 which
安装环境 安装最新版的Virtual Box,点击安装 下载centos8镜像 创建虚拟机,可参考 选择下载到本地的镜像 设置启动顺序 点击启动 启动过程中报错:“FATAL:No bootable medium found!” 1.没有选择iso镜像 2.光驱没有排在第一位置 3.镜像只能选择x8
Linux严格区分大小写 所有内容文件形式保存,包括硬件 Linux不靠扩展名区分文件类型 挂载:将设备文件名和挂载点(盘符)连接的过程 Linux各个目录的作用 bin表示二进制 服务器注意事项 远程服务器不允许关机,只能重启 重启时应该关闭服务 不要在服务器访问高峰运行高负载命令 远程配置防火墙
IDE连接Linux,上传下载文件 参考1 参考2 连接Linux 上传下载文件 本地项目打包后上传 查看是否上传成功,右键下载 补充 后端项目开发完成后,需clean掉临时文件target文件夹,且只推送修改过的文件 前端项目开发的过程中,需要在每个子组件中使用scoped,确保每个子组件中的编码
起步 LTS与普通版本的区别 LTS版本的发布周期更长,更加稳定 安装jdk sudo mkdir /usr/lib/jvm # 在Ubuntu中创建目录 pscp D:\安装包\linux源码包\jdk-8u291-linux-x64.tar.gz chnq@192.168.0.102:/tmp
前言 最近在b站上看了兄弟连老师的Linux教程,非常适合入门:https://www.bilibili.com/video/BV1mW411i7Qf 看完后就自己来试着玩下,正好手上有台空闲的电脑就尝试不使用虚拟机的方式安装Linux系统 安装步骤 制作启动盘 下载ISO镜像,我这里下载的是Cen
新建虚拟电脑 设置内存和处理器 设置硬盘大小 完成 设置 查看光驱 设置启动顺序 点击启动 选择第1项 进入图形安装界面 选择安装位置,开始安装 设置root密码 重启 登录 查看本地文件夹 配置网络,点击设置 查看宿主机ip C:\Users\ychen λ ipconfig 无线局域网适配器 W
源码包安装需手动下载后安装 二进制包则在package目录下 rpm命令管理rpm包 若某个rpm包依赖于某个模块,需要到网站www.rpmfind.net查询该模块依赖的包,安装这个包后自动安装模块,之后就能安装rpm包了 安装升级时使用包全名 查询卸载时使用包名 虚拟机中的Linux系统安装rp
首先进入命令模式,再输入以下命令 命令模式用于输入命令 插入模式可对文件编写操作 编辑模式下的命令是在冒号后输入 :12, 15d # 删除指定范围的行,这里是删除12到15行 :n1,n2s/old/new/g ## 表示从n1行到n2行,old表示旧的字符串 vim使用小技巧:自定义快捷键,如快
使用源码包安装,需要自己指定安装位置,通常是 /usr/local/软件名/ linux中要想启动执行文件,应使用绝对路径 /绝对路径/rpm包名 start ## 执行方式一 service rpm包名 start ## 执行方式二 使用源码包安装后,由于自定义安装路径,就不能使用service命
网络命令 在收邮件的用户中,输入 mail 可查看邮件信息,输入序列号查看详细信息 在mail命令下,输入h 查看所有邮件的列表 输入:d 序列号 # 删除邮件 last # 统计所有用户登录或重启时间,用于日志查询 lastlog # 显示包括未登录用户的登录时间 lastlog -u 用户id
若要使用yum管理,必须能连接网络,首先配置网络IP 进入yum源文件中启动容器 使用yum源头安装rpm包不需要进入package路径,同时也不需要使用包全名,会有yum自动管理 安装软件组
简介 client即是本机安装的docker,相当于git Docker_host相当于centos系统 registry则是docker仓库,相当于GitHub 镜像用于创建docker容器,一个镜像可以创建多个docker容器 容器是由镜像创建的运行实例,(镜像相当于类,容器相当于类创建的对象)