背景:
前阵子遇到一个问题,需要从Mysql数据库中查询一些数据,这些数据分布在多个数据库和表中,也就是分库分表。
按照某种规则,我们把数据存储在100个表中(10个数据库,每个数据库10个表)。
库名为:db_app_info_$i,其中$i取值为整数0~9;
表名为:t_app_info_$j,其中$j取值为整数0~9。
为了完成多表多库查询,我们需要通过shell脚本,遍历每个表进行查询,然后将查询结果保存、汇总起来。
第一个例子,统计表中 type=2的记录的总数:
#!/bin/bash
cnt=0
# execute sql stat
for ((i=0; i<=9;i++))
do
for ((j=0; j<=9;j++))
do
tmp=$(mysql -hYourHost -PYourPort -uYourUserName -pYourPwd -s -e " select count(*) from db_app_info_$i.t_app_info_$j where `type`=2;")
cnt=$[cnt+tmp]
done
done
echo $cnt
exit;
第二个例子,将所有type为2的记录的tag字段取出来,tag字段的格式为:tag1|tag2|tag3。
#!/bin/bash
#get_tag.sh
tags=''
# execute sql stat
for ((i=0; i<=9;i++))
do
for ((j=0; j<=9;j++))
do
tmp=$(mysql -hYourHost -PYourPort -uYourUserName -pYourPwd -s -e " select tag from db_app_info_$i.t_app_info_$j where `type`=2;")
tags=$tags'|'$tmp
done
done
echo $tags
exit;
对于单个表的查询结果,由于一个表中有多条记录,赋值给tmp时是以空格来分隔的,因此后续处理需要将空格替换为’|’,之后再将’|’统一替换为换行符,然后排序、去重。
$ ./get_tag.sh | sed -e 's/[][]*/|/g' | sed 's/|/\n/g' | sort | uniq > tag_list.txt
于是我们就可以得到一个去重后的标签列表了。
tips: uniq去重功能,只能针对连续的多行进行去重,因此进行uniq之前需要先sort,使得相同的记录变得连续。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。