海量数据下,如何使用多线程的方式导出 Excel

前言

公司项目最近有一个需要:报表导出。整个系统下来,起码超过一百张报表需要导出。这个时候如何优雅的实现报表导出,释放生产力就显得很重要了。下面主要给大家分享一下该工具类的使用方法与实现思路。

实现的功能点

对于每个报表都相同的操作,我们很自然的会抽离出来,这个很简单。而最重要的是:如何把那些每个报表不相同的操作进行良好的封装,尽可能的提高复用性;针对以上的原则,主要实现了一下关键功能点:

导出任意类型的数据自由设置表头自由设置字段的导出格式使用实例

上面说到了本工具类实现了三个功能点,自然在使用的时候设置好这三个要点即可:

设置数据列表设置表头设置字段格式下面的export函数可以直接向客户端返回一个excel数据,其中productInfoPos为待导出的数据列表,ExcelHeaderInfo用来保存表头信息,包括表头名称,表头的首列,尾列,首行,尾行。

因为默认导出的数据格式都是字符串型,所以还需要一个Map参数用来指定某个字段的格式化类型(例如数字类型,小数类型、日期类型)。这里大家知道个大概怎么使用就好了,下面会对这些参数进行详细解释

复制@Override

public void export(HttpServletResponse response, String fileName) {

// 待导出数据

List<TtlProductInfoPo> productInfoPos = this.multiThreadListProduct();

ExcelUtils excelUtils = new ExcelUtils(productInfoPos, getHeaderInfo(), getFormatInfo());

excelUtils.sendHttpResponse(response, fileName, excelUtils.getWorkbook());

}

// 获取表头信息

private List<ExcelHeaderInfo> getHeaderInfo() {

return Arrays.asList(

new ExcelHeaderInfo(1, 1, 0, 0, "id"),

new ExcelHeaderInfo(1, 1, 1, 1, "商品名称"),

new ExcelHeaderInfo(0, 0, 2, 3, "分类"),

new ExcelHeaderInfo(1, 1, 2, 2, "类型ID"),

new ExcelHeaderInfo(1, 1, 3, 3, "分类名称"),

new ExcelHeaderInfo(0, 0, 4, 5, "品牌"),

new ExcelHeaderInfo(1, 1, 4, 4, "品牌ID"),

new ExcelHeaderInfo(1, 1, 5, 5, "品牌名称"),

new ExcelHeaderInfo(0, 0, 6, 7, "商店"),

new ExcelHeaderInfo(1, 1, 6, 6, "商店ID"),

new ExcelHeaderInfo(1, 1, 7, 7, "商店名称"),

new ExcelHeaderInfo(1, 1, 8, 8, "价格"),

new ExcelHeaderInfo(1, 1, 9, 9, "库存"),

new ExcelHeaderInfo(1, 1, 10, 10, "销量"),

new ExcelHeaderInfo(1, 1, 11, 11, "插入时间"),

new ExcelHeaderInfo(1, 1, 12, 12, "更新时间"),

new ExcelHeaderInfo(1, 1, 13, 13, "记录是否已经删除")

);

}

// 获取格式化信息

private Map<String, ExcelFormat> getFormatInfo() {

Map<String, ExcelFormat> format = new HashMap<>();

format.put("id", ExcelFormat.FORMAT_INTEGER);

format.put("categoryId", ExcelFormat.FORMAT_INTEGER);

format.put("branchId", ExcelFormat.FORMAT_INTEGER);

format.put("shopId", ExcelFormat.FORMAT_INTEGER);

format.put("price", ExcelFormat.FORMAT_DOUBLE);

format.put("stock", ExcelFormat.FORMAT_INTEGER);

format.put("salesNum", ExcelFormat.FORMAT_INTEGER);

format.put("isDel", ExcelFormat.FORMAT_INTEGER);

return format;

}

1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.31.32.33.34.35.36.37.38.39.40.41.42.43.实现效果

源码分析

哈哈,自己分析自己的代码,有点意思。由于不方便贴出太多的代码,大家可以先到github上clone源码,再回来阅读文章。

​​ https://github.com/dearKundy/excel-utils​​

LZ使用的poi 4.0.1版本的这个工具,想要实用海量数据的导出自然得使用SXSSFWorkbook这个组件。关于poi的具体用法在这里我就不多说了,这里主要是给大家讲解如何对poi进行封装使用。

成员变量

我们重点看ExcelUtils这个类,这个类是实现导出的核心,先来看一下三个成员变量

复制private List list;

private List<ExcelHeaderInfo> excelHeaderInfos;

private Map<String, ExcelFormat> formatInfo;

1.2.3.list

该成员变量用来保存待导出的数据

ExcelHeaderInfo

该成员变量主要用来保存表头信息,因为我们需要定义多个表头信息,所以需要使用一个列表来保存,ExcelHeaderInfo构造函数如下ExcelHeaderInfo(int firstRow, int lastRow, int firstCol, int lastCol, String title)

firstRow:该表头所占位置的首行lastRow:该表头所占位置的尾行firstCol:该表头所占位置的首列lastCol:该表头所占位置的尾行title:该表头的名称ExcelFormat

该参数主要用来格式化字段,我们需要预先约定好转换成那种格式,不能随用户自己定。所以我们定义了一个枚举类型的变量,该枚举类只有一个字符串类型成员变量,用来保存想要转换的格式,例如FORMAT_INTEGER就是转换成整型。

因为我们需要接受多个字段的转换格式,所以定义了一个Map类型来接收,该参数可以省略(默认格式为字符串)

复制public enum ExcelFormat {

FORMAT_INTEGER("INTEGER"),

FORMAT_DOUBLE("DOUBLE"),

FORMAT_PERCENT("PERCENT"),

FORMAT_DATE("DATE");

private String value;

ExcelFormat(String value) {

this.value = value;

}

public String getValue() {

return value;

}

}

1.2.3.4.5.6.7.8.9.10.11.12.13.核心方法

1. 创建表头

该方法用来初始化表头,而创建表头最关键的就是poi中Sheet类的addMergedRegion(CellRangeAddress var1)方法,该方法用于单元格融合。

我们会遍历ExcelHeaderInfo列表,按照每个ExcelHeaderInfo的坐标信息进行单元格融合,然后在融合之后的每个单元首行和首列的位置创建单元格,然后为单元格赋值即可,通过上面的步骤就完成了任意类型的表头设置。

2. 转换数据

复制// 创建表头

private void createHeader(Sheet sheet, CellStyle style) {

for (ExcelHeaderInfo excelHeaderInfo : excelHeaderInfos) {

Integer lastRow = excelHeaderInfo.getLastRow();

Integer firstRow = excelHeaderInfo.getFirstRow();

Integer lastCol = excelHeaderInfo.getLastCol();

Integer firstCol = excelHeaderInfo.getFirstCol();

// 行距或者列距大于0才进行单元格融合

if ((lastRow - firstRow) != 0 || (lastCol - firstCol) != 0) {

sheet.addMergedRegion(new CellRangeAddress(firstRow, lastRow, firstCol, lastCol));

}

// 获取当前表头的首行位置

Row row = sheet.getRow(firstRow);

// 在表头的首行与首列位置创建一个新的单元格

Cell cell = row.createCell(firstCol);

// 赋值单元格

cell.setCellValue(excelHeaderInfo.getTitle());

cell.setCellStyle(style);

sheet.setColumnWidth(firstCol, sheet.getColumnWidth(firstCol) * 17 / 12);

}

}

1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.在进行正文赋值之前,我们先要对原始数据列表转换成字符串的二维数组,之所以转成字符串格式是因为可以统一的处理各种类型,之后有需要我们再转换回来即可。

这个方法中我们通过使用反射技术,很巧妙的实现了任意类型的数据导出(这里的任意类型指的是任意的报表类型,不同的报表,导出的数据肯定是不一样的,那么在Java实现中的实体类肯定也是不一样的)。要想将一个List转换成相应的二维数组,我们得知道如下的信息;

复制// 将原始数据转成二维数组

private String[][] transformData() {

int dataSize = this.list.size();

String[][] datas = new String[dataSize][];

// 获取报表的列数

Field[] fields = list.get(0).getClass().getDeclaredFields();

// 获取实体类的字段名称数组

List<String> columnNames = this.getBeanProperty(fields);

for (int i = 0; i < dataSize; i++) {

datas[i] = new String[fields.length];

for (int j = 0; j < fields.length; j++) {

try {

// 赋值

datas[i][j] = BeanUtils.getProperty(list.get(i), columnNames.get(j));

} catch (Exception e) {

LOGGER.error("获取对象属性值失败");

e.printStackTrace();

}

}

}

return datas;

}

1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.二维数组的列数二维数组的行数二维数组每个元素的值如果获取以上三个信息呢?

通过反射中的Field[] getDeclaredFields()这个方法获取实体类的所有字段,从而间接知道一共有多少列List的大小不就是二维数组的行数了嘛虽然每个实体类的字段名不一样,那么我们就真的无法获取到实体类某个字段的值了吗?不是的,你要知道,你拥有了反射,你就相当于拥有了全世界,那还有什么做不到的呢。这里我们没有直接使用反射,而是使用了一个叫做BeanUtils的工具,该工具可以很方便的帮助我们对一个实体类进行字段的赋值与字段值的获取。很简单,通过BeanUtils.getProperty(list.get(i), columnNames.get(j))这一行代码,我们就获取了实体list.get(i)中名称为columnNames.get(j)这个字段的值。list.get(i)当然是我们遍历原始数据的实体类,而columnNames列表则是一个实体类所有字段名的数组,也是通过反射的方法获取到的,具体实现可以参考LZ的源代码。3. 赋值正文

这里的正文指定是正式的表格数据内容,其实这一些没有太多的奇淫技巧,主要的功能在上面已经实现了,这里主要是进行单元格的赋值与导出格式的处理(主要是为了导出excel后可以进行方便的运算)

导出工具类的核心方法就差不多说完了,下面说一下关于多线程查询的问题

复制// 创建正文

private void createContent(Row row, CellStyle style, String[][] content, int i, Field[] fields) {

List<String> columnNames = getBeanProperty(fields);

for (int j = 0; j < columnNames.size(); j++) {

if (formatInfo == null) {

row.createCell(j).setCellValue(content[i][j]);

continue;

}

if (formatInfo.containsKey(columnNames.get(j))) {

switch (formatInfo.get(columnNames.get(j)).getValue()) {

case "DOUBLE":

row.createCell(j).setCellValue(Double.parseDouble(content[i][j]));

break;

case "INTEGER":

row.createCell(j).setCellValue(Integer.parseInt(content[i][j]));

break;

case "PERCENT":

style.setDataFormat(HSSFDataFormat.getBuiltinFormat("0.00%"));

Cell cell = row.createCell(j);

cell.setCellStyle(style);

cell.setCellValue(Double.parseDouble(content[i][j]));

break;

case "DATE":

row.createCell(j).setCellValue(this.parseDate(content[i][j]));

}

} else {

row.createCell(j).setCellValue(content[i][j]);

}

}

}

1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.多扯两点

1. 多线程查询数据

理想很丰满,现实虽然不是很残酷,但是也跟想象的不一样。LZ虽然对50w的数据分别创建20个线程去查询,但是总体的效率并不是50w/20,而是仅仅快了几秒钟,知道原因的小伙伴可以给我留个言一起探讨一下。

下面先说说具体思路:因为多个线程之间是同时执行的,你不能够保证哪个线程先执行完毕,但是我们却得保证数据顺序的一致性。在这里我们使用了Callable接口,通过实现Callable接口的线程可以拥有返回值,我们获取到所有子线程的查询结果,然后合并到一个结果集中即可。

那么如何保证合并的顺序呢?我们先创建了一个FutureTask类型的List,该FutureTask的类型就是返回的结果集。

复制List<FutureTask<List<TtlProductInfoPo>>> tasks = new ArrayList<>();

1.当我们每启动一个线程的时候,就将该线程的FutureTask添加到tasks列表中,这样tasks列表中的元素顺序就是我们启动线程的顺序。

复制FutureTask<List<TtlProductInfoPo>> task = new FutureTask<>(new listThread(map));

log.info("开始查询第{}条开始的{}条记录", i * THREAD_MAX_ROW, THREAD_MAX_ROW);

new Thread(task).start();

// 将任务添加到tasks列表中

tasks.add(task);

1.2.3.4.5.接下来,就是顺序塞值了,我们按顺序从tasks列表中取出FutureTask,然后执行FutureTask的get()方法,该方法会阻塞调用它的线程,知道拿到返回结果。这样一套循环下来,就完成了所有数据的按顺序存储。

复制for (FutureTask<List<TtlProductInfoPo>> task : tasks) {

try {

productInfoPos.addAll(task.get());

} catch (Exception e) {

e.printStackTrace();

}

}

1.2.3.4.5.6.7.2. 如何解决接口超时

如果需要导出海量数据,可能会存在一个问题:接口超时,主要原因就是整个导出过程的时间太长了。

其实也很好解决,接口的响应时间太长,我们缩短响应时间不就可以了嘛。我们使用异步编程解决方案,异步编程的实现方式有很多,这里我们使用最简单的spring中的Async注解,加上了这个注解的方法可以立马返回响应结果。

关于注解的使用方式,大家可以自己查阅一下,下面讲一下关键的实现步骤:

1.编写异步接口,该接口负责接收客户端的导出请求,然后开始执行导出(注意:这里的导出不是直接向客户端返回,而是下载到服务器本地),只要下达了导出指令,就可以马上给客户端返回一个该excel文件的唯一标志(用于以后查找该文件),接口结束。

编写excel状态接口,客户端拿到excel文件的唯一标志之后,开始每秒轮询调用该接口检查excel文件的导出状态编写从服务器本地返回excel文件接口,如果客户端检查到excel已经成功下载到到服务器本地,这个时候就可以请求该接口直接下载文件了。这样就可以解决接口超时的问题了。

源码地址

​​https://github.com/dearKundy/excel-utils​​

源码服用姿势

建表(数据自己插入哦)复制CREATE TABLE `ttl_product_info` (

`id` int(11) NOT NULL AUTO_INCREMENT COMMENT '记录唯一标识',

`product_name` varchar(50) NOT NULL COMMENT '商品名称',

`category_id` bigint(20) NOT NULL DEFAULT '0' COMMENT '类型ID',

`category_name` varchar(50) NOT NULL COMMENT '冗余分类名称-避免跨表join',

`branch_id` bigint(20) NOT NULL COMMENT '品牌ID',

`branch_name` varchar(50) NOT NULL COMMENT '冗余品牌名称-避免跨表join',

`shop_id` bigint(20) NOT NULL COMMENT '商品ID',

`shop_name` varchar(50) NOT NULL COMMENT '冗余商店名称-避免跨表join',

`price` decimal(10,2) NOT NULL COMMENT '商品当前价格-属于热点数据,而且价格变化需要记录,需要价格详情表',

`stock` int(11) NOT NULL COMMENT '库存-热点数据',

`sales_num` int(11) NOT NULL COMMENT '销量',

`create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '插入时间',

`update_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新时间',

`is_del` tinyint(3) unsigned NOT NULL DEFAULT '0' COMMENT '记录是否已经删除',

PRIMARY KEY (`id`),

KEY `idx_shop_category_salesnum` (`shop_id`,`category_id`,`sales_num`),

KEY `idx_category_branch_price` (`category_id`,`branch_id`,`price`),

KEY `idx_productname` (`product_name`)

) ENGINE=InnoDB AUTO_INCREMENT=15000001 DEFAULT CHARSET=utf8 COMMENT='商品信息表';

1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.运行程序在浏览器的地址栏输入:​​http://localhost:8080/api/excelUtils/export​​即可完成下载来源: Java知音

原文地址:https://www.toutiao.com/article/7062878549018935841/

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


所以很多人都会选择将这些生活琐事来交给智能化产品,在众多产品中,扫拖机器人所给我们带来的便利性最强,扫地、拖地全都一气呵成,不需要人为过多干预,不过目前大多数扫拖机器人对于双手解放得不彻底。而石头作为
“昨天的经历都将成为明天的力量。” 将绝大部分精力都奉献给璃月港的刻晴,可以说是《原神》中的高人气角色了,虽然是常驻角色,并且对于普通玩家来说……刻师傅别刮了……不过作为开服就存在的角色,还有独特的剑法
最近,全球知名的通信产业盛会MWC 2024(2024世界移动通信大会)正式召开,其中,联发科以“连接AI宇宙”(Connecting the AI-verse)为主题,为大众展示出一系列在AI和移动通信技术等领域的最新突破,吸引了大量行业
今年上半年有很多值得关注的机型,其中华为最新的影像旗舰华为P70 Art也自然受到了业界不少的关注目光,目前关于这款机型的轮廓图已经在网上曝光。
目前,2024世界移动通信大会(MWC)正在西班牙巴塞罗那举行,值得一提的是,此次大会参展中国厂商非常多,包括华为、中兴、小米、荣耀等等多家厂商均在其列。
就在去年,真我推出了11 Pro+,用一个2亿像素传感器和zoom变焦功能,开启了中端手机影像的长焦大战,而后友商才姗姗来迟的跟进了2亿像素传感器。
【手机之家新闻】一年一度的MWC已经于当地时间2月26日在巴塞罗那正式开展,在本次MWC2024上全球各大厂商齐聚一堂,展出自家最新的技术与产品,其中中兴就参展本次MWC2024,并且展出了诸多面向企业端的产品,而旗下的
近日,联发科在MWC 2024(2024 世界移动通信大会)上展出了一系列令人瞩目的AI和移动通信技术突破,以“连接AI宇宙”(Connecting the AI-verse)的展厅吸引了无数业界精英和媒体的目光。特别是其现场的生成式AI技术
虽然目前国内已经有不少厂商入局折叠屏产品,但是努比亚却迟迟没有入局。不过在近日举办的MWC 2024展会上,努比亚发布了自家首款折叠屏手机——努比亚Flip,预计国内很快也会上市。
MWC 2024正在西班牙巴塞罗那举办,和往年一样,荣耀这次依旧携众多新产品、新技术参会。荣耀Magic6 Pro、荣耀Magic V2 RSR保时捷设计的机型在海外正式发布,并且还展示了魔法大模型、任意门等诸多新技术。
MWC 2024正在西班牙巴塞罗那如火如荼地举行,其中小米也参加了今年的大会,在会上发布了在国内大受欢迎的小尺寸旗舰——小米14。值得一提的是,高通公司CEO安蒙甚至亲临发布会现场为这款机型助阵。
《原神》是一直以来在机圈深受欢迎的游戏,在充满幻想的提瓦特大陆上,你可以邂逅不少性格迥异、能力独特的伙伴。而一加Ace系列一直就拥有非常强烈的电竞属性,也是畅玩《原神》的热门机型,而在本月,一加Ace 3将推
有不少网友发现,今年新机的发布时间相对于往年大幅提前,很多厂商在春节之前密集发布了自己最新的中高端机型,给人一种年后没什么新机可发了的感觉。不过魅族全新的大杯机型——魅族21 PRO非常值得期待,魅族科技也
2022年7月,小米12S Ultra正式发布,这款产品率先将1英寸大底主摄引入到移动影像领域,同时凭借鲜明的徕卡影调给人留下深刻的印象,同时这款产品也被视为了影像旗舰地位的机型。如果从那时算起,到现在差不多已经快过
随着智能手机的日益普及和智能化进程的加速,智能穿戴设备成为了人们关注的焦点。各大智能手机厂商纷纷进军智能穿戴市场,试图在这一新兴领域抢占先机。
早在去年秋天,HyperOS操作系统发布的时候,小米便勾勒出了“人车家全生态”的美好蓝图,而在这其中,小米的多终端统一战略是核心,目前已经有不少小米产品预装或者接受到了HyperOS操作系统的推送,在过去几个月的时
今年雷军将把更多的精力放在小米汽车上,所以接下来的手机业务将由刚刚兼任小米品牌总经理卢伟冰接管。同时雷军也在微博上表示小米2024年开年旗舰——小米14 Ultra即将在近期发布,并且将有卢伟冰进行讲解。另外,卢
新的一年有龙则灵,有愿必达。自1月19日起,荣耀加码“新年荣耀,一起成龙”年货节,在全国荣耀线下门店上线了“新年许愿处”、“龙运当头”等趣味活动,吸引大批消费者到店打卡许愿,戴龙头迎好运。与此同时,为了回
小米在官网微博中已经透露了关于小米14 Ultra信息,所以新机上市应该不会太晚。根据德国莱茵的官方消息,目前小米14 Ultra(型号为24030PN60G)获得了莱茵无频闪认证,表明这款手机可以有效减轻屏幕给用户带来的视觉疲
2月22日,上海广播电视台与华为举办鸿蒙合作签约仪式,宣布其官方客户端看看新闻APP将基于HarmonyOS NEXT鸿蒙星河版启动鸿蒙原生应用开发,为用户提供更加极致的新闻资讯服务体验。此次合作标志着上海广播电视台成为全国