开发工具篇第八讲:阿里云OSS对象存储服务

本文是开发工具篇第八讲:阿里云对象存储服务(Object Storage Service,简称 OSS),具有与平台无关的RESTful API接口,您可以在任何应用、任何时间、任何地点存储和访问任意类型的数据,在我们公司用于上传图片,访问图片

1、相关概念

1、存储类型(Storage Class)

  • OSS按数据存储场景从热到冷提供标准、低频访问、归档三种存储类型。其中标准存储类型提供高可靠、高可用、高性能的对象存储服务,能够支持频繁的数据访问;低频访问存储类型适合长期保存不经常访问的数据(平均每月访问频率1到2次);归档存储类型适合需要长期保存(建议半年以上)的归档数据。

2、存储空间(Bucket)

  • 存储空间是用于存储对象(Object)的容器,所有的对象都必须隶属于某个存储空间。可以设置和修改存储空间属性用来控制地域、访问权限、生命周期等,这些属性设置直接作用于该存储空间内所有对象,因此可以通过灵活创建不同的存储空间来完成不同的管理功能。

3、对象/文件(Object)

  • 对象是 OSS 存储数据的基本单元,也被称为OSS的文件。对象由元信息(Object Meta),用户数据(Data)和文件名(Key)组成。对象由存储空间内部唯一的Key来标识。对象元信息是一个键值对,表示了对象的一些属性,比如最后修改时间、大小等信息,同时也可以在元信息中存储一些自定义的信息。

4、地域(Region)

  • 地域表示 OSS 的数据中心所在物理位置。您可以根据费用、请求来源等综合选择数据存储的地域。

5、访问域名(Endpoint)

  • Endpoint 表示OSS对外服务的访问域名。OSS以HTTP RESTful API的形式对外提供服务,当访问不同地域的时候,需要不同的域名。通过内网和外网访问同一个地域所需要的域名也是不同的。

6、访问密钥(AccessKey)

  • AccessKey,简称 AK,指的是访问身份验证中用到的AccessKeyId 和AccessKeySecret。OSS通过使用AccessKeyId 和AccessKeySecret对称加密的方法来验证某个请求的发送者身份。AccessKeyId用于标识用户,AccessKeySecret是用户用于加密签名字符串和OSS用来验证签名字符串的密钥,其中AccessKeySecret 必须保密。

2、快速接入

一、申请业务枚举值
当我们在做业务开发时,在业务场景中需要上传文件,此时可以借助前端公用上传组件进行上传,使用公用上传组件,必须要告诉前端同时文件上传业务枚举值,也即bizCode。 如果是新业务,bizCode需要申请,并说明上传文件读权限【公共读 或 私有读】。 我们如何判断我们要上传的文件应该是私有读还是公共读,业务方自行根据要上传的文件是否具备以下两个特征:

  • 1、待上传文件是否涉及保密性要求高的信息?
  • 2、待上传文件是否只属于上传者所有,其他用户是否有权读取?
    如满足其中之一,均需要使用私有读权限的枚举值。在每次访问私有读文件时,由平台为访问者分配临时文件url进行下载,默认使15分钟有效期。
    通过此步骤,业务开发者已经申请到一个可用的OSS业务枚举值。

二、前端上传
前端可使用由【一、申请业务枚举值】步骤得到的bizCode,利用前端公共上传组件进行上传

三、后端上传 (商品中心并没有这样的场景)
有时候我们上传文件的过程中,可能需要先由后端web服务接收进行业务处理后,再传至OSS,此时我们需要使用后端java文件流方式上传文件至OSS。那么,我们需要使用zcy-ossinner组件来完成。

zcy-ossinner java后端文件流上传下载快速接入教程
随着公司业务需求不断的变更,方便各业务模块快速接入OSS上传文件,现提供统一规范的util工具类给大家。该工具类也会根据各业务不断变化的需求,持续提供新的需求实现。

使用ZOssInnerClientUtil,只需简单三个步骤就可以使用
1、引入pom.xml中jar包依赖

<dependency>
          <groupId>cn.gov.zcy</groupId>
          <artifactId>zcy-ossinner</artifactId>
         <version>2.0.6-RELEASE</version>
</dependency>

2、引入工具依赖的dubbo服务

<!-- Zoss dc Service -->
<dubbo:reference check="false" id="documentCenterPlugService" interface="cn.gov.zcy.dc.plug.service.DocumentCenterPlugService" retries="0" timeout="1500" version="1.0.0"/>

3、在业务代码中引入spring bean

        @Autowired
        private ZOssInnerClientUtil zossInnerClientUtil;

使用如下 然后就可以像一般的工具类一样使用ZossInnerClient了, Demo如下

package test;
import io.terminus.common.model.Response;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.MediaType;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestMethod;
import org.springframework.web.bind.annotation.ResponseBody;
import javax.servlet.http.HttpServletResponse;
import java.io.*;

/**
 * @Author xxx
 * @Time 17/6/7.
 * @Desc 文件上传下载示例
 */
@Controller
@RequestMapping(value = "/api/test")
public class TestInnerOssController {

    @Autowired
    private ZOssInnerClientUtil zOssInnerClientUtil;

    @RequestMapping(value = "/upload", method = RequestMethod.GET, produces = MediaType.APPLICATION_JSON_UTF8_VALUE)
    @ResponseBody
    public Response<String> upload(){
        InputStream fileInputStream = null;
        try {
            File file = new File("/var/tmp/redis-use.png");//本地需要有该文件
            fileInputStream = new FileInputStream(file);
            ZossInnerRequest request = new ZossInnerRequest();
            request.setInputStream(fileInputStream);//文件流
            request.setBizCode(ZcyOssBusiEnum.Others);//文件所属业务编码
            request.setSecondBusiPath("test"); //文件上传至OSS二级目录
            request.setUserId("23007");//用户ID
            request.setDescription("测试内网平台上传文件");//文件描述
            request.setFileName("redis-use.png");//文件真实名称
            request.setIsAttachment(true);//是否设置附件标识,设置为true,下载时浏览器将不会预览,直接下载
            request.setFileType("img/jpg");//文件mimeype
            return zOssInnerClientUtil.putObject(ZcyBucetEnum.DOC_WRITE, request);//说明: ZcyBucetEnum.DOC_WRITE  该枚举值表示文件将要上传到哪个bucket
        } catch (FileNotFoundException e) {
            e.printStackTrace();
        }finally {
            if(fileInputStream!=null){
                try {
                    fileInputStream.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
        }
        return Response.ok("正常不应该走到这里哦.赶快排查错误吧");
    }

    @RequestMapping(value = "/download", method = RequestMethod.GET, produces = MediaType.APPLICATION_JSON_UTF8_VALUE)
    @ResponseBody
    public void downloadFile(String fileId, HttpServletResponse response) {
        response.setContentType("application/force-download");// 设置强制下载不打开
        response.addHeader("Content-Disposition",
                "attachment;fileName=测试文件.jpg");// 设置文件名
        byte[] buffer = new byte[1024];

        //根据文件ID获取到文件流
        InputStream fis = zOssInnerClientUtil.getOSSObject(ZcyBucetEnum.DOC_WRITE, fileId).getResult().getObjectContent();
        BufferedInputStream bis = null;
        try {
            bis = new BufferedInputStream(fis);
            OutputStream os = response.getOutputStream();
            int i = bis.read(buffer);
            while (i != -1) {
                os.write(buffer, 0, i);
                i = bis.read(buffer);
            }
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (bis != null) {
                try {
                    bis.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
            if (fis != null) {
                try {
                    fis.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
        }
    }
}

上传文件返回值:

{
    "result": "1099OT/99999/d4a5d6c8-d23ebbd-5d8bdca52cbf",
    "success": true,
    "error": ""
}

返回值说明:

  • success :是否成功标识
  • result: 上传成功,返回文件id
  • error:上传发生错误,返回错误信息

3、常见问题

1、为什么我的文件访问不了? 也即下载不了?

  • 答:首先,需要确定错误信息,如果报错信息如下所示,则说明目标文件是一个空文件,不存在的文件。可能是上传时未成功,或者保存fileId时,fileId弄错了。
<Error>
   <Code>NoSuchKey</Code>
   <Message>The specified key does not exist.</Message>
   <RequestId>5C243BDFD06EF854F514045B</RequestId>
   <HostId>zcy-gov-open-doc.oss-cn-north-2-gov-1.aliyuncs.com</HostId>
   <Key>1014AN/00017b27-0a80-8b93451.jpg</Key>
</Error>
  • 其次,如果文件是存在的,以前能够访问,只是现在访问不了,那么请确认文件的读权限,是属于私有读还是公共读?对于私有读的文件,每次从平台获取到的url是临时url,此临时url有效期是15分钟。 如果你在页面上停留时间过长,此时再点击页面上的文件进行下载,则会报如下错误,说明私有读的文件授权有效期已过,需要刷新页面重新获取授权url。
<Error>
   <Code>AccessDenied</Code>
   <Message>Request has expired.</Message>
   <RequestId>5C243B9D8C697FC71D147551</RequestId>
   <HostId>zcy-gov-doc.oss-cn-north-2-gov-1.aliyuncs.com</HostId>
   <Expires>2018-12-21T07:05:31.000Z</Expires>
   <ServerTime>2018-12-27T02:40:29.000Z</ServerTime>
</Error>
  • 最后,对于新的网站接入使用政采云bucket中的文件,如有访问不到的,可能是CDN或者OSS防盗链拦截所致,请联系运维进行添加refer网站白名单。

2、为什么我的文件上传不了?

  • 答:如果是采用前端上传组件上传不了文件,请先联系前端架构组进行排查,确定是后端接口有问题后,再联系长乐进行排查

3、我司 CDN 加速域名都有哪些?

  • ①.通用CDN域名sitecdn.zcy.gov.cn 使用场景:即使OSS中文件发生变化了,CDN端依然使用改变前已缓存好的文件。
  • ②.有更改则重新拉取文件的CDN域名cdn.zcy.gov.cn,使用场景:对于偶尔会有更新的文件,比如前段公共组件,当OSS端有改变后,CDN会去OSS拉取最新文件进行返回。
  • ③.商品图片域名itemcdn.zcy.gov.cn, 使用场景:专门用于网超商品图片类加速。

4、原理分析

1、名词解释
OSS: 阿里云对象存储服务(Object Storage Service,简称 OSS),是阿里云提供的海量、安全、低成本、高可靠的云存储服务。OSS 适合存放任意类型的文件,您可以通过调用 API,在任何应用、任何时间、任何地点上传和下载数据,也可以通过 Web 管理控制台对数据进行简单的管理。

bucket: 桶,OSS存放文件的容器,文件按照不同使用性质存放在不同的桶,便于管理和分类,同时针对不同的桶,可以设置不同的访问权限。

STS: 阿里云STS (Security Token Service) 是为阿里云账号(或RAM用户)提供短期访问权限管理的云服务,通过STS,您可以为联盟用户(您的本地账号系统所管理的用户)颁发一个自定义时效和访问权限的访问凭证。

公共读: 公共读权限的文件,在公网可以被所有人访问,无需授权,只要知道文件ID即可。例如商品图片:http://zcy-item.img-cn-hangzhou.aliyuncs.com//2017040616575772459633.png

私有读: 私有读权限的文件,需要通过STS授权的临时url才能访问。

文档中心: 为管理政采云各种业务文件的服务,主要提供文件的上传或下载,一般需要经过下面这样的流程

(1).政采云业务平台向文档中心请求授权。

(2).政采云文档中心生成上传下载授权策略。

(3).业务平台通过授权策略,利用SDK直传文件阿里云OSS平台。

在这里插入图片描述

在这里插入图片描述

3、bucket使用详述
业务解读
文档中心,主要是为管理政采云各种业务文件而服务,目前主要提供文件的上传或下载的,支持批量上传和下载,同时兼容IE8文件上传,开放平台文件上传。

接入文档中心进行文件上传下载之前,务必搞懂以上对bucket,文件访问权限公共读和私有读的理解。

我们根据文件的使用,设置了两大类bucket,公共读和私有读的bucket,公共读的bucket设置了四个bucket,

1.商品图片,量大,使用频率高,独享*-item;

2.平台业务公共读文件,文件不涉及私密性或泄露安全性等问题,可以被公开的文件*-pub-doc;

3.公共读模板文件bucket,zcy-template;

4.用于前端静态资源cdn加速的bucket,zcy-cdn;

⚠️注意:对于私有读性质的文件,我们设置了一个私有读文件的bucket,*-doc.

关于文件按使用性质分类的设计
我们将文件按照公共读或私有读的性质,规划存储在不同的bucket,然后按照文件使用场景和性质,进一步在bucket中细分规划顶级目录。

例如:对于一个私有的,比如是合同附件的文件,我们将首先将其规划到*-doc bucket中,然后为其分配一个业务编码bizeCode枚举值,根据业务编码枚举值,就可以映射到具体的顶级目录下。

关于现有bucket 枚举值,业务编码枚举值的使用,请参考下文:

5、自助工具

待补充

6、OSS使用踩坑 review

1、OSS云岛模式

2、待补充

done

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


学习编程是顺着互联网的发展潮流,是一件好事。新手如何学习编程?其实不难,不过在学习编程之前你得先了解你的目的是什么?这个很重要,因为目的决定你的发展方向、决定你的发展速度。
IT行业是什么工作做什么?IT行业的工作有:产品策划类、页面设计类、前端与移动、开发与测试、营销推广类、数据运营类、运营维护类、游戏相关类等,根据不同的分类下面有细分了不同的岗位。
女生学Java好就业吗?女生适合学Java编程吗?目前有不少女生学习Java开发,但要结合自身的情况,先了解自己适不适合去学习Java,不要盲目的选择不适合自己的Java培训班进行学习。只要肯下功夫钻研,多看、多想、多练
Can’t connect to local MySQL server through socket \'/var/lib/mysql/mysql.sock问题 1.进入mysql路径
oracle基本命令 一、登录操作 1.管理员登录 # 管理员登录 sqlplus / as sysdba 2.普通用户登录
一、背景 因为项目中需要通北京网络,所以需要连vpn,但是服务器有时候会断掉,所以写个shell脚本每五分钟去判断是否连接,于是就有下面的shell脚本。
BETWEEN 操作符选取介于两个值之间的数据范围内的值。这些值可以是数值、文本或者日期。
假如你已经使用过苹果开发者中心上架app,你肯定知道在苹果开发者中心的web界面,无法直接提交ipa文件,而是需要使用第三方工具,将ipa文件上传到构建版本,开...
下面的 SQL 语句指定了两个别名,一个是 name 列的别名,一个是 country 列的别名。**提示:**如果列名称包含空格,要求使用双引号或方括号:
在使用H5混合开发的app打包后,需要将ipa文件上传到appstore进行发布,就需要去苹果开发者中心进行发布。​
+----+--------------+---------------------------+-------+---------+
数组的声明并不是声明一个个单独的变量,比如 number0、number1、...、number99,而是声明一个数组变量,比如 numbers,然后使用 nu...
第一步:到appuploader官网下载辅助工具和iCloud驱动,使用前面创建的AppID登录。
如需删除表中的列,请使用下面的语法(请注意,某些数据库系统不允许这种在数据库表中删除列的方式):
前不久在制作win11pe,制作了一版,1.26GB,太大了,不满意,想再裁剪下,发现这次dism mount正常,commit或discard巨慢,以前都很快...
赛门铁克各个版本概览:https://knowledge.broadcom.com/external/article?legacyId=tech163829
实测Python 3.6.6用pip 21.3.1,再高就报错了,Python 3.10.7用pip 22.3.1是可以的
Broadcom Corporation (博通公司,股票代号AVGO)是全球领先的有线和无线通信半导体公司。其产品实现向家庭、 办公室和移动环境以及在这些环境...
发现个问题,server2016上安装了c4d这些版本,低版本的正常显示窗格,但红色圈出的高版本c4d打开后不显示窗格,
TAT:https://cloud.tencent.com/document/product/1340