如何按计划时间同步两个不同帐户上的两个 Azure Blob?

如何解决如何按计划时间同步两个不同帐户上的两个 Azure Blob?

为了实现高可用性,我们在不同 Azure 区域的不同存储帐户下创建了两个 blob 容器。

这样,如果应用程序在WRITING主blob容器时发现问题,应用程序将执行断路器逻辑,如果即使在尝试阈值次数后问题仍然存在,应用程序将开始WRITING 到位于不同 Azure 位置的备用 blob 存储帐户,此架构工作正常。

用于从主要切换到次要的代码:

AsyncLazy<CloudQueue> qClient = new AsyncLazy<CloudQueue>(async () =>
{
    var myStorageAccount = CloudStorageAccount.Parse("ConnectionString");
    var myQueue = myStorageAccount.CreateCloudQueueClient();
    myQueue.DefaultRequestOptions = new QueueRequestOptions
    {
        RetryPolicy = new ExponentialRetry(TimeSpan.FromSeconds(3),4),LocationMode = LocationMode.PrimaryThenSecondary,MaximumExecutionTime = TimeSpan.FromSeconds(20)
    };
    var queue = myQueue.GetQueueReference("QueueName");
    await queue.CreateIfNotExistsAsync();
    return queue;
});

现在的问题是,一旦主帐户恢复运行,如何将写入备用位置的数据与主位置中的实际 blob 同步?

Azcopy 是在两个不同帐户上同步两个 blob 的一种选择,但问题是根据此 link Azcopy 的官方 docker 映像尚不可用

如果没有的话,Azcopy 的官方 docker 镜像是否可用,还有哪些其他合适的选项可以按计划时间同步两个不同帐户上的两个 blob? Azure 数据工厂? Azure 函数?

解决方法

首先,您可能知道,没有可用的 Azcopy 官方 docker 映像。 github issue 提到了它。

是的,你可以使用azure函数来做(关于ADF,不确定,但问了一些人,他们说这不容易做到),但可能有点困难。

更简单的解决方案是同时使用 azure web jobazcopy。在 azure 门户中创建时,只需将 webjob 指定为计划。 Azure webjob 支持多种文件类型,例如 .ps1(powershell),.cmd,.py 等。因此,使用您最喜欢的文件之一来创建它非常容易。

在这里,我将创建一个 .ps1(powershell) 文件,然后将其上传到 azure webjob 以在预定时间执行同步作业。

步骤 1:创建一个 .ps1 文件。 文件名必须是run.ps1。然后在run.ps1文件中使用下面的代码(请在代码中使用自己的源存储和目标存储):

#define the source container and destination container,note that the sas token are required.
$source_container = "https://yy1.blob.core.windows.net/a11?sv=2020-02-10&ss=bfqt&srt=sco&sp=rwdlacup&se=2021-03-12T11:00:50Z&st=2021-03-12T03:00:50Z&spr=https&sig=xxxxxx"
$dest_container = "https://yyasia1.blob.core.windows.net/test123?sv=2020-02-10&ss=bfqt&srt=sco&sp=rwdlacup&se=2021-03-12T11:01:36Z&st=2021-03-12T03:01:36Z&spr=https&sig=xxxxxx"

#get the current working directory which contains the current .ps1 file and the azcopy.exe
$path = Split-Path -Parent $MyInvocation.MyCommand.Definition

#set the location to the path where contains the azcopy.exe
Set-Location -Path $path

#execute the sync command
.\azcopy.exe sync $source_container $dest_container --recursive

Write-Output "**completed**"

第 2 步:将 azcopy.exe(如果没有,请先下载)放在 run.ps1 文件的同一位置。然后将这 2 个文件压缩成一个 .zip 文件(注意:在压缩它们之前,您最好在本地测试您的代码,看看它是否可以工作):

enter image description here

第 3 步:假设您已经有一个支持 webjob 的 azure 网络应用服务,并且启用了 always on 功能。导航到 azure 门户 -> 您的 azure web 应用程序 -> 设置 -> Webjobs -> 单击“添加”按钮 -> 在“添加 Webjob”面板中,填写所有必需的字段/选择 .zip 文件/并设置正确的类型/触发器/CRON。截图如下:

enter image description here

第四步:webjob创建完成后(可能需要几分钟,点击“刷新”按钮查看),选择webjob,点击“运行”按钮:>

enter image description here

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


依赖报错 idea导入项目后依赖报错,解决方案:https://blog.csdn.net/weixin_42420249/article/details/81191861 依赖版本报错:更换其他版本 无法下载依赖可参考:https://blog.csdn.net/weixin_42628809/a
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下 2021-12-03 13:33:33.927 ERROR 7228 [ main] o.s.b.d.LoggingFailureAnalysisReporter : *************************** APPL
错误1:gradle项目控制台输出为乱码 # 解决方案:https://blog.csdn.net/weixin_43501566/article/details/112482302 # 在gradle-wrapper.properties 添加以下内容 org.gradle.jvmargs=-Df
错误还原:在查询的过程中,传入的workType为0时,该条件不起作用 &lt;select id=&quot;xxx&quot;&gt; SELECT di.id, di.name, di.work_type, di.updated... &lt;where&gt; &lt;if test=&qu
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct redisServer’没有名为‘server_cpulist’的成员 redisSetCpuAffinity(server.server_cpulist); ^ server.c: 在函数‘hasActiveC
解决方案1 1、改项目中.idea/workspace.xml配置文件,增加dynamic.classpath参数 2、搜索PropertiesComponent,添加如下 &lt;property name=&quot;dynamic.classpath&quot; value=&quot;tru
删除根组件app.vue中的默认代码后报错:Module Error (from ./node_modules/eslint-loader/index.js): 解决方案:关闭ESlint代码检测,在项目根目录创建vue.config.js,在文件中添加 module.exports = { lin
查看spark默认的python版本 [root@master day27]# pyspark /home/software/spark-2.3.4-bin-hadoop2.7/conf/spark-env.sh: line 2: /usr/local/hadoop/bin/hadoop: No s
使用本地python环境可以成功执行 import pandas as pd import matplotlib.pyplot as plt # 设置字体 plt.rcParams[&#39;font.sans-serif&#39;] = [&#39;SimHei&#39;] # 能正确显示负号 p
错误1:Request method ‘DELETE‘ not supported 错误还原:controller层有一个接口,访问该接口时报错:Request method ‘DELETE‘ not supported 错误原因:没有接收到前端传入的参数,修改为如下 参考 错误2:cannot r
错误1:启动docker镜像时报错:Error response from daemon: driver failed programming external connectivity on endpoint quirky_allen 解决方法:重启docker -&gt; systemctl r
错误1:private field ‘xxx‘ is never assigned 按Altʾnter快捷键,选择第2项 参考:https://blog.csdn.net/shi_hong_fei_hei/article/details/88814070 错误2:启动时报错,不能找到主启动类 #
报错如下,通过源不能下载,最后警告pip需升级版本 Requirement already satisfied: pip in c:\users\ychen\appdata\local\programs\python\python310\lib\site-packages (22.0.4) Coll
错误1:maven打包报错 错误还原:使用maven打包项目时报错如下 [ERROR] Failed to execute goal org.apache.maven.plugins:maven-resources-plugin:3.2.0:resources (default-resources)
错误1:服务调用时报错 服务消费者模块assess通过openFeign调用服务提供者模块hires 如下为服务提供者模块hires的控制层接口 @RestController @RequestMapping(&quot;/hires&quot;) public class FeignControl
错误1:运行项目后报如下错误 解决方案 报错2:Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.1:compile (default-compile) on project sb 解决方案:在pom.
参考 错误原因 过滤器或拦截器在生效时,redisTemplate还没有注入 解决方案:在注入容器时就生效 @Component //项目运行时就注入Spring容器 public class RedisBean { @Resource private RedisTemplate&lt;String
使用vite构建项目报错 C:\Users\ychen\work&gt;npm init @vitejs/app @vitejs/create-app is deprecated, use npm init vite instead C:\Users\ychen\AppData\Local\npm-