如何解决无论键或条件如何,如何更新DynamoDB表中的属性?
我有一个DynamoDB表,例如data
。该表有40万个项目。每个项目都有4个字段-
- id(字符串)这是我的分区键
- 状态(是/否)
- 添加日期
- 源
现在,所有项目都具有status
=“ Y”。我如何更新所有项目并将所有40万个项目的状态设置为“ N”,而无论键或任何条件如何?
在MySQL中,等效语句为-
UPDATE data SET status = 'N';
我希望通过命令行执行此操作,或者最好在Python中使用boto3进行操作
解决方法
没有简单或便宜的方法可以完成您想做的事情。您基本上需要做的是读取和写入整个数据库:
写:
- 如果您知道单个项目的密钥,则可以使用
UpdateItem
中的UpdateExpression
发出一个"set status = :N"
请求。这只会修改“状态”属性(其余部分保持不变),但是您要承担的成本(或您将使用的预配置吞吐量)将是编写整个项目的成本。因此,所有这些操作的总和就是重写整个数据库的成本。 - 您应该在上述
UpdateItem
上添加ConditionExpression
,它只会在项目仍然存在时才更新该项目(您可以在其key属性上使用attribute_exists()
条件来验证一个项目存在)。这将使您的工作负载在进行这些更改时删除项目。 - 在开始此更改过程之前,更改您的客户代码以写入状态= N的 new 项。更改过程可能会遗漏这些新项,但是如果它们已经以status = N创建就可以了。 。
- 您不能使用
BatchWriteItems
(boto3中的batch_writer()
)一起修改一组项目,因为此批处理操作只能替换项目,而不能修改现有项目的属性。无论如何,BatchWriteItems
不会降低成本(批次成本与其所包含的请求相同)。
阅读:
- 要获取数据库中所有现有键的列表,并进行上述读取,您需要使用
Scan
操作,并将Projection
设置为KEYS_ONLY
以仅获取键(您不需要数据)。不幸的是,您付出的代价将与读取 entire 项目相同,而不仅仅是读取密钥。因此,所有这些扫描操作的总成本将是读取整个数据库。
如果您为此表使用已配置的容量,则可以在后台使用客户端请求未使用的任何多余容量来缓慢地进行此更改, “免费”。
在您的情况下这是否有意义,实际上取决于您提供了多少多余的容量(包括读取和写入!)。如果这样做,您将需要注意不要在后台操作中使用过多的容量并伤及您的真实用户-您需要某种控制器来注意到容量超出的错误并减少容量由后台进程使用。
如果您实际上已经支付了很多多余的预配容量,则可以根据需要尽快执行此后台操作!读取部分Scan
可以按照您想要的速度并行完成(使用“并行扫描”功能),而显然,不同密钥的写入部分也可以并行完成。>
以下代码使用batch_write_item
DynamoDB API批量更新大小为25的项目,这是batch_write_item
可以在单个API调用中容纳的最大项目数。如果您的商品很大,则可能需要调整此数字。
警告:这只是概念证明的例子。您应自担风险。
import boto3
def update_status(item):
item['status'] = {
'S': 'N'
}
return item
client = boto3.client('dynamodb',region_name='<ddb-region>')
paginator = client.get_paginator('scan')
operation_parameters = {
'TableName': '<ddb-table-name>','PaginationConfig': {
'PageSize': 25
}
}
page_iterator = paginator.paginate(**operation_parameters)
for page in page_iterator:
response = client.batch_write_item(RequestItems={
'<ddb-table-name>': [
{
'PutRequest': {
'Item': update_status(item)
}
}
for item in page['Items']
]
})
print(response)
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。