云运行-请求延迟

如何解决云运行-请求延迟

我正在尝试使用Cloud Run运行连接到Firestore的微服务。微服务基于s2geometry创建对象，以创建具有特定属性的多个地理区域，从而帮助本地化用户根据我所位于的区域向他们发送信息。

我使用Python 3.7和FastAPI创建了微服务以及与之通信的路由。

微服务在我的本地计算机和Compute Engines上运行流畅，因为我的大多数路由在测试它们时都需要不到150毫秒的时间来回答。但是，在通过Cloud Run部署时存在延迟问题。 微服务有时会花费很长时间（最多15分钟）来回答，我无法指出确切原因。

下面是一个屏幕截图，我们可以在其中查看请求计数和请求延迟：

Request Count and Request Latency

在请求等待时间和请求数量之间没有真正的关联，或者至少没有琐碎的关联。 我还查看了服务的内存使用情况，并且内存使用率最多为30％。但是，CPU使用率有时会达到100％，但不一定是在请求缓慢时。

最后，当我浏览跟踪列表并比较具有高延迟的请求时，我注意到以下差异

Trace of slow request
Trace of fast request

快速请求似乎可以自称，而慢速请求却不可以，我不知道为什么。

目前我们的用户并不多，所以我认为这可能是一个冷门问题，但缓慢的请求并不一定是第一个。

现在，老实说，我不知道这里发生了什么以及Cloud Run的工作（或我做错了什么），而且我也很难找到关于Cloud Run实际工作方式的详尽解释，所以如果您有一个（Google除外），我很乐意深入其中。

非常感谢您的帮助

解决方法

经过不同的实验，这似乎是一个 cold start 问题。 如果未开始使用Cloud Run容器，则在一定时间后将其停止，并且由于我们的通信量不大，因此每次用户想要访问该应用程序时，容器都必须启动。

解决方案：

我创建了一个Cloud Function，该触发器在被触发时向容器发送一个请求，然后创建了一个Cloud Scheduler作业，每分钟运行一次该功能。

注意：

如果将不同的修订路由到您的服务，则需要为每个修订创建Cloud Scheduler作业。为此，您必须为每个路由修订版本（当前为Beta）创建一个Revision URL（标签）。