管理服务器负载 - Flask SQLAlchemy Postgres on Heroku

问：

我有一个我构建的 Flask 应用程序，它使用 Twilio 和 OpenAI API 来帮助政治竞选活动发送短信。

在我之前的测试中，该系统运行良好，有 ~25 个并发用户。我今天尝试了 200 个用户进行更重要的测试，它开始崩溃。大多数情况下，它工作正常，但偶尔会丢弃传入消息，或者 Twilio 无法命中我的回调 url 而不会出现错误。

您对我如何解决或我应该检查的领域有任何想法吗？很高兴分享更多细节。

我正在使用一个 standard-0 数据库和 5 个标准的 2x dynos。

我尝试添加更多发电机，看看是否有帮助，但我仍然看到下降。我有一个假设，它与我的 Postgres 数据库可以容纳多少个连接有关，但我对它不够熟悉，无法确定。