K8s 中微服务利用率低的性能问题（对开发和 DevOps 也有影响）

问：

当我设计微服务并部署到 K8s 时，我发现我无法为我的微服务获得更高的利用率（最大利用率仅为 0.1-0.3 CPU）。你有最佳实践吗，我们如何提高微服务 CPU 利用率？

让我描述一下 LAB 环境：

• 具有 5 个节点的 K8s
  • 每个节点具有 14 个 CPU 和 128 GB RAM（节点在具有 VMWare 的虚拟机上构建）
  • 带有 nginx 的 K8s 设置了完整日志等。
• 微服务
  • 在 python 语言中（在一个进程中处理的 GIL 限制，这意味着最多 1 个 CPU 利用率）
  • 我用了三个豆荚
  • 接口 REST 请求/响应（无需添加 I/O 操作）
  • 每次调用的处理时间为 ~100 毫秒

我们进行了性能测试，您可以看到以下输出：

• 微服务利用率：每个 Pod 中最大 0.1-0.3 个 CPU

我预计问题是，K8s 管理（路由、日志等）会产生更高的源代码利用率，并且无法为我们的微服务的利用提供高吞吐量。我认为，提高微服务利用率的最佳实践可以是：

1] 增加豆荚数量

• 优点，我们将获得更高的微服务利用率，但每个 K8s 节点的 Pod 数量有限
• 缺点，每个 Pod 的微服务利用率仍然相同

2] 使用微批处理

• 优点，我们可以支持捆绑调用（例如每 1 秒、2 秒），在这种情况下，微服务端的处理时间会更高
• 缺点，我们将增加处理时间，因为捆绑（不是实时处理的理想场景）

3] K8s 更改日志级别

• 优点，我们可以降低nginx中的日志级别，...到错误
• 缺点，详细问题跟踪可能存在问题

4] 将 K8s 节点与物理硬件（非 VMware）配合使用

• 优点，性能更好
• 缺点，此更改可能会产生额外的成本（新硬件）和维护

您是否在 k8s 中使用了其他最佳实践和高微服务利用率的想法（我的目标是为这个 python 代码获得每个 pod 0.8-1 个 CPU）？