milvus集群版search压力倾斜
WWJ002233 opened this issue · 4 comments
WWJ002233 commented
我部署了milvus集群版，一共5个node。
启动了一个java服务使用sdk压测milvus的search，但是只有一个node的cpu水位大幅上涨，其他node变化不大。
这是为什么？
xiaofan-luan commented
是否是因为索引建不过来，数据都在delegator上，无法balance？可以使用birdwatcher看看。
多几个shard能缓解，但是最好还是indexnode要够
WWJ002233 commented
是否是因为索引建不过来，数据都在delegator上，无法balance？可以使用birdwatcher看看。 多几个shard能缓解，但是最好还是indexnode要够
我部署的是2.2版本，只有一个proxy的cpu水位上涨，而且一直是同一个。我开了两个java服务去压测，有两个proxy的cpu水位上涨。sdk是有长链接吗？
yhmo commented
sdk的连接基本上是长连接，proxy如果有多个，那它们的地址都是不同的。客户端连接不同的proxy就应该连接不同的proxy地址。如果只有一个proxy在忙，那说明你的客户端全都连的同一个proxy。milvus本身并没有proxy的balance机制。
xiaofan-luan commented
如果是proxy，你需要在proxy之前加负载均衡。
通常一个sdk不应该可以打爆一台proxy的cpu，也可以通过增加proxy的pod大小提升性能