querynode最佳部署经验

[zhu3359]

在部署milvus 2.5.*集群时，假如有4台96core 512G内存的服务器可以部署querynode，可以选择每个querynode实例分配96 core 512G内存，这样独占机器可以部署4个实例；也可以每个querynode实例分配48core 256G内存，这样每台机器上可以部署2个实例，总共可以部署8个querynode，想问下有没有这方面的最佳实践经验？比较更推荐哪种方案

[yhmo]

相同的计算资源，分成4个或8个querynode，要分情况来说。

• 对于足够大的数据集合，比如1TB数据，它的segment数量很多，在各个querynode上分布比较均匀。由于计算资源相同，4个node和8个node的查询性能应该差别不大。但是如果某个querynode出问题down掉重启时的，它要加载数据，4个node的配置就会慢一些，因为每个node分配的数据是8个node的两倍。
• 对于数据量较小的集和，比如4GB，它只有大约4个segment。如果分配4个querynode，则每个node上都有数据。如果分配8个node，则有几个node可能是空闲的(当然，你可以增加load_collection(replica_num=2)这个参数使得每个node都有活干）。

[zhu3359]

相同的计算资源，分成4个或8个querynode，要分情况来说。

• 对于足够大的数据集合，比如1TB数据，它的segment数量很多，在各个querynode上分布比较均匀。由于计算资源相同，4个node和8个node的查询性能应该差别不大。但是如果某个querynode出问题down掉重启时的，它要加载数据，4个node的配置就会慢一些，因为每个node分配的数据是8个node的两倍。
• 对于数据量较小的集和，比如4GB，它只有大约4个segment。如果分配4个querynode，则每个node上都有数据。如果分配8个node，则有几个node可能是空闲的(当然，你可以增加load_collection(replica_num=2)这个参数使得每个node都有活干）。

@yhmo 之前容器化部署一些服务的时候发现一台机器上部署两个实例可能会出现互相影响的情况，特别是一些cpu密集型服务，不知道querynode会不会出现这种情况？如果在replica_num = 2、且数据量相对都比较大 的情况下比较部署4个和8个节点，8个节点的情况下一台机器down机可能导致没有副本可用（一些segment的不同副本部署在同一台机器的两个节点上），是不是更推荐部署4个实例？

[yhmo]

合理限制每个节点的cpu数量就不会争抢cpu。
每个副本使用的节点是尽量错开的。比如2个副本，4个节点，1号副本会使用节点1和节点2；2号副本会使用节点3和节点4。理论上不会出现“不同副本的数据在同一个节点上”的情况。如果确实遇到这种现象，就把完整的日志发给我们分析一下。在“副本使用的节点是尽量错开的”这个前提下，两个副本用4个或8个节点没有太大区别，除了我前面说的，4个node的配置某个node重启加载数据时会慢一些

[zhu3359]

合理限制每个节点的cpu数量就不会争抢cpu。 每个副本使用的节点是尽量错开的。比如2个副本，4个节点，1号副本会使用节点1和节点2；2号副本会使用节点3和节点4。理论上不会出现“不同副本的数据在同一个节点上”的情况。如果确实遇到这种现象，就把完整的日志发给我们分析一下。在“副本使用的节点是尽量错开的”这个前提下，两个副本用4个或8个节点没有太大区别，除了我前面说的，4个node的配置某个node重启加载数据时会慢一些

好的。我说的情况不是不同副本在同一个节点，是某个segment的两个副本在不同节点，但是这两个节点在同一台机器上的去情况

[yhmo]

哦， 两个节点在同一台机器上，如果机器down了，并且两个节点服务于不同副本，那确实会导致两个副本都不可用。