WikiMiNET

La documentation technique et administrative

Outils pour utilisateurs

Outils du site


wiki:cluster:ceph:benchmark

Ceci est une ancienne révision du document !


Benchmark CEPH

Cette page décrit comment lancer un benchmark des block devices de ceph. L'idée est d'obtenir des informations sur la latence et la bande passante en lecture/écriture sur les serveurs de stockage.

Sur le serveur de calcul (ex: atlantis) :

Ne pas créer une image dont le nom existe déjà.

-Créer une image block device depuis le cluster de prod sur le noeud de stockage ceph distant:

rbd create image02 --size 1024 --pool replicated_2_pool -m 192.168.142.130 --keyring /etc/pve/priv/ceph/replicated_two_times.keyring --id proxmox_replicated_2

Sur le serveur de stockage (ex: phobos) :

-Vérifier que l'image a bien été créée:

rados lspools #Lister les pools disponibles
rbd ls -l replicated_2_pool

-Retirer les features non supportés de l'image (garder juste layering)

rbd info image02 --pool replicated_2_pool #lister les features
rbd feature disable image02 exclusive-lock, object-map, fast-diff, deep-flatten --pool replicated_2_pool

Sur le serveur de calcul (ex: atlantis) :

-Mapper le block device sur le serveur de calcul:

rbd map image02 --pool replicated_2_pool -m 192.168.142.130 --keyring /etc/pve/priv/ceph/replicated_two_times.keyring --id proxmox_replicated_2

-Formatter la partition en ext4 et la monter:

mkfs.ext4 -m0 /dev/rbdXXX
mkdir /mnt/bench-ceph

-Lancer le test avec rbd bench-write:

rbd bench-write image02 --pool=replicated_2_pool -m 192.168.142.130 --keyring /etc/pve/priv/ceph/replicated_two_times.keyring --id proxmox_replicated_2

TODO : déterminer si les IOs se font depuis le serv de calcul ou depuis le serv de stockage.

Résultats: [sequential-write] rw=write size=900M direct=0 directory=/mnt/bench-ceph numjobs=1 group_reporting name=sequential-write-buffered bs=8k runtime=10

From Atlantis: elapsed: 48 ops: 262144 ops/sec: 5458.14 bytes/sec: 22356554.75

From phobos: elapsed: 18 ops: 262144 ops/sec: 14393.89 bytes/sec: 58957385.80 elapsed: 16 ops: 262144 ops/sec: 15723.71 bytes/sec: 64404325.99 elapsed: 17 ops: 262144 ops/sec: 14618.23 bytes/sec: 59876281.84

Sur le serveur de stockage :

-Retirer l'image quand vous avez terminé:

rbd snap purge replicated_2_pool/testimage01 #remove snapshots
rbd rm replicated_2_pool/testimage01 #remove image

Sources

wiki/cluster/ceph/benchmark.1537145333.txt.gz · Dernière modification: 2020/06/27 18:15 (modification externe)