Hi zusammen,
Ich habe mir hier 2 Blecht mit KVM hingestellt. Da ich keinen shared storage habe, nutzte ich DRBD um die Daten von einem Host auf den anderen zu replizieren und habe auf den DRBD Ressourcen einen NFS Server. Das ganze wird vom pacemaker verwaltet.
An meinen KVM hosts habe ich das NFS gemountet. Wenn ich jetzt im die Ressourcen von einem Host auf den anderen überschwemme, so habe ich ein für ca. 10 Sekunden keine vernünftiges IO - ist ja auch irgendwie so zu erwarten.
Meine VMs, welche auf dem NFS laufen schalten ihr FS in den Realonly modus und sind dadurch kaputt.
art@bd20:/tmp$ touch hallo touch: cannot touch 'hallo': Read-only file system
Hier sind meine mountoptionen:
192.168.53.66:/nfs/exports/DRBDr2 /data/vmnfs nfs async,hard,nfsvers=4,minorversion=2,proto=tcp,port=2049,sec=sys 0 0
Wenn ich den NFS share mounte und dort den Failover teste sehe ich für 10 Sekunden „permission denied"
oot@vm1:/home/art# mount -t nfs4 -o async,hard,nfsvers=4,minorversion=2,proto=tcp,port=2049,sec=sys 192.168.53.66:/nfs/exports/DRBDr2 /mnt root@vm1:/home/art# while :; do date | tee -a /mnt/testme; sleep 1 ; done Fri 26 Jun 2020 10:21:20 AM UTC Fri 26 Jun 2020 10:21:21 AM UTC Fri 26 Jun 2020 10:21:22 AM UTC Fri 26 Jun 2020 10:21:23 AM UTC Fri 26 Jun 2020 10:21:24 AM UTC Fri 26 Jun 2020 10:21:25 AM UTC Fri 26 Jun 2020 10:21:26 AM UTC Fri 26 Jun 2020 10:21:27 AM UTC Fri 26 Jun 2020 10:21:29 AM UTC Fri 26 Jun 2020 10:21:30 AM UTC Fri 26 Jun 2020 10:21:31 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:32 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:33 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:34 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:35 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:36 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:37 AM UTC Fri 26 Jun 2020 10:21:38 AM UTC Fri 26 Jun 2020 10:21:47 AM UTC Fri 26 Jun 2020 10:21:48 AM UTC
Any hints? Ich bin mir unsicher ob ich eher auf der NFS oder KVM Seite optimieren muss.
Danke und Gruss,
Andreas
Hi zusammen,
FYI, falls jemand mal über das Thema fallen sollte:
Ich hatte die NFS exports - wie in den meisten tutorials beschrieben - als Clusterresource definiert. Beim verschieben der Ressoucen hat er immer erstmal die exports deaktiviert, den NFS Server stoppt, die IP verschoben und dann umgedreht gestartet.
Wenn man die exports wegnimmt bekommt er unweigerlich ein "permissison denied" vom nfs server zurück und die Gast VM crashed sofort.
Wenn man die exports einfach lokal in /etc/exports definiert uns sie nicht als cluster-resouce anlegt, dann stoppt er den nfsserver, hat kurzzeitig keinen IO und bekommt ihn dann nach wenigen Sekunden wieder. Dann ist alles gut. :)
Besten Gruss,
Andreas
Am 26.06.2020 um 12:24 schrieb Andreas Roth andreas@schosemail.de:
Hi zusammen,
Ich habe mir hier 2 Blecht mit KVM hingestellt. Da ich keinen shared storage habe, nutzte ich DRBD um die Daten von einem Host auf den anderen zu replizieren und habe auf den DRBD Ressourcen einen NFS Server. Das ganze wird vom pacemaker verwaltet.
An meinen KVM hosts habe ich das NFS gemountet. Wenn ich jetzt im die Ressourcen von einem Host auf den anderen überschwemme, so habe ich ein für ca. 10 Sekunden keine vernünftiges IO - ist ja auch irgendwie so zu erwarten.
Meine VMs, welche auf dem NFS laufen schalten ihr FS in den Realonly modus und sind dadurch kaputt.
art@bd20:/tmp$ touch hallo touch: cannot touch 'hallo': Read-only file system
Hier sind meine mountoptionen:
192.168.53.66:/nfs/exports/DRBDr2 /data/vmnfs nfs async,hard,nfsvers=4,minorversion=2,proto=tcp,port=2049,sec=sys 0 0
Wenn ich den NFS share mounte und dort den Failover teste sehe ich für 10 Sekunden „permission denied"
oot@vm1:/home/art# mount -t nfs4 -o async,hard,nfsvers=4,minorversion=2,proto=tcp,port=2049,sec=sys 192.168.53.66:/nfs/exports/DRBDr2 /mnt root@vm1:/home/art# while :; do date | tee -a /mnt/testme; sleep 1 ; done Fri 26 Jun 2020 10:21:20 AM UTC Fri 26 Jun 2020 10:21:21 AM UTC Fri 26 Jun 2020 10:21:22 AM UTC Fri 26 Jun 2020 10:21:23 AM UTC Fri 26 Jun 2020 10:21:24 AM UTC Fri 26 Jun 2020 10:21:25 AM UTC Fri 26 Jun 2020 10:21:26 AM UTC Fri 26 Jun 2020 10:21:27 AM UTC Fri 26 Jun 2020 10:21:29 AM UTC Fri 26 Jun 2020 10:21:30 AM UTC Fri 26 Jun 2020 10:21:31 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:32 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:33 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:34 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:35 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:36 AM UTC tee: /mnt/testme: Permission denied Fri 26 Jun 2020 10:21:37 AM UTC Fri 26 Jun 2020 10:21:38 AM UTC Fri 26 Jun 2020 10:21:47 AM UTC Fri 26 Jun 2020 10:21:48 AM UTC
Any hints? Ich bin mir unsicher ob ich eher auf der NFS oder KVM Seite optimieren muss.
Danke und Gruss,
Andreas
lug-dd@mailman.schlittermann.de