Hi zusammen,
Ich habe 2 kvm hosts, welche unter anderen VMs von einem NFS mount bereitstellen. Livemigration funktioniert zuverlässig.
Bei mir sterben allerdings alle per NFS bereitgestellten VMs, wenn ich den Storage "bewege". Der NFS Server wird per DRDB bereitgestellt. Sobald ich den Storage vom einen drbd host auf den anderen umschalte "crm resource move group_NFS nfs01/nfs02“ bekomme ich auf der Konsole in den VMs fiese Fehlermeldungen:
Beispiel 1: ata2.00: status: { DRDY } ata2.00: failed command: WRITE FPDMA QUEUED ata2.00: cmd 61/48:f8:10:27:09/00:00:00:00:00/40 tag 31 ncq dma 36864 out res 40/00:00:00:00:00/00:00:00:00:00/00 Emask 0x56 (ATA bus error) ata2.00: status: { DRDY } blk_update_request: I/O error, dev sda, sector 1198512 op 0x0:(READ) flags 0x80700 phys_seg 2 prio class 0
Beispiel2: blk_update_request: I/O error, dev sda, sector 2326248 op 0x1:(WRITE) flags 0x800 phys_seg 2 prio class 0 Aborting journal on device sda1-8. EXT4-fs error (device sda1): ext4_journal_check_start:83: comm rs:main Q:Reg: Detected aborted journal EXT4-fs error (device sda1): ext4_journal_check_start:83: comm systemd-journal: Detected aborted journal blk_update_request: I/O error, dev sda, sector 2324480 op 0x1:(WRITE) flags 0x800 phys_seg 1 prio class 0 blk_update_request: I/O error, dev sda, sector 2324480 op 0x1:(WRITE) flags 0x800 phys_seg 1 prio class 0
Es betrifft lediglich VMs, welcher per NFS bereitgestellt werden. In den VMs bekomme ich dann io errors und mir bleibt nur die VM hart auszuschalten und wieder zu starten. Das Thema tritt nach dem Update der KVM hosts von Ubuntu 18.04 auf 22.04 auf. Andere Anwendungen (k8s), welche ihren Storage vom NFS beziehen laufen fehlerfrei weiter. Im mountpoint auf dem KVM host konnte ich keine Fehler feststellen.
Mountoptionen für das NFS sind folgende: 192.168.0.3:/nfs/exports/DRBDr2 /data/vmnfs nfs sync,hard,timeo=120,retrans=16,bg,nfsvers=4,minorversion=2,proto=tcp,port=2049,sec=sys 0 0
Ich habe unterschiedliche Storageadapter (virtio, sata, scsi) durchprobiert, allerdings ohne erfolg.
Any hints?
Danke und Gruss,
Andreas
wie wäre es, mal mit nfsvers=2 oder 3 und/oder proto=udp?
Tschüs
Josef
Am 17.10.22 um 17:09 schrieb Andreas Roth:
Hi zusammen,
Ich habe 2 kvm hosts, welche unter anderen VMs von einem NFS mount bereitstellen. Livemigration funktioniert zuverlässig.
Bei mir sterben allerdings alle per NFS bereitgestellten VMs, wenn ich den Storage "bewege". Der NFS Server wird per DRDB bereitgestellt. Sobald ich den Storage vom einen drbd host auf den anderen umschalte "crm resource move group_NFS nfs01/nfs02“ bekomme ich auf der Konsole in den VMs fiese Fehlermeldungen:
Beispiel 1: ata2.00: status: { DRDY } ata2.00: failed command: WRITE FPDMA QUEUED ata2.00: cmd 61/48:f8:10:27:09/00:00:00:00:00/40 tag 31 ncq dma 36864 out res 40/00:00:00:00:00/00:00:00:00:00/00 Emask 0x56 (ATA bus error) ata2.00: status: { DRDY } blk_update_request: I/O error, dev sda, sector 1198512 op 0x0:(READ) flags 0x80700 phys_seg 2 prio class 0
Beispiel2: blk_update_request: I/O error, dev sda, sector 2326248 op 0x1:(WRITE) flags 0x800 phys_seg 2 prio class 0 Aborting journal on device sda1-8. EXT4-fs error (device sda1): ext4_journal_check_start:83: comm rs:main Q:Reg: Detected aborted journal EXT4-fs error (device sda1): ext4_journal_check_start:83: comm systemd-journal: Detected aborted journal blk_update_request: I/O error, dev sda, sector 2324480 op 0x1:(WRITE) flags 0x800 phys_seg 1 prio class 0 blk_update_request: I/O error, dev sda, sector 2324480 op 0x1:(WRITE) flags 0x800 phys_seg 1 prio class 0
Es betrifft lediglich VMs, welcher per NFS bereitgestellt werden. In den VMs bekomme ich dann io errors und mir bleibt nur die VM hart auszuschalten und wieder zu starten. Das Thema tritt nach dem Update der KVM hosts von Ubuntu 18.04 auf 22.04 auf. Andere Anwendungen (k8s), welche ihren Storage vom NFS beziehen laufen fehlerfrei weiter. Im mountpoint auf dem KVM host konnte ich keine Fehler feststellen.
Mountoptionen für das NFS sind folgende: 192.168.0.3:/nfs/exports/DRBDr2 /data/vmnfs nfs sync,hard,timeo=120,retrans=16,bg,nfsvers=4,minorversion=2,proto=tcp,port=2049,sec=sys 0 0
Ich habe unterschiedliche Storageadapter (virtio, sata, scsi) durchprobiert, allerdings ohne erfolg.
Any hints?
Danke und Gruss,
Andreas
Hi zusammen,
Nach einigem Testen konnte das Thema durch die Setting:
echo 'GRUB_DISABLE_OS_PROBER=true' >> /etc/default/grub
behoben werden:
https://bugs.debian.org/cgi-bin/bugreport.cgi?bug=788062 https://bugs.debian.org/cgi-bin/bugreport.cgi?bug=810121 https://sebastian.marsching.com/wiki/bin/view/Linux/KVM/#HI2FOerrorsinVMcaus...
Cheers,
Andreas
lug-dd@mailman.schlittermann.de