This is an old revision of the document!
Table of Contents
Guide d'Architecture & Déploiement : OpenShift Virtualization
Ce document décrit l'architecture, la configuration réseau et stockage, ainsi que les procédures d'exploitation pour faire tourner des machines virtuelles (VMs) d'entreprise sur notre cluster de serveurs physiques HPE ProLiant DL360.
📌 Architecture Globale
L'infrastructure repose sur un modèle de virtualisation hybride combinant serveurs physiques et stockage partagé centralisé :
- Hyperviseurs : Serveurs bare-metal HPE ProLiant Gen9/Gen10 (
dl360g9-3actif, et bientôtdl360g9-4) sous Red Hat Enterprise Linux CoreOS (RHCOS) avec support KVM. - Stockage des VMs : Pool de stockage centralisé NFS v4.2 hébergé sur TrueNAS Core (
10.194.16.14). - Réseau VMs : Commutateur virtuel Open vSwitch (OVS) isolé sur des liaisons physiques dédiées (
ens1f1) avec tagging 802.1Q dynamique géré par OVN-Kubernetes.
💾 1. Préparation & Configuration du Stockage (NFS TrueNAS)
La configuration du stockage est le pilier central de l'architecture. Elle permet d'assurer la persistance des disques virtuels et d'autoriser la migration à chaud (Live Migration) des VMs entre nos hyperviseurs.
Étape 1 : Permissions côté TrueNAS (Critique)
Pour que les processus de virtualisation d'OpenShift (les pods d'importation et le runtime QEMU s'exécutant avec l'UID 107) puissent lire et écrire sur le partage, les permissions NFS doivent être configurées comme suit sur TrueNAS :
- Export NFS :
/mnt/pool1/nfs/mtrllabocp - Sécurité / Permissions : Activé en lecture/écriture (
Read/Write). - Maproot / Mapall : Configurer Mapall User: root (ou s'assurer que les permissions du dossier physique sur le pool sont en
chmod -R 777pour éviter les redémarrages en boucle de l'importateur CDI avec l'erreurPermission denied).
Étape 2 : Configuration de la StorageClass OCP (nfs-csi-rwx)
Nous utilisons le provisionneur de sous-répertoires NFS d'OpenShift pour structurer nos fichiers de disques durs virtuels. Nous configurons onDelete: “delete” conjointement au pathPattern pour s'assurer que les dossiers temporaires ou disques supprimés soient nettoyés proprement sur TrueNAS.
apiVersion: storage.k8s.io/v1 kind: StorageClass metadata: name: nfs-csi-rwx provisioner: k8s-sigs.io/nfs-subdir-external-provisioner parameters: # 1. Regroupe et préfixe tous les PVCs proprement dans le dossier /vms pathPattern: "vms/\${.PVC.namespace}-\${.PVC.name}" # 2. Supprime proprement les sous-dossiers lors de la suppression d'une VM (pas d'archivage parasite) onDelete: "delete" reclaimPolicy: Delete volumeBindingMode: Immediate mountOptions: - nfsvers=4.2
🌐 2. Préparation & Configuration Réseau (OVS & OVN Localnet)
Pour isoler hermétiquement le trafic réseau de nos VMs tout en leur permettant de communiquer directement avec nos switchs physiques externes, nous utilisons une interface dédiée ens1f1 rattachée à un pont Open vSwitch.
[ VM Fedora (vlan217-nic / vlan218-nic) ]
|
[ Bridge OVS interne: br-int ]
|
[ OVN localnet bridge-mapping ]
|
[ Bridge OVS physique: br-vms ]
|
[ Interface Physique: ens1f1 ] ===> [ Switch Physique Trunk ]
Étape 1 : NMState - Création du Pont OVS Physique (br-vms)
Nous utilisons l'opérateur Kubernetes NMState pour provisionner de manière déclarative l'infrastructure réseau. Ce profil cible uniquement les serveurs physiques étiquetés avec le label physicalworker: “true”.
apiVersion: nmstate.io/v1 kind: NodeNetworkConfigurationPolicy metadata: name: ovs-vm-traffic-policy spec: nodeSelector: physicalworker: "true" desiredState: interfaces: # 1. Interface physique Trunk - name: ens1f1 type: ethernet state: up ipv4: enabled: false ipv6: enabled: false # 2. Création du pont OVS dédié - name: br-vms description: "Dedicated OVS Bridge for Virtual Machines on ens1f1" type: ovs-bridge state: up bridge: options: stp: false port: - name: ens1f1 # 3. Association logique du pont OVS au moteur OVN-Kubernetes ovn: bridge-mappings: - localnet: vms-localnet bridge: br-vms state: present
Étape 2 : Création des Réseaux Virtuels (Multus NADs)
L'intégration des VLANs se fait de manière dynamique à l'aide de définitions de réseaux secondaires basées sur le pilote officiel d'OpenShift ovn-k8s-cni-overlay. Cette méthode évite de devoir créer des sous-interfaces étiquetées complexes sur chaque nœud hôte.
Règle d'or de DokuWiki / Multus : La configuration config doit être déclarée à plat (sans tableau plugins: […]), sous forme de chaîne de caractères YAML (config: |-), et contenir impérativement les clés d'identification réseau netAttachDefName et nadName.
VLAN 217 (physicalworker/ovs-vlan217.yaml)
apiVersion: k8s.cni.cncf.io/v1 kind: NetworkAttachmentDefinition metadata: name: ovs-vlan217-net namespace: default spec: config: |- { "cniVersion": "0.3.1", "name": "ovs-vlan217-net", "type": "ovn-k8s-cni-overlay", "topology": "localnet", "netAttachDefName": "default/ovs-vlan217-net", "nadName": "default/ovs-vlan217-net", "physicalNetworkName": "vms-localnet", "vlanID": 217 }
VLAN 218 (physicalworker/ovs-vlan218.yaml)
apiVersion: k8s.cni.cncf.io/v1 kind: NetworkAttachmentDefinition metadata: name: ovs-vlan218-net namespace: default spec: config: |- { "cniVersion": "0.3.1", "name": "ovs-vlan218-net", "type": "ovn-k8s-cni-overlay", "topology": "localnet", "netAttachDefName": "default/ovs-vlan218-net", "nadName": "default/ovs-vlan218-net", "physicalNetworkName": "vms-localnet", "vlanID": 218 }
🚀 3. Déploiement d'une Machine Virtuelle Multi-NIC
Voici le manifest complet à utiliser pour instancier notre VM Fedora de référence. Elle est configurée avec 3 interfaces réseau (1 réseau de pod par défaut pour OpenShift, 1 carte sur le VLAN 217 et 1 carte sur le VLAN 218).
Le stockage utilise le mode de téléchargement fiable source: registry depuis Quay.io pour éliminer définitivement les instabilités liées aux téléchargements d'URLs HTTP.
apiVersion: kubevirt.io/v1 kind: VirtualMachine metadata: name: fedora-nfs-vm namespace: default spec: runStrategy: Always dataVolumeTemplates: - metadata: name: fedora-nfs-disk spec: pvc: accessModes: - ReadWriteMany resources: requests: storage: 20Gi storageClassName: nfs-csi-rwx volumeMode: Filesystem source: registry: url: "docker://quay.io/containerdisks/fedora:40" template: metadata: labels: kubevirt.io/vm: fedora-nfs-vm spec: nodeSelector: physicalworker: "true" domain: cpu: cores: 2 sockets: 1 threads: 1 resources: requests: memory: 2Gi devices: disks: - name: rootdisk disk: bus: virtio - name: cloudinitdisk disk: bus: virtio # ================= MULTI-NIC CONFIGURATION ================= interfaces: # NIC 1 : Réseau interne SDN OpenShift - name: default masquerade: {} # NIC 2 : Patte VLAN 217 (OVS Bridge br-vms) - name: vlan217-nic bridge: {} # NIC 3 : Patte VLAN 218 (OVS Bridge br-vms) - name: vlan218-nic bridge: {} # ========================================================== networks: - name: default pod: {} - name: vlan217-nic multus: networkName: default/ovs-vlan217-net - name: vlan218-nic multus: networkName: default/ovs-vlan218-net volumes: - name: rootdisk dataVolume: name: fedora-nfs-disk - name: cloudinitdisk cloudInitNoCloud: userData: |- #cloud-config user: fedora password: fedora_password chpasswd: { expire: False } ssh_pwauth: True
📟 4. Utilisation de la Console Virtuelle (virtctl)
Pour administrer la VM depuis la console de ton terminal local sous Xubuntu, l'outil dédié virtctl est indispensable.
Installation de virtctl (Xubuntu)
# Téléchargement depuis les utilitaires CLI exposés par ton propre cluster OCP curl -kO https://hyperconverged-cluster-cli-download-openshift-cnv.apps.<CLUSTER>.<FQDN>/amd64/linux/virtctl.tar.gz # Extraction et installation dans le PATH système tar xzvf virtctl.tar.gz chmod +x virtctl sudo mv virtctl /usr/local/bin/
Connexion & Exploitation
# Lancement de la console interactive virtctl console fedora-nfs-vm -n default
- 👤 Utilisateur par défaut :
fedora - 🔑 Mot de passe par défaut :
fedora_password - 🚪 Quitter la console virtuelle : Appuie simultanément sur
Ctrl + ].
🛠️ 5. Boîte à Outils de Troubleshooting (Commandes Vitales)
Conserve ces commandes à portée de main dans ton DokuWiki pour diagnostiquer rapidement les anomalies sur ton lab.
Diagnostic Stockage (NFS)
# Vérifier l'état global du DataVolume de disque virtuel oc get dv -n default # Consulter les logs de l'importateur CDI si le disque reste bloqué oc logs -n default -l cdi.kubevirt.io/testing=manifest-test-pvc # Lister les fichiers physiquement écrits sur le montage TrueNAS sudo mount 10.194.16.14:/mnt/pool1/nfs/mtrllabocp /tmp/nfs && ls -la /tmp/nfs/vms/ && sudo umount /tmp/nfs
Diagnostic Réseau (OVS / Multus)
# Visualiser la configuration et les interfaces logiques en temps réel sur le nœud physique oc debug node/dl360g9-3 -- chroot /host ovs-vsctl show # Inspecter l'état réseau configuré et appliqué par NMState sur l'hôte physique oc get nodenetworkstate dl360g9-3 -o yaml # Inspecter les événements d'initialisation réseau ou d'attribution d'interfaces sur le pod oc describe pod -l kubevirt.io/vm=fedora-nfs-vm -n default | grep -A 10 Events:
Diagnostics Généraux d'Exploitation
# Suivre l'historique complet des événements du namespace par ordre chronologique oc get events -n default --sort-by='.metadata.creationTimestamp' # Forcer l'étiquetage correct d'un nœud physique oc label node dl360g9-4 physicalworker=true --overwrite
💡 Trucs importants et Bonnes Pratiques à retenir
- Nettoyage régulier de l'espace TrueNAS : Le provisionneur NFS renomme les répertoires d'essais manuels ratés ou supprimés sous le préfixe
archived-. Ils occupent de l'espace disque inutilement. Tu peux supprimer en toute sécurité tous les dossiers commençant pararchived-directement depuis ton partage TrueNAS. - Ne jamais supprimer
openshift-virtualization-os-imagesà la main : Ces volumes NFS hébergent les sources de démarrage standard de l'opérateur (Golden Images). Si tu les effaces sur TrueNAS, OpenShift lancera instantanément des c
