Kubernetes come Control Plane Sovrano per le Piattaforme MLOps

Abstract

Le moderne piattaforme MLOps si basano sempre più su infrastrutture eterogenee: server bare metal dotati di GPU per il training, macchine virtuali che ospitano piattaforme dati e cluster Kubernetes che eseguono workload di training, batch processing e inference.

La gestione di questi ambienti è spesso frammentata tra strumenti diversi, modelli operativi non uniformi e processi di automazione difficili da riprodurre. Questo rende complesso garantire consistenza operativa, riproducibilità degli ambienti e visibilità complessiva sull’infrastruttura che supporta i workflow di machine learning.

In questo talk esploreremo un approccio alternativo: utilizzare Kubernetes come control plane dichiarativo per governare l’intera infrastruttura su cui poggiano le piattaforme MLOps.

Partendo da scenari reali, mostreremo come Kubernetes possa essere utilizzato non solo per orchestrare container, ma anche per gestire il ciclo di vita di macchine virtuali, cluster Kubernetes e risorse bare metal. Approfondiremo in particolare il ruolo di Cluster API e delle sue implementazioni per ambienti bare metal, analizzando cosa è concretamente possibile realizzare oggi.

Attraverso il confronto tra diversi approcci open source e architetture operative, vedremo come questo modello possa migliorare scalabilità, automazione e riproducibilità delle infrastrutture che supportano i moderni workflow di Machine Learning.” Kubernetes Control Plane, MLOps Infrastructure, Cluster API, Bare Metal provisioning, GPU workloads, Platform Engineering