HomeArtificiële IntelligentieHoe dual-native gaan leidt tot samenleven van VM's en containers en soevereine...

Hoe dual-native gaan leidt tot samenleven van VM’s en containers en soevereine beveiliging in het AI-tijdperk

Ervaren techneuten herinneren zich met weemoed een eenvoudigere tijd waarin het “single-stack”-model van enterprise computing de standaardoplossing was om interoperabiliteitsproblemen te tackelen.

Toen waren IT-beslissers bereid enige keuze en flexibiliteit op te geven in hoe ze IT-systemen specificeerden, in ruil voor de beschikbaarheid en beheersbaarheid die een homogeen operationeel landschap bood.

Met de daaropvolgende opkomst van multi-clouds, applicatie-specifieke hardware, voortdurend veranderende bedrijfsvereisten en de race om AI is het oude “one-size-fits-all”-spelboek grotendeels verlaten. De meeste IT-omgevingen hebben technologische diversiteit omarmd — deels door ontwerp, deels door standaardisatie, deels door traagheid.

Moderne enterprise-omgevingen zijn van nature heterogeen — en daarmee complex. Ze draaien een diverse combinatie van systeemsoftware, hardwareapparaten, clouddiensten, legacy-applicaties, enz.

De opkomst van AI heeft standaard-CPU’s, gespecialiseerde GPU’s, snelle netwerkfabrics, gedistribueerde datapijplijnen en nieuwe implementatiemodellen met zich meegebracht die zich uitstrekken over private clouds, public clouds, edge — en steeds hogere ROI-verwachtingen.

Dat betekent echter niet dat bestaande applicaties en data van bedrijven zomaar verdwijnen. Een moeizame maar onvermijdelijke uitkomst van snelle AI-implementatie is de zogenaamde “VM-container kloof”. Dat is het fenomeen waarbij kritische bedrijfsapplicaties die zouden moeten overstappen naar containers blijven draaien op virtuele machines, omdat cloud-native diensten voorrang krijgen en container- en Kubernetes-capaciteit opeisen. Bedrijven staan daardoor voor de uitdaging AI te operationaliseren zonder gedwongen te worden tot ingrijpende migraties of het creëren van nieuwe infrastructuursilo’s.

Het omgaan met deze technologische breuk vormt acute uitdagingen voor IT-management. Veel nieuwe AI-implementaties gaan rechtstreeks naar containers, terwijl bestaande data en applicaties — waar AI toegang toe nodig heeft — blijven draaien op VM’s.

Het draaien van gescheiden stacks voor VM’s en containers veroorzaakt diverse problemen, zoals dubbele capaciteitsplanningen, aparte ondersteuningscontracten en gefragmenteerde governance. En na jaren van pogingen om de nadelen van datasilo’s te boven te komen, moeten gefrustreerde ondernemingen nu ook omgaan met gescheiden infrastructuursilo’s.

Afzonderlijk beheerde VM- en containeromgevingen leiden vaak tot inefficiënt gebruik van middelen. Dit kan resulteren in “gestrandde capaciteit” — geïnstalleerde rekenmiddelen die niet kunnen worden gebruikt voor live workloads. VM-clusters zijn vaak onderbenut terwijl containerpools (zoals Kubernetes) overgeprovisioned zijn, zonder gemakkelijke manier om middelen te delen zonder handmatige tussenkomst.

Bovendien kan fragmentatie van VM-/containerinfrastructuur een operationele bottleneck vormen voor agentgebaseerde AI. Infrastructuurfragmentatie kan de uitrol, integratie, governance en het opschalen van agents bemoeilijken, waardoor het lastiger wordt agentgebaseerde AI veilig en consistent te operationaliseren en op te schalen. Wanneer AI-agenten niet autonoom tussen omgevingen kunnen communiceren, zakt hun nut van autonome probleemoplossers terug naar eenvoudige lokale macro’s.

Containers winnen aan terrein door de brede acceptatie van AI-voorzienige applicaties. 85 procent van de IT-directeuren die Nutanix’s meest recente Enterprise Cloud Index enquête invulde, denkt dat AI de adoptie van containers op significante wijze versnelt; 29 procent denkt dat dit “in grote mate” gebeurt.

“AI versnelt de verschuiving naar containers omdat machine learning-modellen strikte afhankelijkheidspacking vereisen, terwijl kritieke applicaties en data verspreid blijven over zowel gevirtualiseerde als gecontaineriseerde omgevingen,” zegt Harsha Kotikela, Senior Director of Product & Solutions Marketing bij Nutanix.

Agenten zijn van nature meerlagig, legt hij uit. “Inference is doorgaans GPU-intensief en containergebaseerd, terwijl agents vaak CPU-intensief en containergebaseerd zijn, en bestaande enterprise-applicaties en -data blijven grotendeels in VM-omgevingen. De uitdaging is deze lagen bij elkaar te brengen zodat agents met enterprise-applicaties en -data kunnen werken, zonder te dwingen tot migratie of het creëren van extra infrastructuursilo’s.”

Het applicatielandschap is intussen even divers geworden. Veel organisaties draaien tegelijkertijd traditionele enterprise-applicaties op VM’s, gecontaineriseerde apps, gedistribueerde AI-toepassingen en intelligente agenten, met workloads verspreid over private cloud, public cloud en edge. Elke omgeving heeft zijn eigen beheertools, operationele processen, beveiligingsregels en governance-modellen.

“De beheercapaciteit heeft moeite gehad om evenredig mee te schalen,” zegt Kotikela, maar het toevoegen van meer consoles of het opzetten van aparte operationele teams voor elke technologiestack lost deze complexiteit niet per se op: “In veel gevallen vergroot het die juist.”

Toch betwist Kotikela dat de positie waarin ondernemingen zich bevinden bij het overbruggen van de VM-container kloof onoplosbaar is. De uitdaging is eerder om naar een verenigd operationeel model te bewegen dat hen in staat stelt agentgebaseerde AI te operationaliseren terwijl ze flexibiliteit behouden in hun bestaande en nieuwe omgevingen.

“In plaats van te proberen heterogeniteit te omzeilen, moet het doel nu zijn heterogene omgevingen consistent te laten werken met doelgerichte beleidsregels,” zegt Kotikela. “Hier komt Nutanix’ dual-native architectuur om de hoek kijken, die ondernemingen in staat stelt agentgebaseerde AI te operationaliseren over containergebaseerde inference- en agent-workloads naast bestaande VM-gebaseerde applicaties en data, via een consistent operationeel model.”

De realiteit is dat de trend van VM-naar-container-migratie traag verloopt, suggereert Kotikela. Weinig ondernemingen beginnen containers helemaal vanaf nul. Veel hebben lang gevestigde bedrijfsapplicaties op legacy-architecturen, bovenop welke ze containergebaseerde applicaties bouwen, maar meestal niet ter vervanging van wat al op VM’s draait. Ze verlengen eerder hun investering in VM’s.

Het is klantvraag die heeft bepaald hoe Nutanix een gecontroleerde, dual-native architectuur levert via het Nutanix Cloud Platform — NCP — dat traditionele VM’s en container-/Kubernetes-gebaseerde AI-workloads gelijktijdig laat draaien op één consistente infrastructuur.

De hybride-cloud infrastructuurfundament van NCP verenigt compute, storage, virtualisatie en management over on-premises resources, public clouds en edge. Het werkt samen met Nutanix Enterprise AI (NAI), dat de softwaremogelijkheden biedt om AI-workloads uit te rollen, te besturen en op te schalen.

Technologiepartnerschappen zijn essentieel om AI-ondersteunende functionaliteit in Nutanix’ AI-portfolio te bouwen, legt Kotikela uit. “Nutanix en NVIDIA werken samen om een geïntegreerd platform voor enterprise AI te bieden, waarbij Nutanix’ hybride-cloud infrastructuur en software worden gecombineerd met NVIDIA’s versneld rekenen en AI-software. Nutanix Enterprise AI vereenvoudigt de uitrol, het beheer en de veilige exploitatie van AI-modellen, en integreert met NVIDIA NIM en NeMo-microservices om enterprise AI-inference en agentgebaseerde AI-workflows te ondersteunen.”

Intussen “biedt Nutanix Kubernetes Platform de basis voor het beheren van Kubernetes-omgevingen, terwijl Nutanix Unified Storage de high-performance data-toegang levert die AI-workloads vereisen. Samen helpen deze mogelijkheden ondernemingen AI uit te rollen en op te schalen, terwijl zij controle houden over hun infrastructuur, modellen en data.”

Kansen voor stacks

“In een ideale IT-wereld wil je niet twee verschillende operationele stacks moeten beheren — maar de wereld van IT is zelden ‘ideaal’,” wijst Kotikela erop. “Je moet de uitdaging daarom realistisch benaderen. Je kunt je huidige stacks niet zomaar naar een andere realiteit buigen zonder het risico dat er iets kapotgaat, en dat heeft weinig zin.”

Hij voegt eraan toe: “Een platform dat VM’s en containers verenigt verbetert de time-to-value voor ontwikkelaars door die infrastructuursilo’s weg te nemen en een enkele control plane te bieden.” In plaats van dat ontwikkelingsteams aparte pipelines moeten beheren voor bestaande VM’s en gecontaineriseerde applicaties, behandelt een verenigd platform “beide als diensten van gelijke status en belang”.

NAI levert een verenigd en veilig platform om AI-workloads uit te rollen, te beheren en op te schalen, zegt Kotikela. Het geeft ondernemingen governance over hun agents en modellen, volledige zichtbaarheid over tokengebruik, en stroomlijnt AI-ontwikkeling met een eenvoudige interface die integreert met bestaande infrastructuur.

Agenten de ruimte geven

Volgens Kotikela zal de volgende fase van agentgebaseerde AI worden afgemeten aan het vermogen om agenten te laten opereren met governance, zichtbaarheid en controle: “Dat is wat we met de nieuwste NAI-release wilden oplossen. Release 2.8 blijft NAI ontwikkelen met nieuwe controle- en governance-mogelijkheden rondom Nutanix Agent Gateway en Nutanix Private Inference. Dit betekent dat organisaties AI kunnen draaien over VM’s en containers, publieke cloud-LLM’s kunnen verbinden met private zelf-gehoste modellen, en AI kunnen inzetten waar de data zich al bevindt.”

Kotikela voegt toe: “Als ik met klanten spreek, zeggen ze dat ze de vrijheid willen om te kiezen tussen cutting-edge en open-source modellen op basis van prestaties en kosten, en de flexibiliteit om AI-workloads in de cloud te draaien voor experimenten en ze on-premises te brengen wanneer ze meer controle over hun data nodig hebben of soevereiniteitseisen hebben.”

Tijdig ingrijpen

Voor Kotikela is de grootste uitdaging de komende tijd “het operationaliseren van agentgebaseerde AI — het samenbrengen van alle componenten die nodig zijn om het te laten werken — van GPU’s en onderliggende infrastructuur tot Kubernetes, AI-modellen, inference-engines en gateways. Deze componenten moeten naadloos samenwerken over cloud-, on-premises- en edge-omgevingen. Het integreren en exploiteren van deze meerlaagse architectuur vereist aanzienlijke tijd en inspanning van ontwikkelaars, IT-architecten en infrastructuurteams, waardoor middelen worden afgeleid van het leveren van zakelijke resultaten.”

Hier levert Nutanix volgens Kotikela waarde. “Wij hebben het zware werk verricht om de infrastructuur- en softwarecomponenten samen te brengen die nodig zijn om agentgebaseerde AI te draaien — binnen een verenigd operationeel model over hybride omgevingen. Dit stelt IT-teams in staat minder tijd te besteden aan het integreren en beheren van de onderliggende stack en meer te focussen op het operationaliseren van AI om zakelijke waarde te leveren.”

Meer informatie over Nutanix tijdens NVIDIA GTC Berlin: stand #7042

Gesponsord door Nutanix

Nural Sevimov
Nural Sevimovhttps://itvandaag.be
Nural Sevimov is oprichter en eigenaar van Actiefhost. Sinds 2011 werkt hij dagelijks met Linux-servers, hostinginfrastructuur en softwareontwikkeling. Met jarenlange praktijkervaring combineert hij technische kennis met een passie voor betrouwbare, efficiënte en moderne hostingoplossingen.
GERELATEERDE ARTIKELEN

Meest populair

Recente reacties