systemen
90 procent van de prestaties tegen tien procent van de prijs, in slechts twee of drie racks, is moeilijk te verslaan
IBM-topman Arvind Krishna heeft tegen investeerders gezegd dat open-weightmodellen nu uitstekend zinvol zijn voor on-premise bedrijfsgebruik.
Tijdens de Q3-winstoproep van het bedrijf zei Krishna dat in 2024 gesloten frontier-modellen duidelijk superieur waren aan open alternatieven.
“Als je een beoordeling of benchmark draaide die breed was, niet smal, dan zou het topmodel misschien een 70 scoren, en het open model misschien een 20 of een 30.”
“In eind 2025 begonnen we die kloof kleiner te zien worden, waar de kloof misschien niet 70 tegen 20 of 30 was, maar 70 tegen 50,” vervolgde hij.
De CEO zei dat open-weightmodellen momenteel “ergens tussen de 25 procent en 10 procent van de tokenkosten van de frontier-modellen liggen. Dat is zeer aantrekkelijk gezien het feit dat ze nu 90 procent zo effectief zijn.”
“Het is een eenvoudige vraag voor elk bedrijf. Wilt u iets dat 10 procent van de kosten is als het 90 procent zo goed is als het beste, of wilt u die 10 keer hogere kosten betalen?”
Krishna denkt dat bedrijven meestal zullen kiezen om die hogere kosten niet te maken.
“Dan is de vraag: hoeveel taken vereisen dat? Ik zou zeggen sommige wel, maar de overgrote meerderheid — een e-mail samenvatten, een contract doornemen, een klantgesprek beantwoorden, een e-mail opstellen — al die dingen kunnen net zo goed met het veel goedkopere antwoord worden gedaan.”
De CEO zei dat die cijfers betekenen dat IBM een grote toename in interesse ziet voor on-prem AI-infrastructuur. Hoewel hij denkt dat de meeste bedrijven nuttige AI-infrastructuur in slechts twee of drie racks kunnen bouwen, verwacht hij dat velen moeite zullen hebben om het operationeel te krijgen.
“De vraag wordt: hoe doe je dat?” zei hij. “De vraag waar het bedrijf mee worstelt is: ‘Waar zijn mijn kernel-ingenieurs? Waar zijn de mensen die zich druk maken om het onderliggende netwerk? Wie kan ervoor zorgen dat het model geclusterd wordt op GPU’s die dicht bij elkaar in netwerk-nabijheid staan? Wie kan ervoor zorgen dat je de juiste caching van resultaten doet zodat je een ongelooflijke respons krijgt?’”
Hij had geen kant-en-klare antwoorden, anders dan te zeggen dat IBM software zal produceren die AI-implementaties vergemakkelijkt. Krishna voorspelde ook dat de vraag naar on-prem AI de verkoop van Big Blue’s Spyre-mainframeversnellerkaarten zal aanjagen.
De CEO zei dat de huidige generatie z17-mainframes $1 miljard meer omzet heeft opgeleverd dan elk vorig model, en zei dat Big Blue’s nieuwe rackbare modellen “de sterkste midrange-lancering in IBM Z in bijna twee decennia” leverden. De mainframe-omzet daalde echter met 20 procent — zoals IBM verwachtte gezien het nu 18 maanden geleden is sinds de lancering van de z17.
IBM’s infrastructuuromzet groeide vijf procent op jaarbasis tot $3,7 miljard, veel langzamer dan de verbeteringen die concurrenten Dell, HPE en Lenovo noteerden.
Software deed het een stuk beter, met een groei van negen procent tot $7,8 miljard voor het kwartaal. Red Hat was de ster, met een groei van elf procent en een stijging van de jaarlijkse terugkerende omzet met 30 procent. Een deel van die toekomstige omzet is voor Red Hat’s virtualisatieproducten, die inmiddels $800 miljoen aan deals hebben binnengehaald, met een pijplijn van nog eens $750 miljoen. Dat is een solide resultaat voor een productlijn die in 2024 werd gelanceerd, en IBM denkt dat er meer zal volgen gezien de mogelijkheid dat sommige VMware-gebruikers op de verhuis zijn.
De totale kwartaalomzet kwam uit op $17,1 miljard, een stijging van vijf procent. IBM’s aandelenkoers schommelde in de nabeurs en eindigde een of twee punten lager.
‘Noodonderhoud’ voor IBM Cloud
Een andere IBM-kwestie die The Register vandaag volgt, is een incident van ernstgraad één in de Big Blue-cloud, veroorzaakt door “noodonderhoud” waardoor gebruikers gedurende 90 minuten geen nieuwe resources of virtuele private clouds konden aanmaken.
Gebruikers van IBM’s Classic Cloud, de dienst die het in 2013 van SoftLayer overnam, is verteld dat Big Blue “het nieuwe provisioning en resourcebeheer in onze Classic-omgeving” zal herstellen vóór 08:00 UTC op donderdag — wat betekent dat het incident minstens 16 uur zal duren.
IBM begon dat werk een paar uur na de aankondiging van kritieke bugs in PHP. We hebben gevraagd of het verhelpen van die kwetsbaarheid de reden voor het incident is en zullen dit verhaal bijwerken als we een reactie ontvangen. ®
