ai en ml
Experimenteel orbitale datacenterprototype zet zijn TPU aan het werk en produceert poëzie
Google vierde vrijdag het ontvangen van een gedicht van zijn eerste experimentele orbitale AI-datacentersatelliet.
De Suncatcher-satelliet van het bedrijf, begin deze maand gelanceerd en in een lage baan om de aarde gebracht, reageerde op een commando vanaf een grondstation: “Write a haiku from the perspective of a TPU orbiting Earth, with the wonderful world spinning beneath you.”
Travis Beals, senior director van Google’s multidisciplinaire onderzoeksteam Paradigms of Intelligence, zei dat nadat de host- en TPU-trays van Suncatcher waren ingeschakeld en de machine-learningtests waren voltooid, het aan boord aanwezige Gemma 4-model zijn “Hello World”-mijlpaal behaalde door een inferentieantwoord vanuit de baan te verzenden.
“Tijdens een pass van het grondstation hebben we ons eerste prompt naar ons aan boord draaiende Gemma 4 open model geüplinked, en gevraagd om een haiku over het zijn in de ruimte te genereren,” schreef Beals in een blogpost.
En terwijl de satelliet over Svalbard, Noorwegen, vloog, reageerde het orbitale AI-model via de downlink:
Blue marble below,
Data streams in silent grace,
Starlight feeds my core. ✨
Die ongeveer 20 tokens zouden ongeveer $0.000012 kosten als ze via de Google Cloud API gegenereerd waren, gebaseerd op de prijsstelling van Gemma 4 26B van $0.15 per miljoen input-tokens en $0.60 per miljoen output-tokens (exclusief inputkosten).
Voeg daar een satelliet van mogelijk 500 kg aan toe, gebaseerd op de massa van SpaceX’s Starlink-satellieten, en een retail lanceerprijs van rond $7.000 per kg, en je hebt een zeer dure haiku.
Volgens Google’s berekeningen, als de kosten om een satelliet naar een lage baan om de aarde te krijgen kunnen worden teruggebracht tot $200/kg, zouden de lanceringkosten, geamortiseerd over de levensduur van de satelliet (~$810–7,500/kW/jaar), vergelijkbaar kunnen zijn met de huidige elektriciteitsuitgaven voor terrestrische datacenters in de VS (~$570–3,000/kW/jaar).
Google verwacht dat SpaceX dat zo rond 2035 zou kunnen bereiken en beschouwt het als strategisch nuttig om ruim van tevoren te prototypen voor het zover is.
Na de haiku testten ze, aldus Beals, “space-themed limericks en telemetrie-prompts die de technische status van de ladingrapporten.” De volgende stappen zijn tests om te beoordelen hoe TPU’s presteren onder thermische stress en straling.
Google heeft al laboratoriumtests uitgevoerd met zijn Trillium Cloud TPU en AMD-hostserver om te zien hoe goed ze bestand zijn tegen een protonenbundel van 67 MeV.
Het high-bandwidth geheugen van het systeem blijkt het meest gevoelig voor de totale ioniserende dosis (TID) — het vertoont onregelmatigheden na een cumulatieve dosis van 2 krad(Si), wat ongeveer 3× Google’s minimale vereiste voor TID-overleving van 750 rad(Si) is.
“Voor typische transformer-workloads vertaalt de waargenomen SDC [silent data corruption]-snelheid van ongeveer één gebeurtenis per 17 rad, bij een geraamde orbitale dosis van 150 rad(Si)/jaar, zich naar een zeer lage faalkans van de orde van 1 per 3 miljoen inferenties, ervan uitgaande 1 inferentie per seconde,” schreven Google-onderzoekers in een paper die eerder deze maand werd gepubliceerd.
“Hoewel deze foutfrequentie waarschijnlijk acceptabel is voor inferentie, vereist de impact van SEEs op trainingsjobs, en de doeltreffendheid van mitigaties op systeemniveau, verder onderzoek.”
Het onderzoek gaat inderdaad door. Volgend jaar is het plan een paar onderling verbonden satellieten te testen. In plaats van grote satellieten in een baan te brengen, verwacht Google een constellatie van veel kleinere satellieten te lanceren die met elkaar communiceren. ®
