Stroški usposabljanja VLA: Koliko resnično stane zagon fine-tuninga

Račun ima štiri postavke, GPU pa je najmanjša

Ko ljudje vprašajo, koliko stane fino uglaševanje modela vida, jezika in akcije za SO-100, skoraj vedno mislijo na najem GPU-ja. To je številka, ki se pojavi kot bremenitev na kartici, zato se zdi resnična. Prav tako je, z veliko razliko, najmanjša od štirih številk, ki določajo, koliko vas dejansko stane delujoča politika.

Časi usposabljanja spodaj izhajajo iz lastnih člankov in repozitorijev petih modelov, stroški strojne opreme iz objavljenega seznama materiala, številke platforme pa iz AY-Robots katalog politik in stran s cenami. Kjer platforma ne pomaga, ta članek to navaja.

Koliko dejansko stane ura GPU na promptnem trgu

Ni ene same cene za uro A100. Na tržnici, kot je vast.ai, vsak gostitelj določi svojo ceno, in izvajanje usposabljanja ki ga zaženete, pristane na kateremkoli stroju, ki je v tistem trenutku poceni in prost. Iskren odgovor je porazdelitev. Tukaj je, izmerjeno 23. avgusta 2026 ob 13:44 UTC: posamezne polne kartice, na zahtevo, filtrirano po dejanskem VRAM-u.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Zakaj modeli 3B ne morejo uporabljati poceni kartice

Ura 4090 in ura H100 80 GB se pri zgornjih medianah razlikujeta za približno šestkrat. Kar vas prisili k uporabi dražje kartice, ni hitrost, temveč pomnilnik. openpi določa spodnjo mejo za popolno Pi0.5 fino uglaševanje pri 70 GB, NVIDIA pa priporoča 40 GB ali več za GR00T. Upoštevajte, kaj številka GR00T ni. Njegova konfiguracija za fino uglaševanje privzeto zamrzne jezikovni model in vizualni kodirnik (tune_llm in tune_visual sta False, projektor in difuzijska glava pa True), zato katalog navaja približno 40 M usposobljenih parametrov od 3 B. 40 GB ni stanje optimizatorja za 3 B uteži, temveč zamrznjena hrbtenica plus aktivacije. Različice z zmanjšanim obsegom zahtevajo manj: pot LoRA pri openpi zahteva 22.5 GB in imenuje 4090, delovni tok NVIDIA Isaac Lab Arena pa navaja možnost 24 GB z eno grafično kartico za GR00T po usposabljanju. Platforma se razvršča glede na spodnjo mejo, ki jo vsak prodajalec objavi za konfiguracijo, ki jo dejansko poganja. Zapis o ujemanju toka pi0 pojasnjuje, od kod izvira ta ujemanje toka odtis.

Ta tabela je razlog, zakaj platforma deli pet modelov v dva nivoja. GR00T N1.7, GR00T N1.5 in Pi0.5 delujejo na A100 80 GB ali H100, ker to zahtevajo prodajalci. SmolVLA in ACT delujejo na RTX 4090 ali kateri koli 24 GB kartici, ker je to resnično dovolj.

Kako dolgo dejansko teče vsak od petih modelov

Čas izvajanja je druga polovica stroškov: 2.00 USD na uro je nepomembno, če delo traja 40 minut, in uničujoče, če traja 40 ur. To so privzete nastavitve, ki jih AY-Robots dejansko pošlje trenerju, skupaj s časovnim oknom izvajanja in stroški za vsako raven.

Od kod prihajajo ta časovna okna iz zgornjega toka

• SmolVLA: dokumentacija lerobot navaja, da 20.000 korakov traja približno 4 ure na eni kartici A100. Platforma izvaja istih 20.000 korakov na cenejšem nivoju z 24 GB, zato je to časovno okno in ne fiksne 4 ure.
• ACT: izvirni članek ALOHA poroča o približno 5 urah na eni kartici 11 GB RTX 2080 Ti za model z 80 milijoni parametrov. Kartica 4090 je več generacij novejša, vendar platforma predvideva 100.000 korakov, zato se časovno okno znajde na istem mestu.
• GR00T: referenčni potek dela NVIDIA za generacijo N1.6 navaja približno 4 do 8 ur za 20.000 korakov pri velikosti paketa 24 na osmih karticah L40S in 2 do 3 ure za 30.000 korakov pri velikosti paketa 16 na eni kartici Ada 6000. Fino uglaševanje 3B VLA na eni kartici v nekaj urah je normalno, ne optimistično.
• Pi0.5: openpi ne objavlja podatkov o dejanskem času, vendar objavlja spodnjo mejo 70 GB za popolno fino uglaševanje, kar določa kartico in s tem hitrost.

Velja se ustaviti pri številki, ki je ne plačujete. Članek GR00T N1 poroča o približno 50.000 urah GPU H100 za predhodno učenje modela 2.2B, na gruči do 1024 GPU-jev, z velikostjo paketa predhodnega učenja 16.384 za 200.000 gradientnih korakov. Pri zgoraj izmerjeni ceni 1.34 do 2.34 USD na uro je to v rangu 67.000 do 117.000 USD najetih računalniških zmogljivosti. Članek SmolVLA ocenjuje svoj projekt na približno 30.000 ur GPU-ja preko 481 skupnostnih podatkovnih nizov, 22.9K epizod in 10.6M sličic. Vse to podedujete za ceno prenosa; vaših 8 USD kupi zadnjih 20.000 korakov. Zakaj so VLA-ji zgrajeni na ta način pokriva to delitev.

Roka: enkratni strošek, ki zasenči račun za GPU

Usposabljanje stane manj kot kosilo. Robot ne. Zato je SO-100 pomemben: je najcenejša roka, ki jo celotna veriga orodij za učenje z imitacijo dejansko podpira.

Seznam materialov v repozitoriju SO-ARM100 je bolj podroben in ga je vredno preveriti glede na vašo regijo: njegov seznam Parts For Two Arms znaša skupno 229.88 USD ali 226.30 EUR za nastavitev vodje in sledilca, njegov seznam Parts for One Follower Arm pa skupno 121.94 USD ali 124.30 EUR. Šest servomotorjev STS3215 po 13.89 USD vsak znaša 83.34 od teh 121.94, torej so servomotorji roka. Pri 1 do 3 USD na zagon SmolVLA ali ACT je en par rok vreden med 77 in 230 usposabljanji. Če še vedno izbirate, je primerjava SO-100 proti SO-101 tista, ki je pomembna, saj sta si oba dovolj blizu, da je odločitev bolj o razpoložljivosti kot o zmogljivosti.

Človeške ure: vrstica, ki je nihče ne vpiše v preglednico

To je številka, ki obrne razpravo o stroških na glavo. Snemanje demonstracij pomeni, da oseba premika robotsko roko, eno epizodo naenkrat, v realnem času. Ni mogoče serijsko obdelovati ali najemati po sekundi. Snemalnik nabora podatkov LeRobot je opremljen s privzetimi nastavitvami, ki poenostavijo izračune, vse tri potrjene v DatasetRecordConfig: 60 sekund na epizodo, 60 sekund za ponastavitev scene, 50 epizod. Stolpec z denarjem spodaj predpostavlja 15 USD za uro dela nekoga, kar je predpostavka in ne številka platforme. Uporabite svojo tarifo; pomembno je razmerje.

1. 1
   Posnemite nabor podatkov s privzetimi nastavitvami, ki vam bodo dejansko zaračunane

   To je lerobot 0.6.1, različica na PyPI od 3. avgusta 2026. Upoštevajte obliko CLI: snemanje poteka preko vstopne točke konzole lerobot-record (lerobot.scripts.lerobot_record), ne pa stare poti modula python -m lerobot.scripts.record. AY-Robots cilja na 0.5.1, in 0.5.1 wheel deklarira enake vstopne točke lerobot-record in lerobot-train, tako da je spodnja oblika stabilna pri obeh. Tri zastavice za čas so privzete nastavitve, zato je to tudi ukaz, ki ga predpostavlja aritmetika v naslednji tabeli.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Poglejte, kaj ste posneli, preden najamete eno minuto GPU-ja

   Pregledovanje nabora podatkov stane nič USD na uro. Odkrivanje istega problema iz krivulje izgube stane 2.00 USD na uro na ravni H100 in vam pove štiri ure prepozno. Potisnite nabor podatkov in ga preglejte v pregledovalniku LeRobot, ali pobrskajte po imeniku naborov podatkov AY-Robots.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Usposabljajte in poskrbite, da bo kontrolna točka preživela pod

   Najeti stroj je po definiciji začasen, zato med izvajanjem pišite kontrolne točke nekam trajno. Dve zastavici določata, ali obdržite, kar ste plačali. --save_freq privzeto nastavi 20.000 korakov, tako da privzeto 20.000-korakovno izvajanje SmolVLA zapiše svojo prvo kontrolno točko, ko je izvajanje že končano; znižajte jo, preden najamete karkoli prekinljivega. --save_checkpoint_to_hub zahteva --policy.repo_id in ne obstaja v lerobot 0.5.1, zato v tej različici izhodni imenik kopirate z naprave sami. Spodnja velikost paketa je primer iz nadrejene dokumentacije; obrazec AY-Robots pošlje 2 za SmolVLA in piše v shrambo objektov, ko se pojavijo kontrolne točke.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Primerjajte desni stolpec z 1 do 12 USD, kolikor stane zagon. Pri tej predpostavljeni stopnji snemanje nabora podatkov s 50 epizodami stane dva- do sedemkrat več kot usposabljanje na njem, pred kalibracijo, nastavitvijo kamere in epizodami, ki jih zavržete. Zato ima neposredno denarno vrednost. Vodnik lerobot predlaga vsaj 50 epizod z 10 na lokacijo predmeta; dokumentacija SmolVLA poroča, da 25-epizodna različica iste naloge ni bila dovolj.

Kje denar dejansko izginja

1. Zagoni na podatkih, ki nikoli ne bi delovali

Zagon GR00T z 20.000 koraki na naboru podatkov z dvema zamenjanima tokovoma kamere stane enako kot zagon na čistem naboru podatkov, traja enako dolgo in ustvari krivuljo izgube, ki izgleda v redu. Napaka se pokaže na roki, ure kasneje. se zaračunavajo po urah, diagnoza pa po dnevih. Dva simptoma, ki si ju je vredno zapomniti: običajno pomeni, da opazovanja ne vsebujejo tistega, kar naloga potrebuje, in pomeni, da je imel nabor podatkov manj variacij, kot ste mislili.

2. Plačevanje cen temeljnih modelov za nalogo s fiksno kamero

ACT ima približno 80M parametrov in je bil zasnovan za učenje od začetka na 50 demonstracijah ene naloge. GR00T N1.7 ima približno 3B parametrov s predhodno usposobljeno hrbtenico. Za pritrjeno kamero, fiksno mizo in en predmet, 80M model pogosto doseže cilj, deluje pri približno 20 ms na korak dejanja namesto 152 ms in stane od 1 do 3 USD na zagon namesto od 4 do 12. Porabite 3 USD za ugotovitev, ali poceni model deluje, preden porabite 12 USD za dragega. ACT proti SmolVLA in GR00T N1.7 proti Pi0.5 kažejo, kje vsak preneha biti pravi odgovor; arena modelov ima 85 modelov in 332 rezultatov meritev.

3. GPU, na katerega ste pozabili

Najcenejša napaka za preprečitev in najpogostejša za storitev. Instanca, zagnana v petek za odpravljanje napak, se zaračuna čez vikend po isti tarifi kot dejanski zagon.

Na AY-Robots je ta napaka pri sklepanju odpravljena: podi, ki jih zagotavlja API za sklepanje, imajo nadzornika mirovanja in se uničijo po obdobju mirovanja. Če kartico najamete sami, je ta nadzornik vaš opomnik v koledarju.

4. Dvakratno plačilo za isti odgovor

Vhodna točka za fino uglaševanje GR00T je tyro CLI, ki ne razkriva semena. To ni omejitev platforme, temveč orodje višje ravni: polja za seme ni v gr00t/configs/finetune_config.py, in lastni nasveti za usposabljanje repozitorija opozarjajo, da se zagoni razlikujejo za 5 do 6 odstotkov, ker so izboljšave slik nedeterministične. lerobot privzeto uporablja seme 1000 v različicah 0.5.1 in 0.6.1, tako da se zagoni ACT, SmolVLA in Pi0.5 lahko vsaj ponovno izvedejo z isto inicializacijo in vrstnim redom podatkov. To ni obljuba bitno identičnih uteži na GPU, ampak je razlika med ponovnim zagonom in novim eksperimentom. Če zagon GR00T ustvari politiko, ki deluje, in niste shranili kontrolne točke, plačate polno ceno za rezultat, ki se lahko razlikuje bolj kot razlika, ki ste jo zasledovali. Obstaja še drugi način, kako izgubiti kontrolno točko, za katero ste plačali: CLI privzeto uporablja --save-total-limit 5, kar je dokumentirano kot največje število shranjenih kontrolnih točk, preden se starejše izbrišejo. Shranjevanje stane cente; ponovni zagon stane 4 do 12 USD in šest ur.

Narediti sami proti temu, da platforma najame kartico

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Kaj platforma zaračuna in kako izbere kartico

Logika je namerno dolgočasna. Vsak model v katalogu deklarira nivo GPU-ja; zaledni sistem vzame zahtevani VRAM in najame ustrezno kartico na istem spot trgu, merjenem zgoraj. Zato je navedena cena razpon, ne fiksna cena. GR00T in Pi0.5 sta tukaj samo v oblaku zaradi omejitev 40 GB in 70 GB. SmolVLA in ACT delujeta tudi lokalno na vaši lastni 24 GB kartici, kjer so stroški oblaka nič, elektrika pa je vaš problem.

Ena nastavitev si zasluži opozorilo. Akumulacija gradientov resnično velja za obe različici GR00T, zato njeno povečanje omogoča večjo efektivno serijo na isti kartici. Za Pi0.5 in SmolVLA sploh ne velja: lerobot 0.5.1 nima možnosti akumulacije gradientov v svoji konfiguraciji usposabljanja, zato nastavitev polja na 16 ne stane nič in ne prinese ničesar. Če se čakajoče opravilo nikoli ne začne, stran o zataknjenem opravilu v čakalni vrsti pokriva, kaj preveriti; če je nabor podatkov zavrnjen, preden se zagon začne, je to skoraj vedno problem formata v3.0.

Izdelan proračun za prvo delujočo politiko

Vse štiri vrstice skupaj, začenši iz nič. Skupni znesek GPE predvideva 3 do 5 zagonov: prvi dokaže, da cevovod deluje, drugi razkrije problem s podatki, tretjega ali četrtega pa obdržite.

Vzorec velja tudi pri tej velikosti robota: računalniška moč je zaokrožitvena napaka, strojna oprema je resničen enkraten strošek, človeške ure pa so ponavljajoči se strošek. Za testiranje dela usposabljanja, preden karkoli kupite, vam omogočajo primerjavo modelov in najem GPU-ja brez roke, in je fizični SO-100, ki ga lahko upravljate v brskalniku brez prijave. Za celoten potek od začetka do konca, zajema nastavitev, in usposabljanje, in je kratka različica.