VLA Opleidingskoste: Wat 'n Verfyningslop Regtig Kos

Die rekening het vier lyne, en die GPU is die kleinste een

Wanneer mense vra wat dit kos om ’n visie-taal-aksie-model vir ’n SO-100 fyn te stel, bedoel hulle byna altyd die GPU-huur. Dit is die nommer wat as ’n heffing op ’n kaart verskyn, so dit is die een wat werklik voel. Dit is ook, met ’n wye marge, die kleinste van die vier nommers wat besluit wat ’n werkende beleid jou werklik kos.

Opleidingstye hieronder kom van die vyf modelle se eie referate en bewaarplekke, hardewarekoste van die gepubliseerde materiaallys, platformnommers van die AY-Robots beleidskatalogus en prysberekeningsbladsy. Waar die platform nie help nie, sê hierdie artikel so.

Wat 'n GPU-uur werklik op die spotmark kos

Daar is geen enkele prys vir 'n A100-uur nie. Op 'n markplek soos vast.ai stel elke gasheer sy eie tarief, en die opleidingslopie wat jy begin, land op watter masjien ook al goedkoop en vry is op daardie sekonde. Die eerlike antwoord is 'n verspreiding. Hier is dit, gemeet op 23 Augustus 2026 om 13:44 UTC: enkele volle kaarte, op aanvraag, gefiltreer volgens werklike VRAM.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Hoekom die 3B modelle nie die goedkoop kaart kan gebruik nie

'n 4090-uur en 'n H100 80 GB-uur verskil rofweg ses keer by die bogenoemde mediane. Wat jou na die duur kaart dwing, is nie spoed nie, dit is geheue. openpi stel die minimum vir 'n volle Pi0.5 fyninstelling op 70 GB, en NVIDIA beveel 40 GB of meer aan vir GR00T. Let op wat die GR00T-nommer nie is nie. Sy fyninstelling-konfigurasie vries die taalmodel en die visuele enkodeerder by verstek (tune_llm en tune_visual is Vals, die projektor en die diffusiekop Waar), en dit is hoekom die katalogus rofweg 40 M opgeleide parameters uit 3 B lys. Die 40 GB is nie optimiseerderstaat vir 3 B gewigte nie, dit is die bevrore ruggraat plus aktiverings. Variante met verminderde omvang daal laer: openpi se LoRA-pad benodig 22.5 GB en noem die 4090, en NVIDIA se Isaac Lab Arena-werkvloei lys 'n 24 GB enkel-GPU-opsie vir GR00T na-opleiding. Die platform rangskik volgens die minimum wat elke verskaffer publiseer vir die konfigurasie wat dit werklik gebruik. Die pi0 vloeipas-verslag verduidelik waar daardie vloeipas-voetspoor vandaan kom.

Daardie tabel is hoekom die platform die vyf modelle in twee vlakke verdeel. GR00T N1.7, GR00T N1.5 en Pi0.5 gebruik A100 80 GB of H100 omdat dit is wat die verskaffers benodig. SmolVLA en ACT gebruik 'n RTX 4090 of enige 24 GB kaart omdat dit werklik genoeg is.

Hoe lank elk van die vyf modelle werklik loop

Looptyd is die ander helfte van die koste: 2.00 USD per uur is irrelevant as die taak 40 minute is en rampspoedig as dit 40 uur is. Dit is die verstekwaardes wat AY-Robots werklik na die afrigter stuur, met die loopvenster en koste vir elke vlak.

Waar daardie loopvensters stroomop vandaan kom

• SmolVLA: die lerobot-dokumentasie meld dat 20,000 stappe ongeveer 4 uur neem op 'n enkele A100. Die platform voer dieselfde 20,000 stappe uit op die goedkoper 24 GB-vlak, vandaar 'n venster eerder as 'n vaste 4 uur.
• ACT: die oorspronklike ALOHA-artikel rapporteer ongeveer 5 uur op 'n enkele 11 GB RTX 2080 Ti vir 'n 80M-parameter model. 'n 4090 is verskeie generasies nuwer, maar die platform begroot 100,000 stappe, so die venster val op dieselfde plek.
• GR00T: NVIDIA se verwysingswerkvloei vir die N1.6-generasie noem ongeveer 4 tot 8 uur vir 20,000 stappe teen bondel 24 op agt L40S-kaarte, en 2 tot 3 uur vir 30,000 stappe teen bondel 16 op 'n enkele Ada 6000. Enkelkaart-fyninstelling van 'n 3B VLA in 'n paar uur is normaal, nie optimisties nie.
• Pi0.5: openpi publiseer geen werklike tydsyfer nie, maar dit publiseer wel die 70 GB-vloer vir 'n volledige fyninstelling, wat die kaart en dus die tempo vaspen.

Dit is die moeite werd om stil te staan by die getal wat jy nie betaal nie. Die GR00T N1-artikel rapporteer ongeveer 50,000 H100 GPU-ure om die 2.2B-model voor te lei, op 'n groep van tot 1024 GPU's, teen 'n voorleidingsbondelgrootte van 16,384 vir 200,000 gradiëntstappe. Teen die 1.34 tot 2.34 USD per uur hierbo gemeet, is dit in die orde van 67,000 tot 117,000 USD aan gehuurde rekenkrag. Die SmolVLA-artikel plaas sy projek op ongeveer 30,000 GPU-ure oor 481 gemeenskapsdataskemas, 22.9K episodes en 10.6M rame. Jy erf dit alles vir die prys van 'n aflaai; jou 8 USD koop die laaste 20,000 stappe. Hoekom VLA's so gebou word dek daardie verdeling.

Die arm: 'n eenmalige koste wat die GPU-rekening verdwerg

’n Opleidingsessie kos minder as middagete. Die robot doen nie. Dit is hoekom die SO-100 saak maak: dit is die goedkoopste arm wat die hele nabootsingsleer gereedskapsketting werklik ondersteun.

Die stroomop-materiaalstaat in die SO-ARM100-bewaarplek is meer gedetailleerd en die moeite werd om teen jou streek na te gaan: die Onderdele Vir Twee Arms lys beloop 229.88 USD of 226.30 EUR vir 'n leier-plus-volger-opstelling, en die Onderdele vir Een Volgerarm lys beloop 121.94 USD of 124.30 EUR. Ses STS3215-servo's teen 13.89 USD elk is 83.34 van daardie 121.94, so die servo's is die arm. Teen 1 tot 3 USD per SmolVLA- of ACT-sessie is een paar arms tussen 77 en 230 opleidingsessies werd. As jy nog besig is om te kies, SO-100 teenoor SO-101 is die vergelyking wat saak maak, want die twee is naby genoeg dat die besluit oor beskikbaarheid eerder as vermoë gaan.

Mense-ure: die reël wat niemand in die sigblad plaas nie

Dit is die getal wat die kostebespreking onderstebo keer. Die opname van demonstrasies is 'n persoon wat 'n robotarm beweeg, een episode op 'n slag, in reële tyd. Daar is geen groepering daarvan nie en geen huur daarvan per sekonde nie. Die LeRobot datastel, opnemer word gestuur met verstekwaardes wat die rekenkunde maklik maak, al drie bevestig in DatasetRecordConfig: 60 sekondes per episode, 60 sekondes om die toneel terug te stel, 50 episodes. Die geldsyfer hieronder aanvaar 15 USD vir 'n uur van iemand se tyd, wat 'n aanname is eerder as 'n platformgetal. Vervang jou eie tarief; die verhouding is die punt.

1. 1
   Neem die datastel op met die verstekwaardes waarvoor jy werklik gefaktureer sal word

   Dit is lerobot 0.6.1, die weergawe op PyPI vanaf 3 Augustus 2026. Let op die CLI-vorm: opname loop deur die lerobot-record konsole-ingangspunt (lerobot.scripts.lerobot_record), nie die ou python -m lerobot.scripts.record modulepad nie. AY-Robots teiken 0.5.1, en die 0.5.1 wiel verklaar dieselfde lerobot-record en lerobot-train ingangspunte, so die vorm hieronder is stabiel oor beide. Die drie tydsberekeningvlae is die stroomop verstekwaardes, so dit is ook die opdrag wat die rekenkunde in die volgende tabel aanvaar.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Kyk na wat jy opgeneem het voordat jy 'n enkele GPU-minuut huur

   Die inspeksie van 'n datastel kos nul USD per uur. Om dieselfde probleem uit 'n verlieskurwe te ontdek, kos 2.00 USD per uur op die H100-vlak en vertel jou vier uur te laat. Laai die datastel op en skrop dit in die LeRobot-kyker, of blaai deur die AY-Robots datastelgids.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Lei op, en maak seker die kontrolepunt oorleef die pod

   ’n Gehuurde masjien is per definisie tydelik, so skryf kontrolepunte êrens duursaam tydens die loop. Twee vlae besluit of jy hou waarvoor jy betaal het. --save_freq is verstek op 20,000 stappe, so 'n verstek 20,000-stap SmolVLA-loop skryf sy eerste kontrolepunt wanneer die loop reeds verby is; verlaag dit voordat jy iets onderbreekbaar huur. --save_checkpoint_to_hub vereis --policy.repo_id en bestaan nie in lerobot 0.5.1 nie, so op daardie weergawe kopieer jy self die uitvoergids van die masjien af. Die bondelgrootte hieronder is die stroomop dokument se voorbeeld; die AY-Robots vorm stuur 2 vir SmolVLA en skryf na objekberging soos kontrolepunte verskyn.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Vergelyk die regterkolom met die 1 tot 12 USD wat die loop kos. Teen daardie veronderstelde koers kos 'n 50-episode datastel twee tot sewe keer soveel om op te neem as wat dit kos om op te lei, voor kalibrasie, kamera-opstelling en die episodes wat jy weggooi. Dit is hoekom 'n direkte dollarwaarde het. Die LeRobot-gids stel ten minste 50 episodes voor met 10 per objekligging; die SmolVLA-dokumente rapporteer dat 'n 25-episode weergawe van dieselfde taak nie genoeg was nie.

Waar die geld werklik verlore raak

1. Lopies op data wat nooit sou werk nie

'n 20,000-stap GR00T-loop op 'n datastel met twee omgeruilde kamerastrome kos dieselfde as een op 'n skoon datastel, neem dieselfde tyd, en produseer 'n verlieskurwe wat goed lyk. Die mislukking verskyn ure later op die arm. word per uur gefaktureer en diagnose word in dae gefaktureer. Twee simptome wat die moeite werd is om te onthou: beteken gewoonlik dat die waarnemings nie dra wat die taak benodig nie, en beteken dat die datastel minder variasie gehad het as wat jy gedink het.

2. Betaal grondslagmodelpryse vir 'n vastekamera-taak

ACT is ongeveer 80M parameters en is ontwerp om van nuuts af te oefen op 50 demonstrasies van een taak. GR00T N1.7 is ongeveer 3B met 'n vooraf-opgeleide ruggraat. Vir 'n vasgeboude kamera, 'n vaste tafel en een voorwerp, bereik die 80M-model dit gereeld, loop teen ongeveer 20 ms per aksiestap in plaas van 152 ms, en kos 1 tot 3 USD per lopie in plaas van 4 tot 12. Spandeer 3 USD om uit te vind of die goedkoop model werk voordat jy 12 USD op die duur een spandeer. ACT teen SmolVLA en GR00T N1.7 teen Pi0.5 wys waar elkeen ophou om die regte antwoord te wees; die modelarena het 85 modelle en 332 maatstafresultate.

3. Die GPU wat jy vergeet het

Die goedkoopste fout om te voorkom en die algemeenste een om te maak. 'n Instansie wat op 'n Vrydag begin is om iets te ontfout, word oor die naweek teen dieselfde tarief as 'n regte lopie gefaktureer.

Op AY-Robots is hierdie fout uitgeskakel vir inferensie: pods wat deur die inferensie API voorsien word, het 'n ledige waghond en vernietig hulself na 'n ledige tydperk. As jy die kaart self huur, is daardie waghond jou kalenderherinnering.

4. Twee keer betaal vir dieselfde antwoord

GR00T se fyninstelling-toegangspunt is 'n tyro CLI wat geen saad blootstel nie. Dit is nie 'n platformbeperking nie, dit is die stroomop-instrument: daar is geen saadveld in gr00t/configs/finetune_config.py, en die bewaarplek se eie opleidingswenke waarsku dat lopies met 5 tot 6 persent verskil omdat die beeldversterkings nie-deterministies is. lerobot stel standaard saad 1000 in beide 0.5.1 en 0.6.1, sodat ACT, SmolVLA en Pi0.5 lopies ten minste herhaal kan word vanaf dieselfde inisialisering en data-volgorde. Dit is nie 'n belofte van bit-identiese gewigte op 'n GPU nie, maar dit is die verskil tussen 'n herhaling en 'n nuwe eksperiment. As 'n GR00T-lopie 'n beleid lewer wat werk en jy het nie die kontrolepunt, betaal jy volle prys vir 'n resultaat wat meer kan verskil as die verskil wat jy nagejaag het. Daar is 'n tweede manier om 'n kontrolepunt te verloor waarvoor jy betaal het: die CLI stel standaard --save-total-limit 5, gedokumenteer as die maksimum aantal kontrolepunte wat gehou word voordat ouer ones uitgevee word. Berging is sente; 'n herhaling is 4 tot 12 USD en ses uur.

Dit self doen teenoor die platform die kaart laat huur

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Wat die platform hef en hoe dit die kaart kies

Die logika is doelbewus vervelig. Elke model in die katalogus verklaar 'n GPU-vlak; die agterkant neem die vereiste VRAM en huur 'n bypassende kaart op dieselfde spotmark wat hierbo gemeet is. Dit is hoekom die aangehaalde koste 'n reeks is, nie 'n prys nie. GR00T en Pi0.5 is hier slegs wolk-gebaseerd as gevolg van die 40 GB en 70 GB minimums. SmolVLA en ACT loop ook plaaslik op jou eie 24 GB kaart, waar die wolk-koste nul is en die elektrisiteit jou probleem is.

Een instelling verdien 'n waarskuwing. Gradiëntakkumulasie is werklik van toepassing vir beide GR00T-variante, so om dit te verhoog koop 'n groter effektiewe bondel op dieselfde kaart. Vir Pi0.5 en SmolVLA is dit glad nie van toepassing nie: lerobot 0.5.1 het geen gradiëntakkumulasie-opsie in sy opleidingskonfigurasie nie, so om die veld op 16 te stel kos niks en koop niks. As 'n tougestelde taak nooit begin nie, die vas-in-tou-bladsy dek wat om na te gaan; as die datastel verwerp word voordat die lopie begin, is dit byna altyd die v3.0 formaatprobleem.

’n Uitgewerkte begroting vir ’n eerste werkende beleid

Al vier lyne saam, beginnende van niks. Die GPU-totaal aanvaar 3 tot 5 lopies: die eerste bewys die pyplyn werk, die tweede ontbloot ’n dataprobem, die derde of vierde is die een wat jy hou.

Die patroon geld vir hierdie grootte robot: rekenkrag is 'n afrondingsfout, hardeware is 'n werklike eenmalige koste, menslike ure is die herhalende uitgawe. Om die opleidingshelfte te toets voordat jy enigiets koop, laat jou modelle vergelyk en 'n GPU huur sonder 'n arm, en is 'n fisiese SO-100 wat jy in die blaaier kan bestuur sonder registrasie. Vir die hele pyplyn van begin tot einde, dek die opstelling, en opleiding, en is die kort weergawe.