Costul Antrenamentului VLA: Cât Costă cu Adevărat o Rulare de Fine-Tuning

Factura are patru linii, iar GPU-ul este cea mai mică

Când oamenii întreabă cât costă să ajustezi fin un model viziune-limbaj-acțiune pentru un SO-100, aproape întotdeauna se referă la închirierea GPU-ului. Acesta este numărul care apare ca o taxă pe un card, deci este cel care pare real. Este, de asemenea, la o marjă largă, cel mai mic dintre cele patru numere care decid cât costă de fapt o politică funcțională.

Timpii de antrenament de mai jos provin din documentele și depozitele proprii ale celor cinci modele, costul hardware din lista de materiale publicată, numerele platformei de la AY-Robots catalogul de politici și pagina de prețuri. Acolo unde platforma nu ajută, acest articol o menționează.

Cât costă de fapt o oră de GPU pe piața spot

Nu există un preț unic pentru o oră de A100. Pe o piață precum vast.ai, fiecare gazdă își stabilește propria rată, iar rula de antrenament pe care o lansați ajunge pe orice mașină este ieftină și disponibilă în acel moment. Răspunsul sincer este o distribuție. Iată-l, măsurat pe 23 august 2026 la 13:44 UTC: plăci complete individuale, la cerere, filtrate după VRAM real.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

De ce modelele 3B nu pot folosi placa ieftină

O oră de 4090 și o oră de H100 80 GB diferă de aproximativ șase ori la mediile de mai sus. Ceea ce te forțează să folosești placa scumpă nu este viteza, ci memoria. openpi stabilește un minim pentru un Pi0.5 complet fine-tune la 70 GB, iar NVIDIA recomandă 40 GB sau mai mult pentru GR00T. Rețineți ce nu este numărul GR00T. Configurația sa de fine-tune îngheață modelul lingvistic și encoderul vizual implicit (tune_llm și tune_visual sunt False, iar proiectorul și capul de difuzie True), motiv pentru care catalogul listează aproximativ 40 M parametri antrenați din 3 B. Cei 40 GB nu reprezintă starea optimizatorului pentru 3 B ponderi, ci backbone-ul înghețat plus activările. Variantele cu scop redus necesită mai puțin: calea LoRA a openpi necesită 22.5 GB și menționează 4090, iar fluxul de lucru Isaac Lab Arena de la NVIDIA listează o opțiune cu un singur GPU de 24 GB pentru post-antrenarea GR00T. Platforma se bazează pe cerințele minime pe care fiecare furnizor le publică pentru configurația pe care o rulează efectiv. Articolul despre flow-matching al pi0 explică de unde provine acea flow-matching amprentă.

Acest tabel explică de ce platforma împarte cele cinci modele în două niveluri. GR00T N1.7, GR00T N1.5 și Pi0.5 rulează pe A100 80 GB sau H100, deoarece asta cer furnizorii. SmolVLA și ACT rulează pe un RTX 4090 sau orice placă de 24 GB, deoarece asta este suficient.

Cât timp rulează efectiv fiecare dintre cele cinci modele

Timpul de rulare este cealaltă jumătate a costului: 2.00 USD pe oră este irelevant dacă sarcina durează 40 de minute și ruinător dacă durează 40 de ore. Acestea sunt valorile implicite pe care AY-Robots le trimite antrenorului, împreună cu fereastra de rulare și costul pentru fiecare nivel.

De unde provin acele ferestre de execuție din amonte

• SmolVLA: documentația lerobot afirmă că 20,000 de pași durează aproximativ 4 ore pe un singur A100. Platforma rulează aceiași 20,000 de pași pe nivelul mai ieftin de 24 GB, de unde o fereastră în loc de 4 ore fixe.
• ACT: lucrarea originală ALOHA raportează aproximativ 5 ore pe un singur 11 GB RTX 2080 Ti pentru un model cu 80M de parametri. Un 4090 este cu câteva generații mai nou, dar platforma alocă 100,000 de pași, astfel încât fereastra se încadrează în același loc.
• GR00T: fluxul de lucru de referință NVIDIA pentru generația N1.6 citează aproximativ 4 până la 8 ore pentru 20,000 de pași la batch 24 pe opt plăci L40S, și 2 până la 3 ore pentru 30,000 de pași la batch 16 pe o singură Ada 6000. Ajustarea fină a unui VLA de 3B pe o singură placă în câteva ore este normală, nu optimistă.
• Pi0.5: openpi nu publică nicio cifră de timp real, dar publică pragul de 70 GB pentru o ajustare fină completă, ceea ce fixează placa și, prin urmare, rata.

Merită să ne oprim asupra numărului pe care nu îl plătiți. Lucrarea GR00T N1 raportează aproximativ 50,000 de ore GPU H100 pentru a preantrena modelul 2.2B, pe un cluster de până la 1024 de GPU-uri, la o dimensiune a batch-ului de preantrenare de 16,384 pentru 200,000 de pași de gradient. La 1.34 până la 2.34 USD pe oră, măsurat mai sus, aceasta înseamnă aproximativ 67,000 până la 117,000 USD de putere de calcul închiriată. Lucrarea SmolVLA estimează proiectul său la aproximativ 30,000 de ore GPU pe 481 de seturi de date comunitare, 22.9K episoade și 10.6M cadre. Moșteniți toate acestea la prețul unei descărcări; cei 8 USD ai dumneavoastră cumpără ultimii 20,000 de pași. De ce sunt construite astfel VLA-urile acoperă această diviziune.

Brațul: un cost unic care eclipsează factura GPU

O rulare de antrenament costă mai puțin decât prânzul. Robotul nu. De aceea SO-100 contează: este cel mai ieftin braț pe care îl suportă de fapt întregul învățare prin imitație set de instrumente.

Lista de materiale din depozitul SO-ARM100 este mai granulară și merită verificată în funcție de regiunea dumneavoastră: lista sa Piese pentru două brațe totalizează 229.88 USD sau 226.30 EUR pentru o configurație lider plus urmăritor, iar lista sa Piese pentru un braț urmăritor totalizează 121.94 USD sau 124.30 EUR. Șase servomotoare STS3215 la 13.89 USD fiecare reprezintă 83.34 din cei 121.94, deci servomotoarele sunt brațul. La 1 până la 3 USD per rulare SmolVLA sau ACT, o pereche de brațe valorează între 77 și 230 de rulări de antrenament. Dacă încă alegeți, SO-100 versus SO-101 este comparația care contează, deoarece cele două sunt suficient de apropiate încât decizia se referă la disponibilitate, mai degrabă decât la capacitate.

Ore umane: rândul pe care nimeni nu-l include în foaia de calcul

Acesta este numărul care răstoarnă discuția despre costuri. Înregistrarea demonstrațiilor înseamnă o persoană care mișcă un braț robotic, câte un episod pe rând, în timp real. Nu există procesare în loturi și nici închiriere la secundă. Înregistratorul setul de date LeRobot vine cu setări implicite care simplifică aritmetica, toate trei confirmate în DatasetRecordConfig: 60 de secunde per episod, 60 de secunde pentru a reseta scena, 50 de episoade. Coloana de costuri de mai jos presupune 15 USD pentru o oră de muncă a unei persoane, ceea ce este o presupunere, nu o valoare a platformei. Înlocuiți cu propria rată; raportul este esențial.

1. 1
   Înregistrați setul de date cu setările implicite pentru care veți fi de fapt facturat

   Aceasta este lerobot 0.6.1, versiunea de pe PyPI începând cu 3 august 2026. Rețineți forma CLI: înregistrarea se realizează prin punctul de intrare al consolei lerobot-record (lerobot.scripts.lerobot_record), nu prin vechea cale a modulului python -m lerobot.scripts.record. AY-Robots vizează 0.5.1, iar pachetul 0.5.1 declară aceleași puncte de intrare lerobot-record și lerobot-train, deci forma de mai jos este stabilă pentru ambele. Cele trei flag-uri de temporizare sunt setările implicite upstream, deci aceasta este și comanda pe care o presupune aritmetica din tabelul următor.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Verificați ce ați înregistrat înainte de a închiria un singur minut de GPU

   Inspectarea unui set de date costă zero USD pe oră. Descoperirea aceleiași probleme dintr-o curbă de pierdere costă 2.00 USD pe oră pe nivelul H100 și vă anunță cu patru ore întârziere. Încărcați setul de date și examinați-l în vizualizatorul LeRobot, sau navigați în directorul de seturi de date AY-Robots.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Antrenați și asigurați-vă că punctul de control supraviețuiește pod-ului

   O mașină închiriată este temporară prin definiție, așa că scrieți punctele de control undeva durabil în timpul rulării. Două flag-uri decid dacă păstrați ceea ce ați plătit. --save_freq are o valoare implicită de 20.000 de pași, deci o rulare SmolVLA implicită de 20.000 de pași scrie primul său punct de control când rularea este deja terminată; reduceți-l înainte de a închiria ceva întreruptibil. --save_checkpoint_to_hub necesită --policy.repo_id și nu există în lerobot 0.5.1, deci pe acea versiune copiați singur directorul de ieșire de pe mașină. Dimensiunea lotului de mai jos este exemplul din documentația upstream; formularul AY-Robots trimite 2 pentru SmolVLA și scrie în stocarea de obiecte pe măsură ce apar punctele de control.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Comparați coloana din dreapta cu costurile de rulare de 1 până la 12 USD. La această rată estimată, un set de date de 50 de episoade costă de două până la șapte ori mai mult pentru a fi înregistrat decât pentru a fi antrenat, înainte de calibrare, configurarea camerei și episoadele pe care le aruncați. De aceea are o valoare monetară directă. Ghidul lerobot sugerează cel puțin 50 de episoade cu 10 pe locație de obiect; documentația SmolVLA raportează că o versiune de 25 de episoade a aceleiași sarcini nu a fost suficientă.

Unde dispar de fapt banii

1. Rulări pe date care nu ar fi funcționat niciodată

O rulare GR00T de 20.000 de pași pe un set de date cu două fluxuri de cameră inversate costă la fel ca una pe un set de date curat, durează același timp și produce o curbă de pierdere care arată bine. Eșecul apare pe braț, ore mai târziu. sunt facturate la oră, iar diagnosticul este facturat în zile. Două simptome demne de reținut: înseamnă de obicei că observațiile nu conțin ceea ce este necesar pentru sarcină, și înseamnă că setul de date a avut mai puțină variație decât ați crezut.

2. Plătirea prețurilor de model fundamental pentru o sarcină cu cameră fixă

ACT are aproximativ 80M de parametri și a fost proiectat să se antreneze de la zero pe 50 de demonstrații ale unei singure sarcini. GR00T N1.7 are aproximativ 3B de parametri cu un backbone pre-antrenat. Pentru o cameră fixată, o masă fixă și un singur obiect, modelul de 80M ajunge frecvent la rezultat, rulează la aproximativ 20 ms per pas de acțiune în loc de 152 ms și costă 1 până la 3 USD per rulare în loc de 4 până la 12. Cheltuiți 3 USD pentru a afla dacă modelul ieftin funcționează înainte de a cheltui 12 USD pe cel scump. ACT versus SmolVLA și GR00T N1.7 versus Pi0.5 arată unde fiecare încetează să mai fie răspunsul corect; arena de modele are 85 de modele și 332 de rezultate de benchmark.

3. GPU-ul pe care l-ați uitat

Cea mai ieftină greșeală de prevenit și cea mai comună de făcut. O instanță pornită vineri pentru a depana ceva facturează pe tot parcursul weekendului la aceeași rată ca o rulare reală.

Pe AY-Robots, această eroare este eliminată pentru inferență: podurile provizionate de API-ul de inferență conțin un watchdog de inactivitate și se autodistrug după o perioadă de inactivitate. Dacă închiriați singur placa, acel watchdog este memento-ul dvs. din calendar.

4. Plătind de două ori pentru același răspuns

Punctul de intrare pentru fine-tuning al GR00T este un CLI tyro care nu expune nicio valoare seed. Aceasta nu este o limitare a platformei, ci a instrumentului upstream: nu există un câmp seed în gr00t/configs/finetune_config.py, iar sfaturile de antrenament ale depozitului avertizează că rulările variază cu 5 până la 6 procente deoarece augmentările de imagine sunt non-deterministice. lerobot utilizează implicit seed 1000 atât în 0.5.1, cât și în 0.6.1, astfel încât rulările ACT, SmolVLA și Pi0.5 pot fi cel puțin reluate de la aceeași inițializare și ordine a datelor. Aceasta nu este o promisiune de ponderi identice la nivel de bit pe un GPU, dar este diferența dintre o reluare și un nou experiment. Dacă o rulare GR00T produce o politică funcțională și nu ați păstrat checkpoint-ul, plătiți prețul integral pentru un rezultat care poate diferi cu mai mult decât diferența pe care o urmăreați. Există o a doua modalitate de a pierde un checkpoint pentru care ați plătit: CLI-ul utilizează implicit --save-total-limit 5, documentat ca numărul maxim de checkpoint-uri păstrate înainte ca cele mai vechi să fie șterse. Stocarea costă cenți; o reluare costă între 4 și 12 USD și șase ore.

A face singur versus a lăsa platforma să închirieze placa

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Ce taxează platforma și cum alege placa

Logica este în mod deliberat plictisitoare. Fiecare model din catalog, declară un nivel de GPU; backend-ul preia VRAM-ul necesar și închiriază o placă potrivită pe aceeași piață spot măsurată mai sus. De aceea costul cotat este o plajă, nu un preț. GR00T și Pi0.5 sunt disponibile doar în cloud aici din cauza limitelor inferioare de 40 GB și 70 GB. SmolVLA și ACT rulează și local pe propria placă de 24 GB, unde costul cloud este zero și electricitatea este problema dumneavoastră.

O setare merită o avertizare. Acumularea de gradient se aplică într-adevăr pentru ambele variante GR00T, astfel încât creșterea acesteia cumpără un batch efectiv mai mare pe aceeași placă. Pentru Pi0.5 și SmolVLA nu se aplică deloc: lerobot 0.5.1 nu are o opțiune de acumulare de gradient în configurația sa de antrenament, deci setarea câmpului la 16 nu costă nimic și nu aduce nimic. Dacă o sarcină în așteptare nu pornește niciodată, pagina despre blocarea în coadă acoperă ce trebuie verificat; dacă setul de date este respins înainte de începerea rulării, este aproape întotdeauna problema formatului v3.0.

Un buget detaliat pentru o primă politică funcțională

Toate cele patru linii împreună, pornind de la zero. Totalul GPU presupune 3 până la 5 rulări: prima dovedește că pipeline-ul funcționează, a doua expune o problemă de date, a treia sau a patra este cea pe care o păstrați.

Modelul se menține la această dimensiune de robot: calculul este o eroare de rotunjire, hardware-ul este un cost real unic, orele umane sunt cheltuiala recurentă. Pentru a testa jumătatea de antrenament înainte de a cumpăra ceva, vă permit să comparați modele și să închiriați un GPU fără un braț, iar este un SO-100 fizic pe care îl puteți controla în browser fără înregistrare. Pentru întregul flux de lucru cap la coadă, acoperă configurarea, și antrenamentul, iar este versiunea scurtă.