Trošak treniranja VLA: Koliko zapravo košta jedno fino podešavanje

Račun ima četiri stavke, a GPU je najmanja

Kada ljudi pitaju koliko košta fino podešavanje model vizualno-jezične akcije za SO-100, gotovo uvijek misle na najam GPU-a. To je broj koji se prikazuje kao trošak na kartici, pa se čini stvarnim. Također je, s velikom razlikom, najmanji od četiri broja koji određuju koliko vas zapravo košta funkcionalna politika .

Vremena treniranja u nastavku potječu iz vlastitih radova i repozitorija pet modela, troškovi hardvera iz objavljenog popisa materijala, brojke platforme iz AY-Robots katalog pravila i stranice s cijenama. Tamo gdje platforma ne pomaže, ovaj članak to navodi.

Koliko zapravo košta GPU sat na spot tržištu

Ne postoji jedinstvena cijena za A100 sat. Na tržištu poput vast.ai svaki domaćin postavlja vlastitu cijenu, a pokretanje treniranja koje pokrenete slijeće na bilo koji stroj koji je jeftin i slobodan u tom trenutku. Iskren odgovor je distribucija. Evo je, izmjerena 23. kolovoza 2026. u 13:44 UTC: pojedinačne pune kartice, na zahtjev, filtrirane prema stvarnom VRAM-u.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Zašto 3B modeli ne mogu koristiti jeftinu karticu

Sat rada na 4090 i sat rada na H100 80 GB razlikuju se otprilike šest puta prema gornjim medijanima. Ono što vas tjera na skupu karticu nije brzina, već memorija. openpi postavlja donju granicu za potpuno Pi0.5 fino podešavanje na 70 GB, a NVIDIA preporučuje 40 GB ili više za GR00T. Imajte na umu što GR00T broj nije. Njegova konfiguracija finog podešavanja zamrzava jezični model i vizualni enkoder prema zadanim postavkama (tune_llm i tune_visual su False, projektor i difuzijska glava True), zbog čega katalog navodi otprilike 40 M obučenih parametara od 3 B. 40 GB nije stanje optimizatora za 3 B težine, već zamrznuta okosnica plus aktivacije. Varijante smanjenog opsega zahtijevaju manje: openpi-jev LoRA put traži 22.5 GB i spominje 4090, a NVIDIA-in Isaac Lab Arena radni tijek navodi opciju jedne GPU kartice od 24 GB za GR00T nakon obuke. Platforma se temelji na donjoj granici koju svaki dobavljač objavljuje za konfiguraciju koju stvarno pokreće. Opis pi0 flow-matchinga objašnjava odakle dolazi taj flow-matching otisak.

Ta tablica objašnjava zašto platforma dijeli pet modela u dva sloja. GR00T N1.7, GR00T N1.5 i Pi0.5 idu na A100 80 GB ili H100 jer to traže dobavljači. SmolVLA i ACT idu na RTX 4090 ili bilo koju karticu od 24 GB jer je to zaista dovoljno.

Koliko dugo svaki od pet modela zapravo radi

Vrijeme izvođenja je druga polovica troška: 2.00 USD po satu je nebitno ako posao traje 40 minuta, a pogubno ako traje 40 sati. Ovo su zadane postavke koje AY-Robots šalje treneru, s prozorom izvođenja i troškom za svaku razinu.

Odakle dolaze ti vremenski okviri izvođenja iz uzvodnog toka

• SmolVLA: dokumentacija lerobota navodi da 20.000 koraka traje otprilike 4 sata na jednom A100. Platforma izvodi istih 20.000 koraka na jeftinijoj razini od 24 GB, stoga je to vremenski okvir, a ne fiksna 4 sata.
• ACT: izvorni ALOHA rad izvještava o oko 5 sati na jednoj 11 GB RTX 2080 Ti kartici za model s 80M parametara. 4090 je nekoliko generacija novija, ali platforma predviđa 100.000 koraka, tako da se vremenski okvir nalazi na istom mjestu.
• GR00T: NVIDIA-in referentni radni tijek za generaciju N1.6 navodi otprilike 4 do 8 sati za 20.000 koraka s batch veličinom 24 na osam L40S kartica, te 2 do 3 sata za 30.000 koraka s batch veličinom 16 na jednoj Ada 6000. Fino podešavanje 3B VLA modela na jednoj kartici u nekoliko sati je normalno, a ne optimistično.
• Pi0.5: openpi ne objavljuje podatke o stvarnom vremenu, ali objavljuje minimalnih 70 GB za potpuno fino podešavanje, što određuje karticu, a time i brzinu.

Vrijedi se zaustaviti na broju koji ne plaćate. GR00T N1 rad izvještava o otprilike 50.000 H100 GPU sati za predtreniranje 2.2B modela, na klasteru do 1024 GPU-a, s batch veličinom predtreniranja od 16.384 za 200.000 gradijentnih koraka. Po cijeni od 1.34 do 2.34 USD po satu, izmjerenoj gore, to je reda veličine 67.000 do 117.000 USD unajmljenog računalstva. SmolVLA rad procjenjuje svoj projekt na približno 30.000 GPU sati kroz 481 skup podataka zajednice, 22.9K epizoda i 10.6M sličica. Sve to nasljeđujete po cijeni preuzimanja; vaših 8 USD kupuje zadnjih 20.000 koraka. Zašto su VLA-ovi izgrađeni na ovaj način pokriva tu podjelu.

Ruka: jednokratni trošak koji zasjenjuje račun za GPU

Jedno pokretanje treninga košta manje od ručka. Robot ne. Zato je SO-100 važan: to je najjeftinija ruka koju cijeli učenje imitacijom alatni lanac zapravo podržava.

Popis materijala u repozitoriju SO-ARM100 je detaljniji i vrijedi ga provjeriti s obzirom na vašu regiju: njegov popis Dijelovi za dvije ruke iznosi ukupno 229.88 USD ili 226.30 EUR za postavku vođe i sljedbenika, a njegov popis Dijelovi za jednu ruku sljedbenika iznosi ukupno 121.94 USD ili 124.30 EUR. Šest STS3215 servomotora po 13.89 USD svaki čine 83.34 od tih 121.94, tako da su servomotori ruka. Po cijeni od 1 do 3 USD po pokretanju SmolVLA ili ACT, jedan par ruku vrijedi između 77 i 230 pokretanja treninga. Ako još uvijek birate, SO-100 protiv SO-101 je usporedba koja je važna, jer su ova dva modela dovoljno slična da se odluka svodi na dostupnost, a ne na sposobnost.

Ljudski sati: stavka koju nitko ne stavlja u proračunsku tablicu

Ovo je broj koji preokreće raspravu o troškovima. Snimanje demonstracija je osoba koja pomiče robotsku ruku, jednu epizodu za drugom, u stvarnom vremenu. Nema grupnog snimanja niti iznajmljivanja po sekundi. LeRobot skup podataka snimač dolazi s zadanim postavkama koje olakšavaju izračun, sve tri potvrđene u DatasetRecordConfig: 60 sekundi po epizodi, 60 sekundi za resetiranje scene, 50 epizoda. Stupac s novcem ispod pretpostavlja 15 USD za sat vremena nečijeg rada, što je pretpostavka, a ne broj platforme. Zamijenite vlastitom stopom; omjer je bitan.

1. 1
   Snimite skup podataka s zadanim postavkama koje će vam stvarno biti naplaćene

   Ovo je lerobot 0.6.1, verzija na PyPI-ju od 3. kolovoza 2026. Obratite pažnju na oblik CLI-ja: snimanje se pokreće putem ulazne točke konzole lerobot-record (lerobot.scripts.lerobot_record), a ne starom putanjom modula python -m lerobot.scripts.record. AY-Robots cilja verziju 0.5.1, a 0.5.1 wheel deklarira iste ulazne točke lerobot-record i lerobot-train, tako da je donji oblik stabilan za obje verzije. Tri zastavice za vrijeme su zadane postavke, tako da je ovo također naredba koju pretpostavlja aritmetika u sljedećoj tablici.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Pogledajte što ste snimili prije nego što unajmite i jednu minutu GPU-a

   Pregledavanje skupa podataka košta nula USD po satu. Otkrivanje istog problema iz krivulje gubitka košta 2.00 USD po satu na H100 razini i obavještava vas četiri sata prekasno. Gurnite skup podataka i pregledajte ga u LeRobot pregledniku, ili pregledajte AY-Robots direktorij skupova podataka.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Trenirajte i osigurajte da kontrolna točka nadživi pod

   Unajmljeni stroj je po definiciji privremen, stoga pišite kontrolne točke negdje trajno tijekom izvođenja. Dvije zastavice odlučuju hoćete li zadržati ono što ste platili. --save_freq zadano je 20.000 koraka, tako da zadano pokretanje SmolVLA-e od 20.000 koraka piše svoju prvu kontrolnu točku kada je pokretanje već završeno; smanjite to prije nego što unajmite bilo što prekidivo. --save_checkpoint_to_hub zahtijeva --policy.repo_id i ne postoji u lerobot 0.5.1, tako da na toj verziji sami kopirate izlazni direktorij sa stroja. Veličina serije ispod je primjer iz gornje dokumentacije; AY-Robots obrazac šalje 2 za SmolVLA i piše u objektno skladište kako se pojavljuju kontrolne točke.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Usporedite desni stupac s troškom pokretanja od 1 do 12 USD. Po toj pretpostavljenoj stopi, skup podataka od 50 epizoda košta dva do sedam puta više za snimanje nego za treniranje, prije kalibracije, postavljanja kamere i epizoda koje odbacite. Zato ima izravnu novčanu vrijednost. LeRobot vodič predlaže najmanje 50 epizoda s 10 po lokaciji objekta; SmolVLA dokumentacija izvještava da verzija istog zadatka s 25 epizoda nije bila dovoljna.

Gdje novac zapravo nestaje

1. Pokretanja na podacima koji nikada ne bi funkcionirali

Pokretanje GR00T-a od 20.000 koraka na skupu podataka s dva zamijenjena video streama kamere košta isto kao i na čistom skupu podataka, traje isto vrijeme i proizvodi krivulju gubitka koja izgleda dobro. Kvar se pojavljuje na ruci, satima kasnije. naplaćuju se po satu, a dijagnoza se naplaćuje u danima. Dva simptoma koja vrijedi zapamtiti: obično znači da opažanja ne sadrže ono što zadatak zahtijeva, i znači da je skup podataka imao manje varijacija nego što ste mislili.

2. Plaćanje cijena temeljnog modela za zadatak s fiksnom kamerom

ACT ima otprilike 80M parametara i dizajniran je za treniranje od nule na 50 demonstracija jednog zadatka. GR00T N1.7 ima otprilike 3B s prethodno obučenom okosnicom. Za fiksnu kameru, fiksni stol i jedan objekt, model od 80M često uspijeva, radi brzinom od oko 20 ms po koraku akcije umjesto 152 ms, i košta 1 do 3 USD po pokretanju umjesto 4 do 12. Potrošite 3 USD da biste saznali radi li jeftini model prije nego što potrošite 12 USD na skupi. ACT protiv SmolVLA i GR00T N1.7 protiv Pi0.5 pokazuju gdje svaki prestaje biti pravi odgovor; arena modela ima 85 modela i 332 rezultata benchmarka.

3. GPU na koji ste zaboravili

Najjeftinija pogreška za spriječiti i najčešća za napraviti. Instanca pokrenuta u petak radi otklanjanja pogrešaka naplaćuje se tijekom vikenda po istoj stopi kao i stvarno pokretanje.

Na AY-Robots, ovaj je kvar eliminiran za inferenciju: podovi koje osigurava API za inferenciju nose nadzornik neaktivnosti i uništavaju se nakon razdoblja neaktivnosti. Ako sami unajmite karticu, taj nadzornik je vaš podsjetnik u kalendaru.

4. Plaćanje dvaput za isti odgovor

Ulazna točka za fino podešavanje GR00T-a je tyro CLI koji ne izlaže sjeme. To nije ograničenje platforme, već je to alat uzvodno: nema polja za sjeme u gr00t/configs/finetune_config.py, a savjeti za obuku samog repozitorija upozoravaju da se pokretanja razlikuju za 5 do 6 posto jer su augmentacije slike nedeterminističke. lerobot podrazumijeva sjeme 1000 u verzijama 0.5.1 i 0.6.1, tako da se pokretanja ACT, SmolVLA i Pi0.5 barem mogu ponovno pokrenuti iz iste inicijalizacije i redoslijeda podataka. To nije obećanje bit-identičnih težina na GPU-u, ali je razlika između ponovnog pokretanja i novog eksperimenta. Ako pokretanje GR00T-a proizvede politiku koja radi, a niste zadržali kontrolnu točku, plaćate punu cijenu za rezultat koji se može razlikovati više od razlike koju ste tražili. Postoji drugi način da izgubite kontrolnu točku koju ste platili: CLI podrazumijeva --save-total-limit 5, dokumentirano kao maksimalan broj kontrolnih točaka koje se čuvaju prije nego što se starije izbrišu. Pohrana je centi; ponovno pokretanje je 4 do 12 USD i šest sati.

Samostalno izvođenje nasuprot prepuštanju platformi da unajmi karticu

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Što platforma naplaćuje i kako bira karticu

Logika je namjerno dosadna. Svaki model u katalogu, deklarira razinu GPU-a; pozadinski sustav uzima potrebnu VRAM memoriju i iznajmljuje odgovarajuću karticu na istom spot tržištu mjerenom gore. Zato je navedena cijena raspon, a ne fiksna cijena. GR00T i Pi0.5 su ovdje samo u oblaku zbog minimalnih zahtjeva od 40 GB i 70 GB. SmolVLA i ACT također rade lokalno na vašoj vlastitoj 24 GB kartici, gdje je trošak oblaka nula, a struja vaš problem.

Jedna postavka zaslužuje upozorenje. Akumulacija gradijenta doista se primjenjuje za obje GR00T varijante, pa njezino povećanje omogućuje veći efektivni batch na istoj kartici. Za Pi0.5 i SmolVLA uopće se ne primjenjuje: lerobot 0.5.1 nema opciju akumulacije gradijenta u svojoj konfiguraciji treninga, pa postavljanje polja na 16 ne košta ništa i ne donosi ništa. Ako se posao u redu čekanja nikada ne pokrene, stranica o zaglavljenom poslu u redu čekanja pokriva što treba provjeriti; ako je skup podataka odbijen prije početka pokretanja, to je gotovo uvijek problem s formatom v3.0.

Razrađen proračun za prvu funkcionalnu politiku

Sve četiri linije zajedno, počevši od nule. Ukupni GPU trošak pretpostavlja 3 do 5 pokretanja: prvo dokazuje da cjevovod radi, drugo otkriva problem s podacima, treće ili četvrto je ono koje zadržavate.

Obrazac vrijedi i za ovu veličinu robota: računalna snaga je zanemariva, hardver je stvarni jednokratni trošak, ljudski sati su ponavljajući trošak. Za testiranje dijela za obuku prije kupnje bilo čega, ulazne točke bez hardvera omogućuju vam usporedbu modela i najam GPU-a bez robotske ruke, a robotska ruka uživo je fizički SO-100 kojim možete upravljati u pregledniku bez prijave. Za cijeli proces od početka do kraja, potpuni SO-100 vodič pokriva postavljanje, teleoperaciju i obuku, a obuka vaše prve politike je kratka verzija.