VLA treeningu maksumus: Mida peenhäälestuse käivitus tegelikult maksab

Arvel on neli rida ja GPU on neist väikseim

Kui inimesed küsivad, mida maksab nägemis-keele-tegevuse mudeli peenhäälestamine SO-100 jaoks, mõtlevad nad peaaegu alati GPU renti. See on number, mis ilmub kaardil tasuna, seega tundub see reaalne. See on ka, suure varuga, väikseim neljast numbrist, mis otsustavad, mida töötav poliitika teile tegelikult maksma läheb.

Allpool toodud treeningajad pärinevad viie mudeli enda artiklitest ja repositooriumitest, riistvara maksumus avaldatud materjalide nimekirjast, platvormi numbrid AY-Robotsi poliitikate kataloog ja hinnakirja lehelt. Kui platvorm ei aita, on see artiklis märgitud.

Mida GPU tund tegelikult hetketurul maksab

A100 tunnil ei ole ühtset hinda. Turuplatsil nagu vast.ai määrab iga host oma hinna ja treeningkäivitus, mille käivitate, maandub sellel masinal, mis on sel hetkel odav ja vaba. Aus vastus on jaotus. Siin see on, mõõdetud 23. augustil 2026 kell 13:44 UTC: üksikud täiskaardid, nõudmisel, filtreeritud tegeliku VRAM-i järgi.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Miks 3B mudelid ei saa odavat kaarti kasutada

4090 tunni ja H100 80 GB tunni vahe on ülaltoodud mediaanide järgi ligikaudu kuuekordne. Kallile kaardile sunnib teid mitte kiirus, vaid mälu. openpi seab täieliku Pi0.5 peenhäälestus jaoks alampiiri 70 GB-le ja NVIDIA soovitab GR00T jaoks 40 GB või rohkem. Pange tähele, mida GR00T number ei ole. Selle peenhäälestuse konfiguratsioon külmutab keelemudeli ja visuaalse kodeerija vaikimisi (tune_llm ja tune_visual on False, projektor ja difusioonipea True), mistõttu kataloogis on loetletud ligikaudu 40 miljonit treenitud parameetrit 3 miljardist. 40 GB ei ole optimeerija olek 3 miljardi kaalu jaoks, see on külmutatud selgroog pluss aktivatsioonid. Vähendatud ulatusega variandid langevad madalamale: openpi LoRA tee vajab 22.5 GB ja nimetab 4090, ning NVIDIA Isaac Lab Arena töövoog loetleb GR00T järelkoolituseks 24 GB ühe GPU valiku. Platvormi tasemed põhinevad igal müüjal avaldatud konfiguratsioonil, mida see tegelikult käitab. pi0 voolu sobitamise ülevaade selgitab, kust see voolu sobitamine jalajälg pärineb.

See tabel on põhjus, miks platvorm jagab viis mudelit kaheks tasemeks. GR00T N1.7, GR00T N1.5 ja Pi0.5 kasutavad A100 80 GB või H100, sest seda müüjad nõuavad. SmolVLA ja ACT kasutavad RTX 4090 või mis tahes 24 GB kaarti, sest sellest piisab tõesti.

Kui kaua iga viiest mudelist tegelikult töötab

Tööaeg on teine pool kuludest: 2.00 USD tunnis on ebaoluline, kui töö kestab 40 minutit, ja laastav, kui see kestab 40 tundi. Need on vaikesätted, mida AY-Robots treenerile tegelikult saadab, koos tööakna ja kuludega iga taseme kohta.

Kust need käitusaknad ülesvoolu tulevad

• SmolVLA: lerobot dokumentatsioon väidab, et 20 000 sammu võtab ühel A100-l umbes 4 tundi. Platvorm käitab samu 20 000 sammu odavamal 24 GB tasemel, seega on tegemist aknaga, mitte kindla 4 tunniga.
• ACT: algne ALOHA artikkel teatab umbes 5 tunnist ühel 11 GB RTX 2080 Ti-l 80M-parameetrise mudeli jaoks. 4090 on mitu põlvkonda uuem, kuid platvormi eelarves on 100 000 sammu, nii et aken jääb samasse kohta.
• GR00T: NVIDIA referents-töövoog N1.6 põlvkonnale annab ligikaudu 4 kuni 8 tundi 20 000 sammu jaoks partii suurusega 24 kaheksal L40S kaardil ja 2 kuni 3 tundi 30 000 sammu jaoks partii suurusega 16 ühel Ada 6000-l. Ühe kaardi peenhäälestus 3B VLA-le mõne tunni jooksul on normaalne, mitte optimistlik.
• Pi0.5: openpi ei avalda tegelikku ajakulu, kuid avaldab täieliku peenhäälestuse jaoks 70 GB piiri, mis määrab kaardi ja seega ka kiiruse.

Tasub peatuda numbril, mida te ei maksta. GR00T N1 artikkel teatab ligikaudu 50 000 H100 GPU tunnist 2.2B mudeli eelkoolitamiseks, kuni 1024 GPU-st koosnevas klastris, eelkoolituse partii suurusega 16 384 200 000 gradiendi sammu jaoks. Ülaltoodud mõõdetud 1.34 kuni 2.34 USD tunni kohta on see suurusjärgus 67 000 kuni 117 000 USD renditud arvutusvõimsust. SmolVLA artikkel hindab oma projekti ligikaudu 30 000 GPU tunnile 481 kogukonna andmestiku, 22.9K episoodi ja 10.6M kaadri kohta. Te pärite selle kõik allalaadimise hinnaga; teie 8 USD ostab viimased 20 000 sammu. Miks VLA-d nii ehitatakse käsitleb seda jaotust.

Käsi: ühekordne kulu, mis varjutab GPU arve

Üks treeningkäik maksab vähem kui lõuna. Robot ise mitte. Seepärast ongi SO-100 oluline: see on kõige odavam käsi, mida kogu imitatsioonõpe tööriistakett tegelikult toetab.

SO-ARM100 repositooriumi ülesvoolu materjalide nimekiri on detailsem ja seda tasub oma piirkonnaga võrrelda: selle Osad kahele käele nimekiri on kokku 229.88 USD või 226.30 EUR juhi ja järgija seadistuse jaoks, ning selle Osad ühele järgija käele nimekiri on kokku 121.94 USD või 124.30 EUR. Kuus STS3215 servot hinnaga 13.89 USD tükk moodustavad sellest 121.94-st 83.34, seega servod ongi käsi. Hinnaga 1 kuni 3 USD ühe SmolVLA või ACT käigu kohta on üks paar käsi väärt 77 kuni 230 treeningkäiku. Kui te veel valite, siis SO-100 versus SO-101 on võrdlus, mis loeb, sest need kaks on piisavalt sarnased, et otsus käib pigem saadavuse kui võimekuse kohta.

Inimtunnid: rida, mida keegi tabelisse ei pane

See on number, mis pöörab kulude arutelu pea peale. Demonstratsioonide salvestamine tähendab, et inimene liigutab robotkätt, üks episood korraga, reaalajas. Seda ei saa partiidena töödelda ega sekundite kaupa rentida. LeRoboti andmestik salvesti tarnitakse vaikeseadetega, mis muudavad arvutused lihtsaks, kõik kolm kinnitatud DatasetRecordConfig: 60 sekundit iga episoodi, 60 sekundit stseeni lähtestamiseks, 50 episoodi. Allpool olev raha veerg eeldab 15 USD kellegi tunni aja eest, mis on pigem oletus kui platvormi number. Asendage oma määraga; suhe on oluline.

1. 1
   Salvestage andmestik vaikeseadetega, mille eest teile tegelikult arve esitatakse

   See on lerobot 0.6.1, PyPI-s olev versioon seisuga 3. august 2026. Pange tähele CLI kuju: salvestamine toimub läbi lerobot-record konsooli sisenemispunkti (lerobot.scripts.lerobot_record), mitte vana python -m lerobot.scripts.record mooduli tee kaudu. AY-Robots sihib versiooni 0.5.1 ja 0.5.1 pakett deklareerib samad lerobot-record ja lerobot-train sisenemispunktid, seega allolev kuju on mõlema puhul stabiilne. Kolm ajastuslippu on ülesvoolu vaikeseaded, seega on see ka käsk, mida järgmise tabeli aritmeetika eeldab.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Vaadake, mida te salvestasite, enne kui rendite ühegi GPU minuti

   Andmestiku kontrollimine maksab null USD tunnis. Sama probleemi avastamine kadumiskõverast maksab H100 tasemel 2.00 USD tunnis ja annab teile teada neli tundi hiljem. Laadige andmestik üles ja kontrollige seda LeRoboti vaaturis või sirvige AY-Robotsi andmestiku kataloogi.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Treenige ja veenduge, et kontrollpunkt elaks üle pod'i

   Renditud masin on definitsiooni kohaselt ajutine, seega kirjutage kontrollpunktid käivitamise ajal kuhugi püsivasse kohta. Kaks lippu otsustavad, kas te hoiate seda, mille eest maksite. --save_freq vaikimisi on 20 000 sammu, seega vaikimisi 20 000-sammuline SmolVLA käivitus kirjutab oma esimese kontrollpunkti, kui käivitus on juba lõppenud; vähendage seda enne, kui rendite midagi katkestatavat. --save_checkpoint_to_hub nõuab --policy.repo_id ja seda ei eksisteeri lerobot 0.5.1-s, seega sellel versioonil kopeerite väljundkataloogi masinast ise. Allpool olev partii suurus on ülesvoolu dokumendi näide; AY-Robotsi vorm saadab SmolVLA jaoks 2 ja kirjutab objektihoidlasse kontrollpunktide ilmumisel.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Võrrelge parempoolset veergu jooksu maksumusega 1 kuni 12 USD. Selle eeldatava määra juures maksab 50-episoodilise andmestiku salvestamine kaks kuni seitse korda rohkem kui sellel treenimine, enne kalibreerimist, kaamera seadistamist ja äravisatavaid episoode. Seepärast omab otsest rahalist väärtust. LeRoboti juhend soovitab vähemalt 50 episoodi, 10 objekti asukoha kohta; SmolVLA dokumendid teatavad, et sama ülesande 25-episoodiline versioon ei olnud piisav.

Kuhu raha tegelikult kaob

1. Jooksud andmetel, mis ei hakanud kunagi tööle

20 000-sammuline GR00T jooks andmestikul, millel on kaks vahetatud kaameravoogu, maksab sama palju kui puhtal andmestikul, võtab sama palju aega ja annab kaotusgraafiku, mis näeb hea välja. Viga ilmneb robotkäel tunde hiljem. arveldatakse tunni kaupa ja diagnoosimine päevade kaupa. Kaks meeldejätmist väärt sümptomit: tähendab tavaliselt, et vaatlused ei sisalda seda, mida ülesanne vajab, ja tähendab, et andmestikus oli vähem variatsiooni, kui arvasite.

2. Alusmudeli hindade maksmine fikseeritud kaameraga ülesande eest

ACT on ligikaudu 80 miljonit parameetrit ja see loodi treenimiseks nullist 50 demonstratsiooni põhjal ühe ülesande jaoks. GR00T N1.7 on ligikaudu 3 miljardit eelnevalt treenitud selgrooga. Poltidega kinnitatud kaamera, fikseeritud laua ja ühe objekti puhul saavutab 80 miljoni parameetriga mudel sageli eesmärgi, töötab umbes 20 ms tegevussammu kohta 152 ms asemel ja maksab 1 kuni 3 USD käituse kohta 4 kuni 12 asemel. Kulutage 3 USD, et teada saada, kas odav mudel töötab, enne kui kulutate 12 USD kallile. ACT SmolVLA vastu ja GR00T N1.7 Pi0.5 vastu näitavad, kus kumbki lakkab olemast õige vastus; mudeli areen sisaldab 85 mudelit ja 332 võrdlustulemust.

3. GPU, mille te unustasite

Kõige odavam viga, mida vältida, ja kõige tavalisem, mida teha. Reedel silumiseks käivitatud eksemplar arveldatakse nädalavahetuse jooksul sama hinnaga nagu tegelik käitus.

AY-Robotsis on see viga järelduste tegemisel välistatud: järelduste API poolt pakutavad podid sisaldavad tühikäigu valvekoera ja hävitavad end pärast tühikäiguperioodi. Kui rendite kaardi ise, on see valvekoer teie kalendri meeldetuletus.

4. Sama vastuse eest kaks korda maksmine

GR00T-i peenhäälestuse alguspunkt on tyro CLI, mis ei avalda seemet. See ei ole platvormi piirang, vaid ülesvoolu tööriist: seemne välja ei ole failis gr00t/configs/finetune_config.py, ja hoidla enda treeningnõuanded hoiatavad, et käitused varieeruvad 5 kuni 6 protsenti, kuna pildi täiendused on mittedeterministlikud. lerobot kasutab vaikimisi seemet 1000 nii versioonides 0.5.1 kui ka 0.6.1, nii et ACT, SmolVLA ja Pi0.5 käitusi saab vähemalt uuesti käivitada samast initsialiseerimisest ja andmete järjekorrast. See ei ole lubadus bitipõhiselt identsete kaalude kohta GPU-l, kuid see on erinevus uuesti käivitamise ja uue eksperimendi vahel. Kui GR00T käitus loob toimiva poliitika ja te ei säilitanud kontrollpunkti, maksate täishinna tulemuse eest, mis võib erineda rohkem kui erinevus, mida te taga ajasite. On veel teine viis kaotada kontrollpunkt, mille eest maksite: CLI vaikimisi on --save-total-limit 5, mis on dokumenteeritud kui maksimaalne säilitatavate kontrollpunktide arv enne vanemate kustutamist. Salvestusruum maksab sente; uuesti käivitamine on 4 kuni 12 USD ja kuus tundi.

Ise tegemine versus platvormil kaardi rentimine

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Mida platvorm tasub ja kuidas see kaardi valib

Loogika on tahtlikult igav. Iga mudel kataloogis deklareerib GPU taseme; taustsüsteem võtab vajaliku VRAM-i ja rendib sobiva kaardi samalt ülaltoodud hetketurult. Seepärast on pakutud hind vahemik, mitte fikseeritud hind. GR00T ja Pi0.5 on siin ainult pilvepõhised 40 GB ja 70 GB piirangute tõttu. SmolVLA ja ACT töötavad ka lokaalselt teie enda 24 GB kaardil, kus pilvekulu on null ja elekter on teie probleem.

Üks seade väärib hoiatust. Gradientide akumulatsioon kehtib tõepoolest mõlema GR00T variandi puhul, seega selle suurendamine annab sama kaardi peal suurema efektiivse partii. Pi0.5 ja SmolVLA puhul see üldse ei kehti: lerobot 0.5.1 treeningu konfiguratsioonis puudub gradientide akumulatsiooni valik, seega välja väärtuse 16 seadmine ei maksa midagi ega anna midagi. Kui järjekorras olev töö kunagi ei käivitu, järjekorda kinni jäänud töö leht käsitleb, mida kontrollida; kui andmestik lükatakse tagasi enne käivituse algust, on see peaaegu alati v3.0 formaadi probleem.

Esimese töötava poliitika läbimõeldud eelarve

Kõik neli rida koos, alustades nullist. GPU kogusumma eeldab 3 kuni 5 käivitust: esimene tõestab, et torujuhe töötab, teine paljastab andmeprobleemi, kolmas või neljas on see, mille te alles hoiate.

See muster kehtib ka selle suurusega robotite puhul: arvutusvõimsus on ümardamisviga, riistvara on tegelik ühekordne kulu, inimtunnid on korduv kulu. Koolituspoole testimiseks enne millegi ostmist, võimaldavad teil võrrelda mudeleid ja rentida GPU-d ilma robotkäeta, ning on füüsiline SO-100, mida saate brauseris juhtida ilma registreerimiseta. Kogu torujuhtme jaoks algusest lõpuni, hõlmab seadistamist, ja koolitust, ning on lühiversioon.