Kos Latihan VLA: Berapa Sebenarnya Kos Pelaksanaan Penalaan Halus

Bil mempunyai empat barisan, dan GPU adalah yang terkecil

Apabila orang bertanya berapa kos untuk menala halus model tindakan bahasa-penglihatan untuk SO-100, mereka hampir selalu bermaksud sewa GPU. Itulah nombor yang muncul sebagai caj pada kad, jadi itulah yang terasa nyata. Ia juga, dengan perbezaan yang ketara, nombor terkecil daripada empat nombor yang menentukan berapa kos sebenar polisi yang berfungsi.

Masa latihan di bawah diambil daripada kertas kerja dan repositori lima model itu sendiri, kos perkakasan daripada bil bahan yang diterbitkan, nombor platform daripada AY-Robots katalog polisi dan halaman harga. Jika platform tidak membantu, artikel ini menyatakan demikian.

Berapa kos sebenar satu jam GPU di pasaran spot

Tiada satu harga tunggal untuk satu jam A100. Di pasaran seperti vast.ai, setiap hos menetapkan kadar sendiri, dan pelancaran latihan yang anda lancarkan akan mendarat pada mana-mana mesin yang murah dan percuma pada saat itu. Jawapan jujur adalah satu taburan. Berikut adalah data yang diukur pada 23 Ogos 2026 jam 13:44 UTC: kad penuh tunggal, atas permintaan, ditapis mengikut VRAM sebenar.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Mengapa model 3B tidak boleh menggunakan kad murah

Satu jam 4090 dan satu jam H100 80 GB berbeza kira-kira enam kali ganda pada median di atas. Apa yang memaksa anda menggunakan kad yang mahal bukanlah kelajuan, tetapi memori. openpi menetapkan had bawah untuk Pi0.5 penuh penalaan halus pada 70 GB, dan NVIDIA mengesyorkan 40 GB atau lebih untuk GR00T. Perhatikan apa yang bukan nombor GR00T. Konfigurasi penalaan halusnya membekukan model bahasa dan pengekod visual secara lalai (tune_llm dan tune_visual adalah False, manakala projektor dan kepala resapan adalah True), sebab itulah katalog menyenaraikan kira-kira 40 J parameter terlatih daripada 3 B. 40 GB itu bukan keadaan pengoptimum untuk berat 3 B, ia adalah tulang belakang beku ditambah pengaktifan. Varian skop yang dikurangkan memerlukan lebih rendah: laluan LoRA openpi memerlukan 22.5 GB dan menamakan 4090, dan aliran kerja Isaac Lab Arena NVIDIA menyenaraikan pilihan GPU tunggal 24 GB untuk pasca-latihan GR00T. Platform ini mengikut tahap yang diterbitkan oleh setiap vendor untuk konfigurasi yang sebenarnya dijalankan. Penulisan padanan aliran pi0 menerangkan dari mana datangnya padanan aliran jejak itu.

Jadual itu adalah sebab mengapa platform membahagikan lima model kepada dua peringkat. GR00T N1.7, GR00T N1.5 dan Pi0.5 menggunakan A100 80 GB atau H100 kerana itulah yang diminta oleh vendor. SmolVLA dan ACT menggunakan RTX 4090 atau mana-mana kad 24 GB kerana itu memang mencukupi.

Berapa lama setiap satu daripada lima model sebenarnya berjalan

Masa jalan adalah separuh lagi daripada kos: 2.00 USD sejam tidak relevan jika kerja itu 40 minit dan membinasakan jika ia 40 jam. Ini adalah tetapan lalai yang AY-Robots benar-benar hantar kepada pelatih, bersama dengan tetingkap jalan dan kos untuk setiap peringkat.

Dari mana datangnya jangka masa larian tersebut dari sumber asal

• SmolVLA: dokumentasi lerobot menyatakan bahawa 20,000 langkah mengambil masa kira-kira 4 jam pada satu A100. Platform ini menjalankan 20,000 langkah yang sama pada peringkat 24 GB yang lebih murah, oleh itu, ia adalah jangka masa larian dan bukannya 4 jam yang tetap.
• ACT: kertas ALOHA asal melaporkan kira-kira 5 jam pada satu 11 GB RTX 2080 Ti untuk model 80M-parameter. A 4090 adalah beberapa generasi lebih baru tetapi platform ini memperuntukkan 100,000 langkah, jadi jangka masa larian tersebut berada di tempat yang sama.
• GR00T: Aliran kerja rujukan NVIDIA untuk generasi N1.6 menyatakan kira-kira 4 hingga 8 jam untuk 20,000 langkah pada kelompok 24 pada lapan kad L40S, dan 2 hingga 3 jam untuk 30,000 langkah pada kelompok 16 pada satu Ada 6000. Penalaan halus satu kad bagi 3B VLA dalam beberapa jam adalah normal, bukan optimistik.
• Pi0.5: openpi tidak menerbitkan angka masa sebenar, tetapi ia menerbitkan had minimum 70 GB untuk penalaan halus penuh, yang menentukan kad dan oleh itu kadar.

Wajar untuk berhenti seketika memikirkan angka yang anda tidak bayar. Kertas GR00T N1 melaporkan kira-kira 50,000 jam GPU H100 untuk melatih awal model 2.2B, pada kluster sehingga 1024 GPU, dengan saiz kelompok pra-latihan 16,384 untuk 200,000 langkah gradien. Pada kadar 1.34 hingga 2.34 USD sejam yang diukur di atas, itu adalah dalam lingkungan 67,000 hingga 117,000 USD untuk pengkomputeran sewa. Kertas SmolVLA meletakkan projeknya pada kira-kira 30,000 jam GPU merentasi 481 set data komuniti, 22.9K episod dan 10.6M bingkai. Anda mewarisi semua itu dengan harga muat turun; 8 USD anda membeli 20,000 langkah terakhir. Mengapa VLA dibina dengan cara ini meliputi pembahagian itu.

Lengan robot: kos sekali sahaja yang mengatasi bil GPU

Satu sesi latihan berharga kurang daripada makan tengah hari. Robot tidak. Itulah sebabnya SO-100 penting: ia adalah lengan termurah yang disokong oleh keseluruhan pembelajaran tiruan rantaian alat sebenarnya menyokong.

Senarai bahan huluan dalam repositori SO-ARM100 lebih terperinci dan wajar disemak mengikut rantau anda: senarai Alat Ganti Untuk Dua Lengan berjumlah 229.88 USD atau 226.30 EUR untuk persediaan pemimpin dan pengikut, dan senarai Alat Ganti Untuk Satu Lengan Pengikut berjumlah 121.94 USD atau 124.30 EUR. Enam servo STS3215 pada 13.89 USD setiap satu adalah 83.34 daripada 121.94 itu, jadi servo adalah lengan. Pada 1 hingga 3 USD setiap sesi SmolVLA atau ACT, sepasang lengan bernilai antara 77 hingga 230 sesi latihan. Jika anda masih memilih, SO-100 berbanding SO-101 adalah perbandingan yang penting, kerana kedua-duanya cukup dekat sehingga keputusan adalah mengenai ketersediaan dan bukannya keupayaan.

Jam manusia: baris yang tiada siapa letakkan dalam hamparan kerja

Ini adalah angka yang membalikkan perbincangan kos. Merekod demonstrasi melibatkan seseorang menggerakkan lengan robot, satu episod pada satu masa, dalam masa nyata. Tiada pengumpulan secara kelompok dan tiada penyewaan mengikut saat. Perakam set data LeRobot dihantar dengan tetapan lalai yang memudahkan pengiraan, ketiga-tiganya disahkan dalam DatasetRecordConfig: 60 saat setiap episod, 60 saat untuk menetapkan semula adegan, 50 episod. Lajur wang di bawah mengandaikan 15 USD untuk satu jam masa seseorang, yang merupakan andaian dan bukannya nombor platform. Gantikan kadar anda sendiri; nisbah adalah intinya.

1. 1
   Rakam set data dengan tetapan lalai yang anda akan dibilkan

   Ini adalah lerobot 0.6.1, versi di PyPI setakat 3 Ogos 2026. Perhatikan bentuk CLI: rakaman dijalankan melalui titik masuk konsol lerobot-record (lerobot.scripts.lerobot_record), bukan laluan modul lama python -m lerobot.scripts.record. AY-Robots menyasarkan 0.5.1, dan roda 0.5.1 mengisytiharkan titik masuk lerobot-record dan lerobot-train yang sama, jadi bentuk di bawah adalah stabil merentasi kedua-duanya. Tiga bendera masa adalah tetapan lalai hulu, jadi ini juga merupakan arahan yang diandaikan oleh pengiraan dalam jadual seterusnya.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Lihat apa yang anda rakam sebelum anda menyewa satu minit GPU pun

   Memeriksa set data tidak memerlukan kos USD per jam. Mendapati masalah yang sama daripada lengkung kerugian berharga 2.00 USD per jam pada peringkat H100 dan memberitahu anda empat jam lewat. Tolak set data dan semaknya dalam pemapar LeRobot, atau semak imbas direktori set data AY-Robots.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Latih, dan pastikan titik semak kekal lebih lama daripada pod

   Mesin sewaan adalah sementara mengikut definisi, jadi tulis titik semak di tempat yang tahan lama semasa larian. Dua bendera menentukan sama ada anda menyimpan apa yang anda bayar. --save_freq lalai kepada 20,000 langkah, jadi larian SmolVLA 20,000 langkah lalai menulis titik semak pertamanya apabila larian sudah tamat; turunkannya sebelum anda menyewa apa-apa yang boleh diganggu. --save_checkpoint_to_hub memerlukan --policy.repo_id dan tidak wujud dalam lerobot 0.5.1, jadi pada versi itu anda menyalin direktori output dari mesin sendiri. Saiz kelompok di bawah adalah contoh dokumen hulu; borang AY-Robots menghantar 2 untuk SmolVLA dan menulis ke storan objek apabila titik semak muncul.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Bandingkan lajur kanan dengan kos larian 1 hingga 12 USD. Pada kadar yang diandaikan itu, set data 50 episod menelan belanja dua hingga tujuh kali ganda untuk direkodkan berbanding kos untuk melatihnya, sebelum penentukuran, persediaan kamera dan episod yang anda buang. Itulah sebabnya mempunyai nilai dolar langsung. Panduan lerobot mencadangkan sekurang-kurangnya 50 episod dengan 10 setiap lokasi objek; dokumen SmolVLA melaporkan bahawa versi 25 episod bagi tugas yang sama tidak mencukupi.

Di mana wang sebenarnya hilang

1. Larian pada data yang tidak akan berfungsi

Larian GR00T 20,000 langkah pada set data dengan dua aliran kamera yang bertukar ganti menelan belanja yang sama seperti pada set data yang bersih, mengambil masa yang sama, dan menghasilkan lengkung kerugian yang kelihatan baik. Kegagalan muncul pada lengan, beberapa jam kemudian. dibilkan mengikut jam dan diagnosis dibilkan dalam hari. Dua simptom yang patut diingat: biasanya bermakna pemerhatian tidak membawa apa yang diperlukan oleh tugas, dan bermakna set data mempunyai variasi yang kurang daripada yang anda sangka.

2. Membayar harga model asas untuk tugas kamera tetap

ACT mempunyai kira-kira 80M parameter dan direka untuk dilatih dari awal berdasarkan 50 demonstrasi satu tugas. GR00T N1.7 mempunyai kira-kira 3B dengan tulang belakang pra-latihan. Untuk kamera yang dipasang, meja tetap dan satu objek, model 80M sering berjaya, berjalan pada kira-kira 20 ms setiap langkah tindakan berbanding 152 ms, dan berharga 1 hingga 3 USD setiap larian berbanding 4 hingga 12. Belanjakan 3 USD untuk mengetahui sama ada model murah berfungsi sebelum membelanjakan 12 USD untuk model yang mahal. ACT berbanding SmolVLA dan GR00T N1.7 berbanding Pi0.5 menunjukkan di mana setiap satu berhenti menjadi jawapan yang betul; arena model mempunyai 85 model dan 332 hasil penanda aras.

3. GPU yang anda terlupa

Kesilapan paling murah untuk dicegah dan yang paling biasa dilakukan. Sebuah instans yang dimulakan pada hari Jumaat untuk menyahpepijat sesuatu akan dibilkan sepanjang hujung minggu pada kadar yang sama dengan larian sebenar.

Pada AY-Robots, kegagalan ini direka bentuk untuk inferens: pod yang disediakan oleh API inferens membawa pengawas terbiar dan memusnahkan diri selepas tempoh terbiar. Jika anda menyewa kad itu sendiri, pengawas itu adalah peringatan kalendar anda.

4. Membayar dua kali untuk jawapan yang sama

Titik masuk penalaan halus GR00T ialah CLI tyro yang tidak mendedahkan sebarang benih. Itu bukan batasan platform, ia adalah alat huluan: tiada medan benih dalam gr00t/configs/finetune_config.py, dan petua latihan repositori sendiri memberi amaran bahawa larian berbeza sebanyak 5 hingga 6 peratus kerana augmentasi imej adalah tidak deterministik. lerobot lalai kepada benih 1000 dalam kedua-dua 0.5.1 dan 0.6.1, jadi larian ACT, SmolVLA dan Pi0.5 sekurang-kurangnya boleh dijalankan semula dari inisialisasi dan susunan data yang sama. Itu bukan janji berat bit-identik pada GPU, tetapi ia adalah perbezaan antara larian semula dan eksperimen baharu. Jika larian GR00T menghasilkan polisi yang berfungsi dan anda tidak menyimpan titik semak, anda membayar harga penuh untuk hasil yang mungkin berbeza lebih daripada perbezaan yang anda kejar. Terdapat cara kedua untuk kehilangan titik semak yang anda bayar: CLI lalai kepada --save-total-limit 5, didokumenkan sebagai bilangan maksimum titik semak yang disimpan sebelum yang lebih lama dipadamkan. Storan adalah sen; larian semula adalah 4 hingga 12 USD dan enam jam.

Melakukannya sendiri berbanding membiarkan platform menyewa kad

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Apa yang dicaj oleh platform dan bagaimana ia memilih kad

Logiknya sengaja membosankan. Setiap model dalam katalog, mengisytiharkan tahap GPU; bahagian belakang mengambil VRAM yang diperlukan dan menyewa kad yang sepadan di pasaran spot yang sama seperti yang diukur di atas. Itulah sebabnya kos yang disebut adalah julat, bukan harga. GR00T dan Pi0.5 adalah khusus awan di sini kerana had bawah 40 GB dan 70 GB. SmolVLA dan ACT juga berjalan secara tempatan pada kad 24 GB anda sendiri, di mana kos awan adalah sifar dan elektrik adalah masalah anda.

Satu tetapan memerlukan amaran. Pengumpulan gradien benar-benar terpakai untuk kedua-dua varian GR00T, jadi meningkatkannya akan membeli kelompok efektif yang lebih besar pada kad yang sama. Untuk Pi0.5 dan SmolVLA ia tidak terpakai sama sekali: lerobot 0.5.1 tidak mempunyai pilihan pengumpulan gradien dalam konfigurasi latihannya, jadi menetapkan medan kepada 16 tidak menelan belanja apa-apa dan tidak membeli apa-apa. Jika pekerjaan yang beratur tidak pernah bermula, halaman tersekat dalam barisan meliputi apa yang perlu diperiksa; jika set data ditolak sebelum larian bermula, ia hampir selalu masalah format v3.0.

Anggaran terperinci untuk polisi kerja pertama

Kesemua empat baris bersama, bermula dari kosong. Jumlah GPU mengandaikan 3 hingga 5 larian: yang pertama membuktikan saluran paip berfungsi, yang kedua mendedahkan masalah data, yang ketiga atau keempat adalah yang anda simpan.

Corak ini kekal pada saiz robot ini: pengiraan adalah ralat pembundaran, perkakasan adalah kos sekali sahaja yang sebenar, jam manusia adalah perbelanjaan berulang. Untuk menguji separuh latihan sebelum membeli apa-apa, membolehkan anda membandingkan model dan menyewa GPU tanpa lengan, dan ialah SO-100 fizikal yang boleh anda pandu dalam pelayar tanpa pendaftaran. Untuk keseluruhan saluran paip dari hujung ke hujung, merangkumi persediaan, dan latihan, dan ialah versi ringkas.