Biaya Pelatihan VLA: Berapa Biaya Sebenarnya dari Satu Kali Fine-Tuning

Tagihan memiliki empat lini, dan GPU adalah yang terkecil

Ketika orang bertanya berapa biaya untuk menyempurnakan model visi-bahasa-aksi untuk SO-100, mereka hampir selalu berarti sewa GPU. Itu adalah angka yang muncul sebagai tagihan pada kartu, jadi itu yang terasa nyata. Ini juga, dengan selisih yang lebar, yang terkecil dari empat angka yang menentukan berapa biaya sebenarnya dari kebijakan yang berfungsi.

Waktu pelatihan di bawah ini berasal dari makalah dan repositori kelima model itu sendiri, biaya perangkat keras dari daftar bahan yang dipublikasikan, angka platform dari AY-Robots katalog kebijakan dan halaman harga. Jika platform tidak membantu, artikel ini menyatakannya.

Berapa biaya sebenarnya satu jam GPU di pasar spot

Tidak ada satu harga pun untuk satu jam A100. Di pasar seperti vast.ai, setiap host menetapkan tarifnya sendiri, dan jalur pelatihan yang Anda luncurkan akan mendarat di mesin mana pun yang murah dan tersedia pada saat itu. Jawaban jujurnya adalah sebuah distribusi. Berikut adalah datanya, diukur pada 23 Agustus 2026 pukul 13:44 UTC: kartu penuh tunggal, sesuai permintaan, disaring berdasarkan VRAM nyata.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Mengapa model 3B tidak dapat menggunakan kartu murah

Satu jam 4090 dan satu jam H100 80 GB berbeda kira-kira enam kali lipat pada median di atas. Yang memaksa Anda menggunakan kartu mahal bukanlah kecepatan, melainkan memori. openpi menetapkan batas bawah untuk fine-tune penuh Pi0.5 fine-tune sebesar 70 GB, dan NVIDIA merekomendasikan 40 GB atau lebih untuk GR00T. Perhatikan apa yang bukan merupakan angka GR00T. Konfigurasi fine-tune-nya membekukan model bahasa dan encoder visual secara default (tune_llm dan tune_visual adalah False, sedangkan proyektor dan diffusion head True), itulah sebabnya katalog mencantumkan sekitar 40 M parameter terlatih dari 3 B. 40 GB tersebut bukan merupakan status optimizer untuk bobot 3 B, melainkan backbone yang dibekukan ditambah aktivasi. Varian dengan cakupan yang lebih kecil membutuhkan lebih sedikit: jalur LoRA openpi membutuhkan 22.5 GB dan menyebutkan 4090, dan alur kerja Isaac Lab Arena NVIDIA mencantumkan opsi GPU tunggal 24 GB untuk GR00T pasca-pelatihan. Platform ini mengelompokkan berdasarkan batas bawah yang diterbitkan setiap vendor untuk konfigurasi yang benar-benar dijalankannya. Penjelasan flow-matching pi0 menjelaskan dari mana flow-matching jejak memori berasal.

Tabel tersebut adalah alasan mengapa platform membagi kelima model menjadi dua tingkatan. GR00T N1.7, GR00T N1.5 dan Pi0.5 menggunakan A100 80 GB atau H100 karena itulah yang diminta oleh vendor. SmolVLA dan ACT menggunakan RTX 4090 atau kartu 24 GB lainnya karena itu memang sudah cukup.

Berapa lama setiap dari lima model benar-benar berjalan

Waktu berjalan adalah separuh biaya lainnya: 2.00 USD per jam tidak relevan jika pekerjaan berlangsung 40 menit dan merugikan jika berlangsung 40 jam. Ini adalah pengaturan default yang benar-benar dikirim AY-Robots ke pelatih, beserta jendela waktu berjalan dan biaya untuk setiap tingkatan.

Dari mana jendela waktu eksekusi tersebut berasal dari hulu

• SmolVLA: dokumentasi lerobot menyatakan bahwa 20.000 langkah membutuhkan waktu sekitar 4 jam pada satu A100. Platform menjalankan 20.000 langkah yang sama pada tingkatan 24 GB yang lebih murah, oleh karena itu ada jendela waktu daripada 4 jam datar.
• ACT: makalah ALOHA asli melaporkan sekitar 5 jam pada satu RTX 2080 Ti 11 GB untuk model 80M-parameter. Sebuah 4090 beberapa generasi lebih baru tetapi platform menganggarkan 100.000 langkah, sehingga jendela waktu berada di tempat yang sama.
• GR00T: alur kerja referensi NVIDIA untuk generasi N1.6 mengutip sekitar 4 hingga 8 jam untuk 20.000 langkah pada batch 24 di delapan kartu L40S, dan 2 hingga 3 jam untuk 30.000 langkah pada batch 16 di satu Ada 6000. Fine-tuning satu kartu dari VLA 3B dalam beberapa jam adalah normal, bukan optimis.
• Pi0.5: openpi tidak mempublikasikan angka waktu nyata, tetapi mempublikasikan batas bawah 70 GB untuk fine-tune penuh, yang menentukan kartu dan oleh karena itu lajunya.

Penting untuk berhenti sejenak pada angka yang tidak Anda bayar. Makalah GR00T N1 melaporkan sekitar 50.000 jam GPU H100 untuk melatih model 2.2B, pada kluster hingga 1024 GPU, dengan ukuran batch pelatihan 16.384 untuk 200.000 langkah gradien. Dengan biaya 1.34 hingga 2.34 USD per jam yang diukur di atas, itu setara dengan 67.000 hingga 117.000 USD untuk komputasi sewaan. Makalah SmolVLA menempatkan proyeknya sekitar 30.000 jam GPU di atas 481 dataset komunitas, 22.9K episode, dan 10.6M frame. Anda mewarisi semua itu dengan harga unduhan; 8 USD Anda membeli 20.000 langkah terakhir. Mengapa VLA dibangun dengan cara ini membahas pembagian tersebut.

Lengan robot: biaya satu kali yang jauh lebih besar daripada tagihan GPU

Satu sesi pelatihan berharga kurang dari makan siang. Robot tidak. Itulah mengapa SO-100 penting: ini adalah lengan termurah yang didukung oleh seluruh pembelajaran imitasi toolchain.

Daftar bahan baku (bill of materials) hulu di repositori SO-ARM100 lebih rinci dan patut diperiksa sesuai wilayah Anda: daftar Komponen Untuk Dua Lengan berjumlah 229.88 USD atau 226.30 EUR untuk konfigurasi pemimpin plus pengikut, dan daftar Komponen untuk Satu Lengan Pengikut berjumlah 121.94 USD atau 124.30 EUR. Enam servo STS3215 masing-masing seharga 13.89 USD adalah 83.34 dari 121.94 tersebut, jadi servo adalah lengan itu sendiri. Dengan biaya 1 hingga 3 USD per sesi SmolVLA atau ACT, sepasang lengan bernilai antara 77 hingga 230 sesi pelatihan. Jika Anda masih memilih, SO-100 versus SO-101 adalah perbandingan yang penting, karena keduanya cukup mirip sehingga keputusan lebih tentang ketersediaan daripada kemampuan.

Jam kerja manusia: baris yang tidak pernah dimasukkan siapa pun ke dalam spreadsheet

Inilah angka yang membalikkan diskusi biaya. Merekam demonstrasi adalah seseorang yang menggerakkan lengan robot, satu episode pada satu waktu, secara real-time. Tidak ada pemrosesan batch dan tidak ada penyewaan per detik. Perekam dataset LeRobot dilengkapi dengan pengaturan default yang membuat perhitungan mudah, ketiganya dikonfirmasi dalam DatasetRecordConfig: 60 detik per episode, 60 detik untuk mengatur ulang adegan, 50 episode. Kolom uang di bawah mengasumsikan 15 USD untuk satu jam waktu seseorang, yang merupakan asumsi daripada angka platform. Ganti dengan tarif Anda sendiri; rasio adalah intinya.

1. 1
   Rekam dataset dengan pengaturan default yang sebenarnya akan Anda bayar

   Ini adalah lerobot 0.6.1, versi di PyPI per 3 Agustus 2026. Perhatikan bentuk CLI: perekaman berjalan melalui titik masuk konsol lerobot-record (lerobot.scripts.lerobot_record), bukan jalur modul lama python -m lerobot.scripts.record. AY-Robots menargetkan 0.5.1, dan wheel 0.5.1 mendeklarasikan titik masuk lerobot-record dan lerobot-train yang sama, sehingga bentuk di bawah ini stabil di keduanya. Tiga flag waktu adalah default upstream, jadi ini juga perintah yang diasumsikan dalam perhitungan tabel berikutnya.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Lihat apa yang Anda rekam sebelum Anda menyewa satu menit GPU pun

   Memeriksa dataset tidak memakan biaya nol USD per jam. Menemukan masalah yang sama dari kurva kerugian memakan biaya 2.00 USD per jam pada tingkat H100 dan memberi tahu Anda empat jam terlambat. Dorong dataset dan periksa di penampil LeRobot, atau jelajahi direktori dataset AY-Robots.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Latih, dan pastikan checkpoint bertahan lebih lama dari pod

   Mesin sewaan bersifat sementara berdasarkan definisi, jadi tulis checkpoint di tempat yang tahan lama selama proses berjalan. Dua flag menentukan apakah Anda menyimpan apa yang Anda bayar. --save_freq defaultnya adalah 20.000 langkah, jadi proses SmolVLA default 20.000 langkah menulis checkpoint pertamanya saat proses sudah selesai; turunkan sebelum Anda menyewa apa pun yang dapat diinterupsi. --save_checkpoint_to_hub memerlukan --policy.repo_id dan tidak ada di lerobot 0.5.1, jadi pada versi tersebut Anda menyalin direktori output dari mesin sendiri. Ukuran batch di bawah adalah contoh dari dokumen upstream; formulir AY-Robots mengirimkan 2 untuk SmolVLA dan menulis ke penyimpanan objek saat checkpoint muncul.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

Bandingkan kolom kanan dengan biaya operasional 1 hingga 12 USD. Dengan asumsi tarif tersebut, dataset 50 episode membutuhkan biaya perekaman dua hingga tujuh kali lipat dari biaya pelatihannya, sebelum kalibrasi, pengaturan kamera, dan episode yang Anda buang. Itulah mengapa memiliki nilai finansial langsung. Panduan lerobot menyarankan setidaknya 50 episode dengan 10 per lokasi objek; dokumen SmolVLA melaporkan bahwa versi 25 episode dari tugas yang sama tidak cukup.

Di Mana Uang Sebenarnya Hilang

1. Berjalan pada data yang tidak akan pernah berhasil

Sebuah eksekusi GR00T 20.000 langkah pada dataset dengan dua aliran kamera yang tertukar biayanya sama dengan eksekusi pada dataset bersih, memakan waktu yang sama, dan menghasilkan kurva kerugian yang terlihat baik-baik saja. Kegagalan muncul pada lengan robot, beberapa jam kemudian. ditagih per jam dan diagnosis ditagih dalam hitungan hari. Dua gejala yang patut diingat: biasanya berarti observasi tidak membawa apa yang dibutuhkan tugas, dan berarti dataset memiliki variasi yang lebih sedikit dari yang Anda kira.

2. Membayar harga model dasar untuk tugas kamera tetap

ACT memiliki sekitar 80 juta parameter dan dirancang untuk dilatih dari awal dengan 50 demonstrasi satu tugas. GR00T N1.7 memiliki sekitar 3 miliar parameter dengan backbone yang sudah dilatih. Untuk kamera yang terpasang, meja tetap, dan satu objek, model 80 juta seringkali berhasil, berjalan sekitar 20 ms per langkah tindakan alih-alih 152 ms, dan biayanya 1 hingga 3 USD per eksekusi alih-alih 4 hingga 12. Habiskan 3 USD untuk mencari tahu apakah model murah berfungsi sebelum menghabiskan 12 USD untuk model yang mahal. ACT melawan SmolVLA dan GR00T N1.7 melawan Pi0.5 menunjukkan di mana masing-masing berhenti menjadi jawaban yang tepat; arena model memiliki 85 model dan 332 hasil benchmark.

3. GPU yang Anda lupakan

Kesalahan termurah untuk dicegah dan yang paling umum dilakukan. Sebuah instance yang dimulai pada hari Jumat untuk melakukan debug akan ditagih sepanjang akhir pekan dengan tarif yang sama dengan eksekusi nyata.

Pada AY-Robots, kegagalan ini dihilangkan untuk inferensi: pod yang disediakan oleh API inferensi membawa pengawas idle dan menghancurkan dirinya sendiri setelah periode idle. Jika Anda menyewa kartu itu sendiri, pengawas itu adalah pengingat kalender Anda.

4. Membayar dua kali untuk jawaban yang sama

Titik masuk fine-tuning GR00T adalah CLI tyro yang tidak mengekspos seed apa pun. Itu bukan batasan platform, melainkan alat hulu: tidak ada bidang seed di gr00t/configs/finetune_config.py, dan tips pelatihan repositori itu sendiri memperingatkan bahwa hasil jalankan bervariasi 5 hingga 6 persen karena augmentasi gambar bersifat non-deterministik. lerobot secara default menggunakan seed 1000 di 0.5.1 dan 0.6.1, sehingga jalankan ACT, SmolVLA, dan Pi0.5 setidaknya dapat dijalankan ulang dari inisialisasi dan urutan data yang sama. Itu bukan janji bobot yang identik bit pada GPU, tetapi itu adalah perbedaan antara jalankan ulang dan eksperimen baru. Jika jalankan GR00T menghasilkan kebijakan yang berfungsi dan Anda tidak menyimpan titik pemeriksaan, Anda membayar harga penuh untuk hasil yang mungkin berbeda lebih dari perbedaan yang Anda kejar. Ada cara kedua untuk kehilangan titik pemeriksaan yang Anda bayar: CLI secara default menggunakan --save-total-limit 5, yang didokumentasikan sebagai jumlah maksimum titik pemeriksaan yang disimpan sebelum yang lebih lama dihapus. Penyimpanan hanya sen; jalankan ulang adalah 4 hingga 12 USD dan enam jam.

Melakukannya sendiri versus membiarkan platform menyewa kartu

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Berapa biaya platform dan bagaimana platform memilih kartu

Logikanya sengaja dibuat sederhana. Setiap model di katalog menyatakan tingkatan GPU; backend mengambil VRAM yang dibutuhkan dan menyewa kartu yang cocok di pasar spot yang sama seperti yang diukur di atas. Itulah mengapa biaya yang dikutip adalah rentang, bukan harga. GR00T dan Pi0.5 hanya tersedia di cloud di sini karena batas bawah 40 GB dan 70 GB. SmolVLA dan ACT juga berjalan secara lokal di kartu 24 GB Anda sendiri, di mana biaya cloud adalah nol dan listrik adalah masalah Anda.

Satu pengaturan perlu diperhatikan. Akumulasi gradien benar-benar berlaku untuk kedua varian GR00T, jadi meningkatkannya akan menghasilkan batch efektif yang lebih besar pada kartu yang sama. Untuk Pi0.5 dan SmolVLA, ini sama sekali tidak berlaku: lerobot 0.5.1 tidak memiliki opsi akumulasi gradien dalam konfigurasi pelatihannya, jadi mengatur bidang ke 16 tidak memakan biaya dan tidak menghasilkan apa-apa. Jika pekerjaan yang diantrekan tidak pernah dimulai, halaman pekerjaan yang macet dalam antrean membahas apa yang harus diperiksa; jika dataset ditolak sebelum proses dimulai, itu hampir selalu masalah format v3.0.

Anggaran terperinci untuk kebijakan kerja pertama

Keempat baris secara bersamaan, dimulai dari nol. Total GPU mengasumsikan 3 hingga 5 kali percobaan: yang pertama membuktikan pipeline berfungsi, yang kedua mengungkap masalah data, yang ketiga atau keempat adalah yang Anda pertahankan.

Pola ini berlaku pada ukuran robot ini: komputasi adalah kesalahan pembulatan, perangkat keras adalah biaya satu kali yang nyata, jam kerja manusia adalah pengeluaran berulang. Untuk menguji bagian pelatihan sebelum membeli apa pun, titik masuk tanpa perangkat keras memungkinkan Anda membandingkan model dan menyewa GPU tanpa lengan robot, dan lengan robot langsung adalah SO-100 fisik yang dapat Anda kendalikan di browser tanpa perlu mendaftar. Untuk seluruh pipeline secara menyeluruh, panduan SO-100 lengkap mencakup pengaturan, teleoperasi dan pelatihan, dan latih kebijakan pertama Anda adalah versi singkatnya.