Chi phí huấn luyện VLA: Một lần tinh chỉnh thực sự tốn bao nhiêu

Hóa đơn có bốn hạng mục, và GPU là hạng mục nhỏ nhất

Khi mọi người hỏi chi phí để tinh chỉnh một mô hình hành động-ngôn ngữ-thị giác cho một SO-100, họ gần như luôn đề cập đến chi phí thuê GPU. Đó là con số xuất hiện dưới dạng phí trên thẻ, vì vậy nó là con số cảm thấy thực tế nhất. Nó cũng là, với một biên độ rộng, con số nhỏ nhất trong bốn con số quyết định chi phí thực sự của một chính sách hoạt động thực sự tốn của bạn bao nhiêu.

Thời gian huấn luyện dưới đây lấy từ các bài báo và kho lưu trữ của năm mô hình, chi phí phần cứng từ danh sách vật liệu đã công bố, số liệu nền tảng từ AY-Robots danh mục chính sách và trang giá. Trong trường hợp nền tảng không hỗ trợ, bài viết này sẽ nêu rõ.

Chi phí thực tế của một giờ GPU trên thị trường giao ngay

Không có một mức giá duy nhất cho một giờ A100. Trên một thị trường như vast.ai, mỗi nhà cung cấp đặt ra mức giá riêng, và lần chạy huấn luyện bạn khởi chạy sẽ được thực hiện trên bất kỳ máy nào rẻ và trống vào thời điểm đó. Câu trả lời trung thực là một phân phối. Dưới đây là số liệu, được đo vào ngày 23 tháng 8 năm 2026 lúc 13:44 UTC: các card đầy đủ, theo yêu cầu, được lọc theo VRAM thực tế.

# Live, full-card, single-GPU, on-demand offers from the vast.ai public bundle API.
# No account and no API key needed. gpu_ram is in MB, so an 80 GB card is >= 80000.
python3 - <<'PY'
import json, statistics, urllib.parse, urllib.request

def offers(name, min_ram):
    q = {"rentable": {"eq": True}, "num_gpus": {"eq": 1}, "gpu_name": {"eq": name},
         "order": [["dph_total", "asc"]], "limit": 500, "type": "on-demand"}
    url = "https://console.vast.ai/api/v0/bundles/?q=" + urllib.parse.quote(json.dumps(q))
    with urllib.request.urlopen(url, timeout=60) as r:
        return [o for o in json.load(r)["offers"]
                if o["gpu_frac"] == 1.0 and o["gpu_ram"] >= min_ram]

groups = {
    "RTX 4090 24 GB": (["RTX 4090"], 24000),
    "RTX 5090 32 GB": (["RTX 5090"], 30000),
    "A100 80 GB":     (["A100 PCIE", "A100 SXM4"], 80000),
    "H100 80 GB":     (["H100 SXM", "H100 PCIE"], 80000),
    "H100 NVL 94 GB": (["H100 NVL"], 90000),
}
for label, (names, min_ram) in groups.items():
    o = [x for n in names for x in offers(n, min_ram)]
    if not o:
        print(label, "no offers"); continue
    p = sorted(x["dph_total"] for x in o)
    b = sorted(x["min_bid"] for x in o if x.get("min_bid"))
    bid = f"{b[0]:.2f}" if b else "n/a"
    print(f'{label}: n={len(p)} | {p[0]:.2f} / {statistics.median(p):.2f} / {p[-1]:.2f}'
          f' USD/h | bid floor {bid}')
PY

Tại sao các mô hình 3B không thể sử dụng thẻ giá rẻ

Một giờ 4090 và một giờ H100 80 GB khác nhau khoảng sáu lần ở các giá trị trung vị trên. Điều buộc bạn phải sử dụng thẻ đắt tiền không phải là tốc độ, mà là bộ nhớ. openpi đặt mức tối thiểu cho một Pi0.5 đầy đủ tinh chỉnh ở mức 70 GB, và NVIDIA khuyến nghị 40 GB trở lên cho GR00T. Lưu ý những gì con số GR00T không phải là. Cấu hình tinh chỉnh của nó đóng băng mô hình ngôn ngữ và bộ mã hóa hình ảnh theo mặc định (tune_llm và tune_visual là False, bộ chiếu và đầu khuếch tán là True), đó là lý do tại sao danh mục liệt kê khoảng 40 triệu tham số được huấn luyện trong số 3 tỷ. 40 GB không phải là trạng thái bộ tối ưu hóa cho 3 tỷ trọng số, mà là xương sống đóng băng cộng với các kích hoạt. Các biến thể giảm phạm vi yêu cầu thấp hơn: đường dẫn LoRA của openpi yêu cầu 22.5 GB và đề cập đến 4090, và quy trình làm việc Isaac Lab Arena của NVIDIA liệt kê tùy chọn một GPU 24 GB cho GR00T sau huấn luyện. Nền tảng phân cấp dựa trên mức tối thiểu mà mỗi nhà cung cấp công bố cho cấu hình mà nó thực sự chạy. Bài viết về khớp nối dòng chảy pi0 giải thích nguồn gốc của khớp nối dòng chảy dấu chân đến từ đâu.

Bảng đó là lý do tại sao nền tảng chia năm mô hình thành hai cấp. GR00T N1.7, GR00T N1.5 và Pi0.5 chạy trên A100 80 GB hoặc H100 vì đó là những gì các nhà cung cấp yêu cầu. SmolVLA và ACT chạy trên RTX 4090 hoặc bất kỳ thẻ 24 GB nào vì điều đó thực sự là đủ.

Thời gian chạy thực tế của từng trong năm mô hình

Thời gian chạy là một nửa còn lại của chi phí: 2.00 USD mỗi giờ là không đáng kể nếu công việc chỉ 40 phút và sẽ rất tốn kém nếu kéo dài 40 giờ. Đây là các cài đặt mặc định mà AY-Robots thực sự gửi đến trình huấn luyện, cùng với khoảng thời gian chạy và chi phí cho mỗi cấp.

Nguồn gốc của các khoảng thời gian chạy đó từ phía trước

• SmolVLA: tài liệu của lerobot cho biết 20.000 bước mất khoảng 4 giờ trên một A100 duy nhất. Nền tảng chạy cùng 20.000 bước trên gói 24 GB rẻ hơn, do đó có một khoảng thời gian thay vì cố định 4 giờ.
• ACT: bài báo ALOHA gốc báo cáo khoảng 5 giờ trên một RTX 2080 Ti 11 GB duy nhất cho một mô hình 80M tham số. Một 4090 mới hơn vài thế hệ nhưng nền tảng dự trù 100.000 bước, vì vậy khoảng thời gian vẫn tương tự.
• GR00T: quy trình làm việc tham chiếu của NVIDIA cho thế hệ N1.6 ước tính khoảng 4 đến 8 giờ cho 20.000 bước với batch 24 trên tám card L40S, và 2 đến 3 giờ cho 30.000 bước với batch 16 trên một Ada 6000 duy nhất. Việc tinh chỉnh một VLA 3B bằng một card duy nhất trong vài giờ là bình thường, không phải lạc quan.
• Pi0.5: openpi không công bố số liệu thời gian thực, nhưng họ công bố mức sàn 70 GB cho một lần tinh chỉnh hoàn chỉnh, điều này xác định loại card và do đó là tốc độ.

Đáng để dừng lại ở con số mà bạn không phải trả. Bài báo GR00T N1 báo cáo khoảng 50.000 giờ GPU H100 để huấn luyện trước mô hình 2.2B, trên một cụm lên đến 1024 GPU, với kích thước batch huấn luyện trước là 16.384 cho 200.000 bước gradient. Với mức giá 1.34 đến 2.34 USD mỗi giờ được đo ở trên, chi phí thuê điện toán là khoảng 67.000 đến 117.000 USD. Bài báo SmolVLA ước tính dự án của họ tiêu tốn khoảng 30.000 giờ GPU trên 481 bộ dữ liệu cộng đồng, 22.9K tập và 10.6M khung hình. Bạn thừa hưởng tất cả những điều đó với giá của một lượt tải xuống; 8 USD của bạn mua 20.000 bước cuối cùng. Tại sao VLA được xây dựng theo cách này đề cập đến sự phân chia đó.

Cánh tay robot: chi phí một lần làm lu mờ hóa đơn GPU

Một lần chạy huấn luyện tốn ít hơn một bữa trưa. Robot thì không. Đó là lý do tại sao SO-100 quan trọng: nó là cánh tay rẻ nhất mà toàn bộ học bắt chước chuỗi công cụ thực sự hỗ trợ.

Danh sách vật tư (BOM) gốc trong kho lưu trữ SO-ARM100 chi tiết hơn và đáng để kiểm tra theo khu vực của bạn: danh sách Linh kiện cho hai cánh tay tổng cộng 229.88 USD hoặc 226.30 EUR cho một thiết lập leader và follower, và danh sách Linh kiện cho một cánh tay follower tổng cộng 121.94 USD hoặc 124.30 EUR. Sáu động cơ servo STS3215 với giá 13.89 USD mỗi chiếc là 83.34 trong số 121.94 đó, vậy động cơ servo chính là cánh tay robot. Với 1 đến 3 USD cho mỗi lần chạy SmolVLA hoặc ACT, một cặp cánh tay có giá trị tương đương từ 77 đến 230 lần chạy huấn luyện. Nếu bạn vẫn đang lựa chọn, SO-100 so với SO-101 là sự so sánh quan trọng, bởi vì hai loại này đủ gần nhau để quyết định dựa trên tính khả dụng hơn là khả năng.

Giờ công của con người: dòng không ai đưa vào bảng tính

Đây là con số làm đảo lộn cuộc thảo luận về chi phí. Ghi lại các bản trình diễn là một người di chuyển cánh tay robot, từng tập một, trong thời gian thực. Không có việc xử lý theo lô hay thuê theo giây. Trình ghi của tập dữ liệu LeRobot đi kèm với các giá trị mặc định giúp việc tính toán dễ dàng, cả ba đều được xác nhận trong DatasetRecordConfig: 60 giây mỗi tập, 60 giây để đặt lại cảnh, 50 tập. Cột tiền dưới đây giả định 15 USD cho một giờ làm việc của một người, đây là một giả định chứ không phải con số của nền tảng. Hãy thay thế bằng mức giá của riêng bạn; tỷ lệ mới là điều quan trọng.

1. 1
   Ghi lại tập dữ liệu với các giá trị mặc định mà bạn sẽ thực sự phải trả tiền

   Đây là lerobot 0.6.1, phiên bản trên PyPI tính đến ngày 3 tháng 8 năm 2026. Lưu ý hình dạng CLI: việc ghi chạy qua điểm vào console lerobot-record (lerobot.scripts.lerobot_record), chứ không phải đường dẫn module cũ python -m lerobot.scripts.record. AY-Robots nhắm mục tiêu 0.5.1, và wheel 0.5.1 khai báo cùng các điểm vào lerobot-record và lerobot-train, vì vậy hình dạng dưới đây ổn định trên cả hai. Ba cờ thời gian là các giá trị mặc định của upstream, vì vậy đây cũng là lệnh mà phép tính trong bảng tiếp theo giả định.

   bash

   lerobot-record \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM0 \
       --robot.id=my_follower_arm \
       --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30} }" \
       --teleop.type=so100_leader \
       --teleop.port=/dev/ttyACM1 \
       --teleop.id=my_leader_arm \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --dataset.num_episodes=50 \
       --dataset.episode_time_s=60 \
       --dataset.reset_time_s=60 \
       --dataset.single_task="Grab the black cube and put it in the bin"

2. 2
   Xem những gì bạn đã ghi trước khi thuê một phút GPU nào

   Kiểm tra một tập dữ liệu không tốn đồng nào mỗi giờ. Phát hiện cùng một vấn đề từ đường cong mất mát tốn 2.00 USD mỗi giờ trên cấp H100 và cho bạn biết muộn bốn giờ. Đẩy tập dữ liệu và xem xét nó trong trình xem LeRobot, hoặc duyệt thư mục tập dữ liệu của AY-Robots.

   bash

   # the recorder pushes to the Hub by default; disable with --dataset.push_to_hub=False
   echo https://huggingface.co/datasets/${HF_USER}/pick-place-cube
   
   # then open https://huggingface.co/spaces/lerobot/visualize_dataset
   # and scrub through episodes: are both camera streams alive on every episode?
   # is the gripper actually closing? does the arm sit at a joint limit?

3. 3
   Huấn luyện, và đảm bảo điểm kiểm tra tồn tại lâu hơn pod

   Một máy thuê theo định nghĩa là tạm thời, vì vậy hãy ghi các điểm kiểm tra vào một nơi bền vững trong quá trình chạy. Hai cờ quyết định liệu bạn có giữ được những gì bạn đã trả tiền hay không. --save_freq mặc định là 20.000 bước, vì vậy một lần chạy SmolVLA mặc định 20.000 bước sẽ ghi điểm kiểm tra đầu tiên khi quá trình chạy đã kết thúc; hãy giảm nó trước khi bạn thuê bất kỳ thứ gì có thể bị gián đoạn. --save_checkpoint_to_hub yêu cầu --policy.repo_id và không tồn tại trong lerobot 0.5.1, vì vậy trên phiên bản đó, bạn tự sao chép thư mục đầu ra ra khỏi máy. Kích thước lô dưới đây là ví dụ của tài liệu upstream; biểu mẫu AY-Robots gửi 2 cho SmolVLA và ghi vào bộ lưu trữ đối tượng khi các điểm kiểm tra xuất hiện.

   bash

   lerobot-train \
       --policy.path=lerobot/smolvla_base \
       --dataset.repo_id=${HF_USER}/pick-place-cube \
       --batch_size=64 \
       --steps=20000 \
       --save_freq=2000 \
       --output_dir=outputs/train/my_smolvla \
       --job_name=my_smolvla_training \
       --policy.device=cuda \
       --policy.repo_id=${HF_USER}/my_smolvla \
       --save_checkpoint_to_hub=true

So sánh cột bên phải với chi phí chạy từ 1 đến 12 USD. Với mức giá giả định đó, một tập dữ liệu gồm 50 tập có chi phí ghi lại gấp hai đến bảy lần so với chi phí đào tạo, chưa kể hiệu chuẩn, thiết lập camera và các tập bạn bỏ đi. Đó là lý do tại sao có giá trị tiền tệ trực tiếp. Hướng dẫn của lerobot đề xuất ít nhất 50 tập với 10 tập cho mỗi vị trí đối tượng; tài liệu SmolVLA báo cáo rằng phiên bản 25 tập của cùng một nhiệm vụ là không đủ.

Tiền thực sự biến mất ở đâu

1. Chạy trên dữ liệu không bao giờ hoạt động được

Một lần chạy GR00T 20.000 bước trên một tập dữ liệu với hai luồng camera bị hoán đổi có chi phí tương đương với một lần chạy trên tập dữ liệu sạch, mất cùng thời gian và tạo ra một đường cong mất mát trông ổn. Lỗi xuất hiện trên cánh tay robot, vài giờ sau đó. được tính phí theo giờ và chẩn đoán được tính phí theo ngày. Hai triệu chứng đáng ghi nhớ: thường có nghĩa là các quan sát không mang thông tin mà nhiệm vụ cần, và có nghĩa là tập dữ liệu có ít biến thể hơn bạn nghĩ.

2. Trả giá mô hình nền tảng cho một tác vụ camera cố định

ACT có khoảng 80 triệu tham số và được thiết kế để huấn luyện từ đầu với 50 lần trình diễn một tác vụ. GR00T N1.7 có khoảng 3 tỷ tham số với một backbone đã được huấn luyện trước. Đối với một camera cố định, một bàn cố định và một vật thể, mô hình 80 triệu tham số thường đạt được mục tiêu, chạy khoảng 20 ms mỗi bước hành động thay vì 152 ms, và tốn 1 đến 3 USD mỗi lần chạy thay vì 4 đến 12. Hãy chi 3 USD để tìm hiểu xem mô hình rẻ hơn có hoạt động không trước khi chi 12 USD cho mô hình đắt tiền hơn. ACT so với SmolVLA và GR00T N1.7 so với Pi0.5 cho thấy khi nào mỗi mô hình không còn là lựa chọn đúng; đấu trường mô hình có 85 mô hình và 332 kết quả benchmark.

3. GPU bạn đã quên

Lỗi rẻ nhất để ngăn chặn và phổ biến nhất để mắc phải. Một phiên bản được khởi động vào thứ Sáu để gỡ lỗi sẽ bị tính phí suốt cuối tuần với cùng mức giá như một lần chạy thực tế.

Trên AY-Robots, lỗi này đã được loại bỏ trong suy luận: các pod được cung cấp bởi API suy luận mang một bộ giám sát không hoạt động và tự hủy sau một khoảng thời gian không hoạt động. Nếu bạn tự thuê card, bộ giám sát đó chính là lời nhắc trên lịch của bạn.

4. Trả tiền hai lần cho cùng một câu trả lời

Điểm vào để tinh chỉnh của GR00T là một CLI tyro không để lộ seed. Đó không phải là giới hạn của nền tảng, mà là công cụ upstream: không có trường seed trong gr00t/configs/finetune_config.py, và các mẹo huấn luyện của kho lưu trữ cảnh báo rằng các lượt chạy có thể khác nhau từ 5 đến 6 phần trăm vì các phép tăng cường hình ảnh không xác định. lerobot mặc định sử dụng seed 1000 trong cả 0.5.1 và 0.6.1, vì vậy các lượt chạy ACT, SmolVLA và Pi0.5 ít nhất có thể được chạy lại từ cùng một khởi tạo và thứ tự dữ liệu. Đó không phải là lời hứa về các trọng số giống hệt từng bit trên GPU, nhưng đó là sự khác biệt giữa việc chạy lại và một thử nghiệm mới. Nếu một lượt chạy GR00T tạo ra một chính sách hoạt động và bạn không giữ điểm kiểm tra, bạn phải trả toàn bộ chi phí cho một kết quả có thể khác biệt nhiều hơn so với sự khác biệt bạn đang tìm kiếm. Có một cách thứ hai để mất một điểm kiểm tra mà bạn đã trả tiền: CLI mặc định là --save-total-limit 5, được ghi lại là số lượng điểm kiểm tra tối đa được giữ trước khi các điểm cũ hơn bị xóa. Lưu trữ chỉ tốn vài xu; một lượt chạy lại tốn 4 đến 12 USD và sáu giờ.

Tự làm so với để nền tảng thuê card

# GR00T N1.7, single GPU, Isaac-GR00T as of August 2026.
# Note the entry point: gr00t/experiment/launch_finetune.py, a tyro CLI.
# scripts/gr00t_finetune.py does not exist in this repository; tutorials that
# still reference it are stale. The per-embodiment walkthrough is
# getting_started/finetune_new_embodiment.md.
CUDA_VISIBLE_DEVICES=0 uv run python gr00t/experiment/launch_finetune.py \
    --base-model-path nvidia/GR00T-N1.7-3B \
    --dataset-path demo_data/cube_to_bowl_5 \
    --embodiment-tag NEW_EMBODIMENT \
    --modality-config-path examples/SO100/so100_config.py \
    --num-gpus 1 \
    --output-dir ./so100-checkpoints \
    --max-steps 20000 \
    --global-batch-size 32 \
    --dataloader-num-workers 4

# v3.0 dataset? Convert it down first or the loader will crash. The helper
# has its own pyproject and must be installed in its own environment:
cd scripts/lerobot_conversion
uv venv && source .venv/bin/activate
uv pip install -e .
python convert_v3_to_v2.py --repo-id <DATASET_REPO_ID>

Nền tảng tính phí như thế nào và cách nó chọn thẻ

Logic được thiết kế đơn giản. Mọi mô hình trong danh mục khai báo một cấp GPU; hệ thống phụ trợ lấy VRAM cần thiết và thuê một thẻ phù hợp trên cùng thị trường giao ngay được đo lường ở trên. Đó là lý do tại sao chi phí được báo giá là một khoảng, không phải một mức giá cố định. GR00T và Pi0.5 chỉ chạy trên đám mây ở đây vì yêu cầu tối thiểu 40 GB và 70 GB. SmolVLA và ACT cũng chạy cục bộ trên thẻ 24 GB của riêng bạn, nơi chi phí đám mây bằng 0 và điện là vấn đề của bạn.

Một tùy chỉnh cần được cảnh báo. Tích lũy gradient thực sự áp dụng cho cả hai biến thể GR00T, vì vậy việc tăng nó sẽ mua một lô hiệu quả lớn hơn trên cùng một thẻ. Đối với Pi0.5 và SmolVLA, nó hoàn toàn không áp dụng: lerobot 0.5.1 không có tùy chọn tích lũy gradient trong cấu hình huấn luyện của nó, vì vậy việc đặt trường này thành 16 không tốn kém gì và không mang lại lợi ích gì. Nếu một công việc đang chờ không bao giờ bắt đầu, trang về công việc bị kẹt trong hàng đợi bao gồm những gì cần kiểm tra; nếu tập dữ liệu bị từ chối trước khi chạy bắt đầu, thì hầu như luôn là vấn đề định dạng v3.0.

Ngân sách chi tiết cho một chính sách hoạt động đầu tiên

Tất cả bốn dòng cùng nhau, bắt đầu từ con số không. Tổng chi phí GPU giả định 3 đến 5 lần chạy: lần đầu tiên chứng minh quy trình hoạt động, lần thứ hai phát hiện vấn đề dữ liệu, lần thứ ba hoặc thứ tư là lần bạn giữ lại.

Quy luật này vẫn đúng với kích thước robot này: tính toán chỉ là sai số làm tròn, phần cứng là chi phí một lần thực sự, giờ công của con người là chi phí định kỳ. Để kiểm tra phần huấn luyện trước khi mua bất cứ thứ gì, các điểm truy cập không cần phần cứng cho phép bạn so sánh các mô hình và thuê GPU mà không cần cánh tay robot, và cánh tay robot trực tiếp là một SO-100 vật lý mà bạn có thể điều khiển trong trình duyệt mà không cần đăng ký. Đối với toàn bộ quy trình từ đầu đến cuối, hướng dẫn SO-100 đầy đủ bao gồm thiết lập, điều khiển từ xa và huấn luyện, và huấn luyện chính sách đầu tiên của bạn là phiên bản rút gọn.