Jak trenować Pi0.5 na własnych danych robota

Pi0.5 to model, po który sięgasz, gdy polityka musi działać w pomieszczeniu, którego nigdy nie widziała. Jest to również najbardziej kłopotliwa z pięciu szkolonych polityk tutaj, aby dostroić ręcznie: repozytorium nadrzędne jest przede wszystkim JAX, port LeRobot przeniósł wdrożenie poza lerobot-record w wersji 0.6.0 i sprawił, że podstawowa instalacja jest zbyt mała do trenowania, a pełne dostrojenie nie mieści się na karcie 4090. Poniżej: co dopasowanie przepływu kosztuje podczas wnioskowania, dwie ścieżki poleceń i liczba 485 ms, która decyduje o tym, czy wynik jest użyteczny.

Czym właściwie jest Pi0.5

Physical Intelligence opublikowało pi0 w październiku 2024 roku: model z dopasowaniem przepływu model wizualno-językowo-akcyjny oparty na wstępnie wytrenowanym VLM: PaliGemma z 3 miliardami parametrów plus 300M ekspert akcji zainicjowany od zera, łącznie 3.3 miliarda. Artykuł donosi o wstępnym trenowaniu na ponad 10 000 godzin danych robota w 7 konfiguracjach robotów i 68 zadaniach. Więcej w artykule o pi0.

Pi0.5 (arXiv 2504.16054, 22 kwietnia 2025) zachowuje ten szkielet i zmienia dietę treningową: dane z sieci, detekcja obiektów, instrukcje werbalne od ludzi szkolących robota, etykiety podzadań, dane międzycielesne od robotów w wielu domach. Rezultatem jest robot sprzątający kuchnie w domach, które nie były w zestawie treningowym. Plik README openpi dodaje szczegół, którego nie ma w tytule: wydany pi0.5 został wytrenowany z izolacją wiedzy (arXiv 2505.23705).

Co dopasowanie przepływu zmienia w treningu i wnioskowaniu

Polityka którą można trenować na SO-100, albo bezpośrednio regresuje akcje (ACT) albo je tokenizuje i dekoduje autoregresywnie (pi0-FAST). Dopasowanie przepływu nie robi żadnej z tych rzeczy: uczy się pola wektorowego, które przenosi szum do czystego fragmentu akcji, a następnie go integruje. Artykuł pi0 wykorzystuje 10 kroków integracji o rozmiarze kroku 0.1; konfiguracja pi05 LeRobot zawiera to samo num_inference_steps: int = 10.

• Trening: funkcja straty regresuje zaszumiony fragment akcji. Brak tokenizatora do strojenia, brak dyskretyzacji kątów stawów.
• Inferencja: jeden fragment kosztuje dziesięć przejść do przodu przez eksperta akcji. Jest to strukturalne, a nie problem strojenia.
• Wyjście: ciągłe akcje o wymiarze 32, wewnętrznie wypełnione, strata obliczana na wymiarach, które posiada twój robot. Ramię 6-DoF plus chwytak wykorzystuje 7.

# openpi/src/openpi/models/pi0_config.py - the defaults every pi05 config inherits
@dataclasses.dataclass(frozen=True)
class Pi0Config(_model.BaseModelConfig):
    dtype: str = "bfloat16"
    paligemma_variant: _gemma.Variant = "gemma_2b"
    action_expert_variant: _gemma.Variant = "gemma_300m"

    action_dim: int = 32
    action_horizon: int = 50
    max_token_len: int = None      # 200 if pi05 else 48

    pi05: bool = False             # flips discrete_state_input to True

Rdzeń PaliGemma i brama przed nim

PaliGemma (arXiv 2407.07726) to koder wizyjny SigLIP-So400m oparty na modelu językowym Gemma-2B, liczący około 3B parametrów. Pi0.5 dziedziczy swój tokenizer, a ten tokenizer znajduje się w repozytorium z ograniczonym dostępem. Jest to najczęstszy sposób, w jaki pierwsze uruchomienie kończy się niepowodzeniem, jeszcze przed pierwszym krokiem treningowym.

Zanim zaczniesz: format zbioru danych, epizody, sprzęt

Pi0.5 w LeRobot odczytuje zbiór danych LeRobot w układzie v3.0, który pojawił się wraz z lerobot 0.4.0 w październiku 2025: wiele epizodów na plik Parquet i MP4 zamiast jednego pliku na epizod, z granicami w meta/episodes/ zamiast w nazwach plików. Nagrywaj za pomocą klienta desktopowego lub postępuj zgodnie z nagrywaniem pierwszego zbioru danych i masz to.

# v2.1 -> v3.0, run against a dataset already on the Hub
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=<HF_USER/DATASET_ID>

# aggregates episode-0000.parquet, episode-0001.parquet, ... -> file-0000.parquet
# aggregates episode-0000.mp4, episode-0001.mp4, ...         -> file-0000.mp4
# rewrites meta/episodes/* with per-episode lengths, tasks and offsets

Platforma wymaga co najmniej 50 epizodów dla Pi0.5, co jest takim samym minimum jak dla GR00T i ACT. Wstępne trenowanie wykonuje większość pracy, więc 50 czystych epizodów jest lepsze niż 200 niedbałych. Jesteś nowy w tym temacie? Zacznij od przewodnika po zbieraniu danych.

Trasa A: dostrajanie z repozytorium openpi

Implementacja referencyjna: najpierw JAX, testowana tylko na Ubuntu 22.04, sterowana obiektami konfiguracyjnymi zamiast flagami. Ścieżka PyTorch pojawiła się we wrześniu 2025 roku, zweryfikowana na LIBERO. Trzy kroki: konwersja danych, definicja konfiguracji, trenowanie i serwowanie.

1. 1
   Klonowanie i instalacja

   openpi używa uv. GIT_LFS_SKIP_SMUDGE to mechanizm, który pozwala LeRobotowi działać jako zależność bez obiektów LFS.

   bash

   git clone --recurse-submodules git@github.com:Physical-Intelligence/openpi.git
   cd openpi
   
   GIT_LFS_SKIP_SMUDGE=1 uv sync
   GIT_LFS_SKIP_SMUDGE=1 uv pip install -e .

2. 2
   Konwersja danych do zbioru danych LeRobot

   Upstream dostarcza konwertery dla LIBERO i DROID i oczekuje, że dostosujesz jeden z nich. Praca polega na mapowaniu kluczy.

   bash

   uv run examples/libero/convert_libero_data_to_lerobot.py --data_dir /path/to/your/data

3. 3
   Dodanie konfiguracji treningowej

   Konfiguracje to wpisy TrainConfig w src/openpi/training/config.py. Ta adaptuje pi05_droid_finetune, z ładowarką wag wskazującą na pi05_base.

   python

   TrainConfig(
       name="pi05_so100",
       model=pi0_config.Pi0Config(
           pi05=True,
           action_dim=32,        # pi05 is trained with 32-dim actions
           action_horizon=16,
       ),
       # Copy LeRobotLiberoDataConfig in the same file and rewrite the key
       # mapping for your camera names, then reference your copy here.
       data=LeRobotLiberoDataConfig(
           repo_id="your_hf_username/my_so100_dataset",
           base_config=DataConfig(prompt_from_task=True),
       ),
       weight_loader=weight_loaders.CheckpointWeightLoader(
           "gs://openpi-assets/checkpoints/pi05_base/params"
       ),
       batch_size=32,
       num_train_steps=20_000,
   )

4. 4
   Obliczanie statystyk norm

   Uruchamia się względem nazwy konfiguracji, a nie zbioru danych. Pominięcie tego to klasyczna pierwsza awaria w tym miejscu.

   bash

   uv run scripts/compute_norm_stats.py --config-name pi05_so100

5. 5
   Trenowanie

   Zmienna pozwala JAX-owi używać 90 procent pamięci GPU zamiast domyślnych 75. Na karcie 80 GB to decyduje, czy uruchomienie zakończy się sukcesem.

   bash

   XLA_PYTHON_CLIENT_MEM_FRACTION=0.9 uv run scripts/train.py pi05_so100 \
       --exp-name=my_experiment \
       --overwrite

6. 6
   Serwowanie

   Serwer nasłuchuje na porcie 8000 i odpowiada na zapytania obserwacyjne; środowisko uruchomieniowe twojego robota jest klientem.

   bash

   uv run scripts/serve_policy.py policy:checkpoint \
       --policy.config=pi05_so100 \
       --policy.dir=checkpoints/pi05_so100/my_experiment/20000

Trasa B: dostrajanie z lerobot pi05

Port LeRobot opakowuje te same wagi w interfejsie CLI, którego już używasz dla ACT i SmolVLA. Wszystko poniżej zostało sprawdzone w oparciu o lerobot 0.6.1, wydanie z 3 sierpnia 2026 roku, oraz dokumentację pi05 z 23 sierpnia 2026 roku. Wersje mają tu znaczenie: zestawy danych v3.0 pojawiły się z 0.4.0 w październiku 2025 roku, blog 0.5.0 z 9 marca 2026 roku przedstawia pi0-FAST i Real-Time Chunking, a 0.6.0 z 6 lipca 2026 roku uczynił pakiet bazowy lekkim i przeniósł wdrożenie do lerobot-rollout.

Jedna rzecz się nie zmieniła: lerobot-train i lerobot-record były już punktami wejścia w wersji 0.3.2, sierpień 2025. Samouczek, który nadal wywołuje python -m lerobot.scripts.train, pochodzi sprzed roku zmian i warto mu nie ufać również w pozostałych kwestiach.

1. 1
   Instalacja z odpowiednimi dodatkami

   Od wersji 0.6.0 podstawowa instalacja zawiera tylko kluczowe zależności ML, a dodatek pi nie zawiera kodu do obsługi zbiorów danych ani trenowania, więc dostrajanie wymaga również dodatku do trenowania. Starsze jednowierszowe polecenia zawiodą tutaj podczas importu.

   bash

   # policy dependencies plus the training stack
   pip install 'lerobot[pi,training]'
   
   # from a source checkout
   pip install -e ".[pi,training]"
   
   # driving an SO-100 afterwards needs the robot extras too
   pip install 'lerobot[core_scripts,feetech]'

2. 2
   Uwierzytelnij się

   Zaakceptuj licencję paligemma-3b-pt-224 w przeglądarce, a następnie zaloguj się na maszynie, która trenuje.

   bash

   hf auth login

3. 3
   Dodaj statystyki kwantylowe

   Pi0.5 normalizuje STATE i ACTION za pomocą kwantyli, więc meta/stats.json wymaga q01 i q99. Starsze zbiory danych zawierają tylko min, max, mean, std.

   bash

   lerobot-edit-dataset \
       --repo_id your_dataset \
       --new_repo_id your_dataset \
       --operation.type recompute_stats \
       --operation.overwrite true

4. 4
   Dostrój z lerobot/pi05_base

   Ustaw rozmiar partii na taki, jaki wytrzyma Twoja karta; dokumentacja używa 64 na LIBERO przy 80 GB. Przekaż bfloat16 jawnie, domyślna konfiguracja to float32.

   bash

   lerobot-train \
       --dataset.repo_id=${HF_USER}/my_so100_dataset \
       --policy.type=pi05 \
       --policy.pretrained_path=lerobot/pi05_base \
       --policy.gradient_checkpointing=true \
       --policy.dtype=bfloat16 \
       --policy.device=cuda \
       --policy.push_to_hub=false \
       --output_dir=./outputs/pi05_so100 \
       --job_name=pi05_so100 \
       --batch_size=4 \
       --num_workers=8 \
       --steps=30000 \
       --save_freq=5000 \
       --seed=1000

5. 5
   Uruchom na ramieniu

   W wersji 0.6.x jest to lerobot-rollout: lerobot-record odrzuca politykę i nazwy zbiorów danych eval_. Base steruje ramieniem, sentry rejestruje przebieg.

   bash

   lerobot-rollout \
       --strategy.type=base \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
       --task="Put lego brick into the transparent box" \
       --duration=60
   
   # same run, recorded into an eval_ dataset
   lerobot-rollout \
       --strategy.type=sentry \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --dataset.repo_id=${HF_USER}/eval_so100 \
       --dataset.single_task="Put lego brick into the transparent box" \
       --duration=600

Trzy zestawy wartości domyślnych i które z nich docierają do trenera

TrainConfig od openpi jest referencją, PI05Config od LeRobot jest tym, czego używa lerobot-train, gdy nic nie określisz, a formularz tutaj wysyła trzeci zestaw. Zaskoczeniem jest szybkość uczenia: obie domyślne wartości upstream osiągają szczyt 2.5e-5, podczas gdy własna konfiguracja pi05_libero openpi i ta platforma podnoszą ją do 5e-5.

Czy port jest wierny? Zespół LeRobot dostroił model bazowy LIBERO przez kolejne 6 tys. kroków i porównał go z referencyjnymi wynikami openpi na czterech zestawach: średnio 97,5 procenta wobec 96,85, wyprzedzając na Libero 10, pozostając w tyle na Spatial. Wybór ścieżki to kwestia narzędzi, nie jakości.

Rzeczywistość 485 ms i punkt, w którym przestaje być użyteczna

To decyduje o Twoim projekcie, więc jest przed tabelą kosztów. na krok akcji zmierzone tutaj dla Pi0.5 wynosi 485 ms. W porównaniu z pozostałymi czterema:

Upstream ma odpowiedź, a połowa z niej jest już dostępna w wydaniu, które możesz zainstalować. Real-Time Chunking generuje następny fragment, podczas gdy ramię wciąż wykonuje bieżący, a następnie prowadzi nakładające się kroki nowego fragmentu, aby pozostały blisko już wykonanej części, dzięki czemu ramię nie zatrzymuje się ani nie szarpie na łączeniu. Wariant czasu inferencji został dostarczony w dzienniku zmian 0.4.2 dla Pi0, Pi0.5 i SmolVLA i jest flagą wdrożenia, a nie ponownego treningu:

lerobot-rollout \
    --strategy.type=base \
    --policy.path=${HF_USER}/my_policy \
    --inference.type=rtc \
    --inference.rtc.execution_horizon=10 \
    --inference.rtc.max_guidance_weight=10.0 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM1 \
    --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
    --task="Put lego brick into the transparent box" \
    --duration=60

Nie przyspiesza to modelu. Ukrywa to lukę: 485 ms jest nadal zużywane, ale poza ścieżką krytyczną, więc kolejka nie wyczerpuje się między fragmentami. Wariant czasu treningu z arXiv 2512.05964 idzie dalej: model uczy się warunkować na czystym prefiksie akcji, więc podczas inferencji nakładanie się jest 'twardo' wypełniane krokami czasowymi przepływu dla każdej akcji zamiast być prowadzone, a wsteczne przejście prowadzenia znika. Podczas treningu próbkuje długość prefiksu dla każdego przykładu i oblicza stratę przepływu na pozostałym postfiksie. Ta flaga jest dostępna tylko w gałęzi głównej, nie w wersji 0.6.1, a opóźnienie, dla którego trenujesz, musi pozostać poniżej chunk_size.

Dwa sposoby na uzyskanie punktu kontrolnego Pi0.5

lerobot-train \
    --dataset.repo_id=${HF_USER}/my_so100_dataset \
    --policy.type=pi05 \
    --policy.pretrained_path=lerobot/pi05_base \
    --policy.rtc_training_max_delay=10 \
    --policy.gradient_checkpointing=true \
    --policy.dtype=bfloat16 \
    --batch_size=4 --steps=30000 --seed=1000

Gdy to nie działa

• Zbiór danych odrzucony: wymagana wersja v3
• Brak pamięci podczas trenowania
• Spadek funkcji straty, ale polityka nic nie robi
• Polityka zawiesza się w trakcie ruchu
• Polityka działa tylko w jednej konfiguracji
• Zadanie treningowe utknęło w kolejce

Ile kosztuje jedno uruchomienie

Pi0.5 znajduje się w drogiej warstwie, ponieważ wymaga karty 80 GB, a ceny spotowe się zmieniają, więc podana wartość to zakres, a nie konkretna cena. Dla wielu zadań SO-100, trenuj SmolVLA lub ACT na warstwie 24 GB najpierw, upewnij się, że zadanie jest w ogóle możliwe do nauczenia, a następnie poświęć na nie godziny A100. Trenuj swoją pierwszą politykę przedstawia tę tańszą pętlę, a cennik zawiera aktualne warstwy.

Zanim poświęcisz wieczór: GR00T N1.7 kontra Pi0.5 i Pi0.5 kontra SmolVLA przedstawiają te same liczby w bezpośrednim porównaniu. Arena zawiera 85 modeli VLA z 332 wynikami benchmarków, każdy połączony ze swoim źródłem, a tło rodziny znajduje się w naszym przeglądzie VLA.