Kako trenirati Pi0.5 na lastnih robotskih podatkih

Pi0.5 je model, po katerem posežete, ko mora politika delovati v prostoru, ki ga še nikoli ni videla. Je tudi najbolj neroden od petih učljivih politik tukaj za fino uglaševanje ročno: nadrejeno skladišče je najprej JAX, LeRobot prenos je premaknil uvajanje iz lerobot-record v 0.6.0 in naredil osnovno namestitev premajhno za učenje, in popolno fino uglaševanje ne ustreza na 4090. Spodaj: kaj ujemanje toka stane pri sklepanju, dve poti ukazov in številka 485 ms, ki odloča, ali je rezultat uporaben.

Kaj je Pi0.5 v resnici

Physical Intelligence je oktobra 2024 objavil pi0: model "ujemanja toka" vizualno-jezikovno-akcijski model na vnaprej usposobljenem VLM: PaliGemma s 3 milijardami parametrov plus 300M strokovnjak za dejanja, inicializiran iz nič, skupaj 3.3 milijarde. Članek poroča o predhodnem usposabljanju na več kot 10.000 urah robotskih podatkov v 7 robotskih konfiguracijah in 68 nalogah. Več v članku o pi0.

Pi0.5 (arXiv 2504.16054, 22 April 2025) ohranja to ogrodje in spreminja prehrano za usposabljanje: spletni podatki, zaznavanje objektov, verbalna navodila ljudi, ki usmerjajo robota, oznake podnalog, podatki med različnimi utelešenji robotov v mnogih domovih. Rezultat je robot, ki čisti kuhinje v hišah, ki niso bile v naboru za usposabljanje. Datoteka README projekta openpi dodaja podrobnost, ki je naslov ne omenja: izdani pi0.5 je bil usposobljen z izolacijo znanja (arXiv 2505.23705).

Kaj flow matching spreminja pri usposabljanju in sklepanju

Politika, ki jo lahko trenirate na SO-100, politiko bodisi neposredno regresira dejanja (ACT) ali jih tokenizira in avtoregresivno dekodira (pi0-FAST). Ujemanje toka ne dela nobenega od teh: nauči se vektorskega polja, ki prenaša šum v čisto kos dejanja, nato pa ga integrira. Članek pi0 uporablja 10 integracijskih korakov z velikostjo koraka 0.1; konfiguracija pi05 LeRobota vsebuje enako num_inference_steps: int = 10.

• Usposabljanje: izguba regresira hrupni del akcije. Brez tokenizatorja za uglaševanje, brez diskretizacije vaših kotov sklepov.
• Inferenca: en del stane deset prehodov naprej skozi strokovnjaka za akcijo. To je strukturno, ne problem uglaševanja.
• Izhod: zvezne akcije dimenzije 32, interno oblazinjene, izguba se izračuna na dimenzijah, ki jih ima vaš robot. Roka s 6 stopinjami svobode plus prijemalo uporablja 7.

# openpi/src/openpi/models/pi0_config.py - the defaults every pi05 config inherits
@dataclasses.dataclass(frozen=True)
class Pi0Config(_model.BaseModelConfig):
    dtype: str = "bfloat16"
    paligemma_variant: _gemma.Variant = "gemma_2b"
    action_expert_variant: _gemma.Variant = "gemma_300m"

    action_dim: int = 32
    action_horizon: int = 50
    max_token_len: int = None      # 200 if pi05 else 48

    pi05: bool = False             # flips discrete_state_input to True

Hrbtenica PaliGemma in vrata pred njo

PaliGemma (arXiv 2407.07726) je vizualni kodirnik SigLIP-So400m na jezikovnem modelu Gemma-2B, z približno 3B parametri. Pi0.5 podeduje svoj tokenizator, in ta tokenizator se nahaja v zaprtem repozitoriju. To je najpogostejši način, kako se prvi zagon ustavi, pred prvim korakom usposabljanja.

Preden začnete: format podatkovnega nabora, epizode, strojna oprema

Pi0.5 v LeRobotu bere podatkovni nabor LeRobot v postavitvi v3.0, ki je prišla z lerobot 0.4.0 oktobra 2025: veliko epizod na datoteko Parquet in MP4 namesto ene datoteke na epizodo, z mejami v meta/episodes/ namesto v imenih datotek. Posnemite z namiznim odjemalcem ali sledite posnemite svoj prvi podatkovni nabor in ga imate.

# v2.1 -> v3.0, run against a dataset already on the Hub
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=<HF_USER/DATASET_ID>

# aggregates episode-0000.parquet, episode-0001.parquet, ... -> file-0000.parquet
# aggregates episode-0000.mp4, episode-0001.mp4, ...         -> file-0000.mp4
# rewrites meta/episodes/* with per-episode lengths, tasks and offsets

Platforma zahteva vsaj 50 epizod za Pi0.5, kar je enako kot za GR00T in ACT. Predhodno usposabljanje opravi večino dela, zato je 50 čistih epizod boljših od 200 površnih. Ste novi pri tem? Začnite z vodnikom za zbiranje podatkov.

Pot A: natančna nastavitev z repozitorijem openpi

Referenčna implementacija: najprej JAX, testirana samo na Ubuntu 22.04, vodena z objekti konfiguracije namesto z zastavicami. Pot PyTorch je prispela septembra 2025, potrjena na LIBERO. Trije koraki: pretvorite svoje podatke, določite konfiguracijo, usposobite in servirajte.

1. 1
   Kloniraj in namesti

   openpi uporablja uv. GIT_LFS_SKIP_SMUDGE omogoča, da LeRobot pride kot odvisnost brez LFS blobov.

   bash

   git clone --recurse-submodules git@github.com:Physical-Intelligence/openpi.git
   cd openpi
   
   GIT_LFS_SKIP_SMUDGE=1 uv sync
   GIT_LFS_SKIP_SMUDGE=1 uv pip install -e .

2. 2
   Pretvori svoje podatke v nabor podatkov LeRobot

   Upstream dobavlja pretvornike za LIBERO in DROID in pričakuje, da boste enega prilagodili. Delo je preslikava ključev.

   bash

   uv run examples/libero/convert_libero_data_to_lerobot.py --data_dir /path/to/your/data

3. 3
   Dodaj konfiguracijo usposabljanja

   Konfiguracije so vnosi TrainConfig v src/openpi/training/config.py. Ta prilagaja pi05_droid_finetune, z nalagalnikom uteži, usmerjenim na pi05_base.

   python

   TrainConfig(
       name="pi05_so100",
       model=pi0_config.Pi0Config(
           pi05=True,
           action_dim=32,        # pi05 is trained with 32-dim actions
           action_horizon=16,
       ),
       # Copy LeRobotLiberoDataConfig in the same file and rewrite the key
       # mapping for your camera names, then reference your copy here.
       data=LeRobotLiberoDataConfig(
           repo_id="your_hf_username/my_so100_dataset",
           base_config=DataConfig(prompt_from_task=True),
       ),
       weight_loader=weight_loaders.CheckpointWeightLoader(
           "gs://openpi-assets/checkpoints/pi05_base/params"
       ),
       batch_size=32,
       num_train_steps=20_000,
   )

4. 4
   Izračunaj normativne statistike

   Izvaja se glede na ime konfiguracije, ne nabora podatkov. Preskakovanje je tukaj klasična prva napaka.

   bash

   uv run scripts/compute_norm_stats.py --config-name pi05_so100

5. 5
   Usposobi

   Spremenljivka omogoča JAX-u, da uporablja 90 odstotkov pomnilnika GPU namesto privzetih 75. Na 80 GB kartici to odloča, ali bo izvajanje preživelo.

   bash

   XLA_PYTHON_CLIENT_MEM_FRACTION=0.9 uv run scripts/train.py pi05_so100 \
       --exp-name=my_experiment \
       --overwrite

6. 6
   Serviraj

   Strežnik posluša na vratih 8000 in odgovarja na poizvedbe opazovanja; vaše robotsko izvajalno okolje je odjemalec.

   bash

   uv run scripts/serve_policy.py policy:checkpoint \
       --policy.config=pi05_so100 \
       --policy.dir=checkpoints/pi05_so100/my_experiment/20000

Pot B: fino uglaševanje z lerobot pi05

Vrata LeRobot ovijejo iste uteži v CLI, ki ga že uporabljate za ACT in SmolVLA. Vse spodaj je bilo preverjeno z lerobot 0.6.1, izdajo od 3. avgusta 2026, in dokumentacijo pi05 z dne 23. avgusta 2026. Različice so tukaj pomembne: nabori podatkov v3.0 so prispeli z 0.4.0 oktobra 2025, blog 0.5.0 z dne 9. marca 2026 predstavlja pi0-FAST in Real-Time Chunking, in 0.6.0 z dne 6. julija 2026 je osnovni paket naredil lahek in premaknil uvajanje na lerobot-rollout.

Ena stvar se ni premaknila: lerobot-train in lerobot-record sta bila že vstopni točki v 0.3.2, avgusta 2025. Vadnica, ki še vedno kliče python -m lerobot.scripts.train, je starejša od enega leta sprememb in ji je vredno ne zaupati tudi glede ostalega.

1. 1
   Namestitev s pravimi dodatki

   Od različice 0.6.0 osnovna namestitev vključuje le osnovne odvisnosti ML, dodatek pi pa ne dodaja kode za podatkovne zbirke ali usposabljanje, zato je za fino nastavitev potreben tudi dodatek za usposabljanje. Starejše enovrstične namestitve tukaj odpovejo ob času uvoza.

   bash

   # policy dependencies plus the training stack
   pip install 'lerobot[pi,training]'
   
   # from a source checkout
   pip install -e ".[pi,training]"
   
   # driving an SO-100 afterwards needs the robot extras too
   pip install 'lerobot[core_scripts,feetech]'

2. 2
   Avtentikacija

   Sprejmite licenco paligemma-3b-pt-224 v brskalniku, nato se prijavite na napravi, ki izvaja usposabljanje.

   bash

   hf auth login

3. 3
   Dodajanje kvantilnih statistik

   Pi0.5 normalizira STATE in ACTION s kvantili, zato meta/stats.json potrebuje q01 in q99. Starejše podatkovne zbirke vsebujejo le min, max, mean, std.

   bash

   lerobot-edit-dataset \
       --repo_id your_dataset \
       --new_repo_id your_dataset \
       --operation.type recompute_stats \
       --operation.overwrite true

4. 4
   Fina nastavitev iz lerobot/pi05_base

   Nastavite velikost paketa na tisto, kar vaša kartica prenese; dokumentacija uporablja 64 na LIBERO pri 80 GB. Eksplicitno podajte bfloat16, privzeta konfiguracija je float32.

   bash

   lerobot-train \
       --dataset.repo_id=${HF_USER}/my_so100_dataset \
       --policy.type=pi05 \
       --policy.pretrained_path=lerobot/pi05_base \
       --policy.gradient_checkpointing=true \
       --policy.dtype=bfloat16 \
       --policy.device=cuda \
       --policy.push_to_hub=false \
       --output_dir=./outputs/pi05_so100 \
       --job_name=pi05_so100 \
       --batch_size=4 \
       --num_workers=8 \
       --steps=30000 \
       --save_freq=5000 \
       --seed=1000

5. 5
   Zagon na roki

   V 0.6.x je to lerobot-rollout: lerobot-record zavrača politiko in zavrača imena podatkovnih zbirk eval_. Base poganja roko, sentry beleži izvedbo.

   bash

   lerobot-rollout \
       --strategy.type=base \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
       --task="Put lego brick into the transparent box" \
       --duration=60
   
   # same run, recorded into an eval_ dataset
   lerobot-rollout \
       --strategy.type=sentry \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --dataset.repo_id=${HF_USER}/eval_so100 \
       --dataset.single_task="Put lego brick into the transparent box" \
       --duration=600

Trije nabori privzetih vrednosti in katere dosežejo trenerja

openpi's TrainConfig je referenca, LeRobot's PI05Config je tisto, kar lerobot-train uporablja, ko ne poveste ničesar, in obrazec tukaj pošlje tretji nabor. Presenečenje je stopnja učenja: obe privzeti nastavitvi dosežeta vrh pri 2.5e-5, medtem ko openpi-jeva lastna konfiguracija pi05_libero in ta platforma to dvigneta na 5e-5.

Je prenos zvest? Ekipa LeRobot je model LIBERO dodatno natančno umerila za 6 tisoč korakov in ga primerjala z referenčnimi številkami openpi na štirih sklopih: 97.5 odstotka povprečno proti 96.85, prednost pri Libero 10, zaostanek pri Spatial. Pot je izbira orodja, ne kakovosti.

Realnost 485 ms in kje postane neuporabna

To odloča o vašem projektu, zato je pred tabelo stroškov. na korak dejanja, izmerjena tukaj za Pi0.5, je 485 ms. V primerjavi z ostalimi štirimi:

Upstream ima odgovor, in polovica ga je že v izdaji, ki jo lahko namestite. Razdeljevanje v realnem času (Real-Time Chunking) generira naslednji blok, medtem ko roka še vedno izvaja trenutnega, nato pa vodi prekrivajoče se korake novega bloka, da ostanejo blizu že izvedenega dela, tako da se roka ne ustavi ali zatrese na spoju. Oblika za čas inference je bila poslana v dnevniku sprememb 0.4.2 za Pi0, Pi0.5 in SmolVLA in je zastavica za uvedbo, ne za ponovno učenje:

lerobot-rollout \
    --strategy.type=base \
    --policy.path=${HF_USER}/my_policy \
    --inference.type=rtc \
    --inference.rtc.execution_horizon=10 \
    --inference.rtc.max_guidance_weight=10.0 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM1 \
    --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
    --task="Put lego brick into the transparent box" \
    --duration=60

Ne pospeši modela. Skrije vrzel: 485 ms je še vedno porabljenih, vendar izven kritične poti, tako da se čakalna vrsta med bloki ne izprazni. Različica za čas učenja iz arXiv 2512.05964 gre še dlje: model se nauči pogojevati s čistim predpono dejanja, tako da se pri inferenci prekrivanje trdo vriše z časovnimi koraki toka za posamezno dejanje namesto vodenja, in povratni prehod vodenja izgine. Med učenjem vzorči dolžino predpone za vsak primer in izračuna izgubo toka na preostalem priponi. Ta zastavica je na voljo samo v glavni veji, ne v 0.6.1, in zamuda, za katero trenirate, mora ostati pod chunk_size.

Dva načina za pridobitev kontrolne točke Pi0.5

lerobot-train \
    --dataset.repo_id=${HF_USER}/my_so100_dataset \
    --policy.type=pi05 \
    --policy.pretrained_path=lerobot/pi05_base \
    --policy.rtc_training_max_delay=10 \
    --policy.gradient_checkpointing=true \
    --policy.dtype=bfloat16 \
    --batch_size=4 --steps=30000 --seed=1000

Ko ne deluje

• Zbirka podatkov zavrnjena: potrebna je v3
• Pomanjkanje pomnilnika med usposabljanjem
• Izguba pada, vendar politika ne stori ničesar
• Politika zamrzne sredi gibanja
• Politika deluje samo v eni nastavitvi
• Naloga usposabljanja obtičala v čakalni vrsti

Koliko stane en zagon

Pi0.5 spada v drag cenovni razred, ker potrebuje 80 GB kartico, in ker se cene na trgu spreminjajo, je podatek razpon in ne fiksna cena. Za številne naloge SO-100 najprej usposobite SmolVLA ali ACT na 24 GB razredu, potrdite, da je naloga sploh učljiva, nato pa zanjo porabite ure A100. Usposobite svojo prvo politiko opisuje ta cenejši postopek, in cene vsebuje trenutne cenovne razrede.

Preden se posvetite večeru: in primerjata iste številke. vsebuje 85 modelov VLA s 332 rezultati meritev, vsak povezan s svojim virom, ozadje o družini pa je v .