Kuidas treenida Pi0.5 oma robotiandmetega

Pi0.5 on mudel, mille poole pöördute, kui poliitika peab töötama ruumis, mida see pole kunagi näinud. See on ka kõige ebamugavam viiest treeningpoliitikast siin, et peenhäälestada käsitsi: ülesvoolu hoidla on esmalt JAX, LeRoboti port viis juurutamise lerobot-recordist välja versioonis 0.6.0 ja tegi baasinstalli treenimiseks liiga väikeseks ning täielik peenhäälestus ei mahu 4090-le. Allpool: mida voolu sobitamine maksab järeldamisel, kaks käsurea marsruuti ja 485 ms number, mis otsustab, kas tulemus on kasutatav.

Mis Pi0.5 tegelikult on

Physical Intelligence avaldas pi0 oktoobris 2024: voolu sobitamise nägemis-keele-tegevuse mudel eelkoolitatud VLM-il: PaliGemma 3 miljardi parameetriga pluss 300M tegevusekspert, mis on algusest peale initsialiseeritud, kokku 3.3 miljardit. Artikkel teatab eelkoolitusest üle 10 000 tunni robotiandmetega 7 roboti konfiguratsiooni ja 68 ülesande kohta. Rohkem pi0 artiklis.

Pi0.5 (arXiv 2504.16054, 22. aprill 2025) säilitab selle skeleti ja muudab treeningdieeti: veebiandmed, objektituvastus, inimeste suulised juhised robotile, alamülesannete sildid, ristkehastuse andmed robotitelt paljudes kodudes. Tulemuseks on robot, mis puhastab kööke majades, mis ei kuulunud treeningkomplekti. openpi README lisab detaili, mida pealkiri ei tee: välja antud pi0.5 treeniti teadmiste isolatsiooniga (arXiv 2505.23705).

Mida voolu sobitamine treeningus ja järeldamises muudab

A poliitika mida saab treenida SO-100-l, kas regresseerib tegevusi otse (ACT) või tokeniseerib need ja dekodeerib autoregressiivselt (pi0-FAST). Voolu sobitamine ei tee kumbagi: see õpib vektorvälja, mis transpordib müra puhtasse tegevuste plokki, seejärel integreerib selle. pi0 paber kasutab 10 integratsioonisammu sammu suurusega 0.1; LeRoboti pi05 konfiguratsioon sisaldab sama num_inference_steps: int = 10.

• Treening: kadu regresseerib müraga tegevuste plokki. Pole vaja häälestada tokeniseerijat, pole vaja liigendnurki diskretiseerida.
• Järeldamine: üks plokk maksab kümme edasisuunalist läbimist tegevuseksperdi kaudu. See on struktuurne, mitte häälestamise probleem.
• Väljund: pidevad tegevused dimensiooniga 32, sisemiselt polsterdatud, kadu võetakse roboti dimensioonide järgi. 6-DoF käsi pluss haarats kasutab 7.

# openpi/src/openpi/models/pi0_config.py - the defaults every pi05 config inherits
@dataclasses.dataclass(frozen=True)
class Pi0Config(_model.BaseModelConfig):
    dtype: str = "bfloat16"
    paligemma_variant: _gemma.Variant = "gemma_2b"
    action_expert_variant: _gemma.Variant = "gemma_300m"

    action_dim: int = 32
    action_horizon: int = 50
    max_token_len: int = None      # 200 if pi05 else 48

    pi05: bool = False             # flips discrete_state_input to True

PaliGemma selgroog ja selle ees olev värav

PaliGemma (arXiv 2407.07726) on SigLIP-So400m nägemise kodeerija Gemma-2B keelemudelil, umbes 3B parameetriga. Pi0.5 pärib oma tokeniseerija ja see tokeniseerija asub piiratud ligipääsuga repositooriumis. See on kõige tavalisem viis, kuidas esimene käivitus ebaõnnestub, enne esimest treeningusamm.

Enne alustamist: andmestiku formaat, episoodid, riistvara

Pi0.5 LeRobotis loeb LeRoboti andmestikku v3.0 paigutuses, mis saabus lerobot 0.4.0-ga oktoobris 2025: mitu episoodi Parquet- ja MP4-faili kohta ühe faili asemel iga episoodi, piiridega meta/episodes/ asemel failinimedes. Salvestage töölauakliendiga või järgige salvestage oma esimene andmestik ja teil on see olemas.

# v2.1 -> v3.0, run against a dataset already on the Hub
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=<HF_USER/DATASET_ID>

# aggregates episode-0000.parquet, episode-0001.parquet, ... -> file-0000.parquet
# aggregates episode-0000.mp4, episode-0001.mp4, ...         -> file-0000.mp4
# rewrites meta/episodes/* with per-episode lengths, tasks and offsets

Platvorm soovib Pi0.5 jaoks vähemalt 50 episoodi, sama miinimum kui GR00T ja ACT puhul. Eelõpe teeb suurema osa tööst, seega 50 puhast episoodi on parem kui 200 lohakat. Uus selles valdkonnas? Alusta andmete kogumise juhendist.

Tee A: peenhäälestamine openpi repositooriumiga

Referentsimplementatsioon: esmalt JAX, testitud ainult Ubuntu 22.04-l, juhitud konfiguratsiooniobjektide, mitte lippude abil. PyTorchi tee saabus septembris 2025, valideeritud LIBERO-l. Kolm sammu: teisendage oma andmed, määratlege konfiguratsioon, treenige ja serveerige.

1. 1
   Kloonimine ja installimine

   openpi kasutab uv-d. GIT_LFS_SKIP_SMUDGE võimaldab LeRobotil tulla sõltuvusena ilma LFS-blobideta.

   bash

   git clone --recurse-submodules git@github.com:Physical-Intelligence/openpi.git
   cd openpi
   
   GIT_LFS_SKIP_SMUDGE=1 uv sync
   GIT_LFS_SKIP_SMUDGE=1 uv pip install -e .

2. 2
   Teisendage oma andmed LeRoboti andmestikuks

   Ülesvoolu tarnitakse LIBERO ja DROID jaoks konverterid ning eeldatakse, et kohandate ühte neist. Töö seisneb võtmete kaardistamises.

   bash

   uv run examples/libero/convert_libero_data_to_lerobot.py --data_dir /path/to/your/data

3. 3
   Lisage treeningkonfiguratsioon

   Konfiguratsioonid on TrainConfig kirjed failis src/openpi/training/config.py. See kohandab pi05_droid_finetune'i, kus kaalude laadija on suunatud pi05_base'ile.

   python

   TrainConfig(
       name="pi05_so100",
       model=pi0_config.Pi0Config(
           pi05=True,
           action_dim=32,        # pi05 is trained with 32-dim actions
           action_horizon=16,
       ),
       # Copy LeRobotLiberoDataConfig in the same file and rewrite the key
       # mapping for your camera names, then reference your copy here.
       data=LeRobotLiberoDataConfig(
           repo_id="your_hf_username/my_so100_dataset",
           base_config=DataConfig(prompt_from_task=True),
       ),
       weight_loader=weight_loaders.CheckpointWeightLoader(
           "gs://openpi-assets/checkpoints/pi05_base/params"
       ),
       batch_size=32,
       num_train_steps=20_000,
   )

4. 4
   Arvutage normistatistika

   Käivitub konfiguratsiooni nime, mitte andmestiku vastu. Selle vahelejätmine on siin klassikaline esimene viga.

   bash

   uv run scripts/compute_norm_stats.py --config-name pi05_so100

5. 5
   Treenimine

   Muutuja võimaldab JAX-il kasutada 90 protsenti GPU mälust vaikimisi 75 asemel. 80 GB kaardil otsustab see, kas käivitus õnnestub.

   bash

   XLA_PYTHON_CLIENT_MEM_FRACTION=0.9 uv run scripts/train.py pi05_so100 \
       --exp-name=my_experiment \
       --overwrite

6. 6
   Serveeri seda

   Server kuulab pordil 8000 ja vastab vaatluspäringutele; teie roboti käitusaeg on klient.

   bash

   uv run scripts/serve_policy.py policy:checkpoint \
       --policy.config=pi05_so100 \
       --policy.dir=checkpoints/pi05_so100/my_experiment/20000

Tee B: peenhäälestamine lerobot pi05-ga

LeRoboti port pakib samad kaalud CLI-sse, mida te juba kasutate ACT ja SmolVLA. Kõik alljärgnev kontrolliti lerobot 0.6.1 (väljaanne alates 3. augustist 2026) ja pi05 dokumentatsiooni (23. august 2026) vastu. Versioonid on siin olulised: v3.0 andmestikud saabusid koos 0.4.0-ga oktoobris 2025, 9. märtsi 2026. aasta 0.5.0 blogi tutvustab pi0-FAST-i ja Real-Time Chunking'ut ning 6. juuli 2026. aasta 0.6.0 tegi baaspaketi kergeks ja viis juurutamise lerobot-rollout'i.

Üks asi ei muutunud: lerobot-train ja lerobot-record olid juba sisenemispunktid versioonis 0.3.2, august 2025. Õpetus, mis endiselt kutsub python -m lerobot.scripts.train, on aasta jagu muutustest vanem ja väärib ka ülejäänud osas umbusaldamist.

1. 1
   Installimine õigete lisapakettidega

   Alates versioonist 0.6.0 sisaldab baasinstall ainult ML-i põhisõltuvusi ning pi-lisapakett ei lisa andmestiku ega treeningkoodi, seega vajab peenhäälestus ka treeningu lisapaketti. Vanemad üherealised käsud ebaõnnestuvad siin importimise ajal.

   bash

   # policy dependencies plus the training stack
   pip install 'lerobot[pi,training]'
   
   # from a source checkout
   pip install -e ".[pi,training]"
   
   # driving an SO-100 afterwards needs the robot extras too
   pip install 'lerobot[core_scripts,feetech]'

2. 2
   Autentimine

   Nõustu paligemma-3b-pt-224 litsentsiga brauseris, seejärel logi sisse masinasse, mis treenib.

   bash

   hf auth login

3. 3
   Lisa kvantiilstatistika

   Pi0.5 normaliseerib STATE ja ACTION kvantiilidega, seega vajab meta/stats.json q01 ja q99. Vanemad andmestikud sisaldavad ainult min, max, mean, std.

   bash

   lerobot-edit-dataset \
       --repo_id your_dataset \
       --new_repo_id your_dataset \
       --operation.type recompute_stats \
       --operation.overwrite true

4. 4
   Peenhäälestus lerobot/pi05_base baasilt

   Määra paketi suurus vastavalt sellele, mida sinu kaart talub; dokumentatsioonis kasutatakse LIBERO-l 64-st 80 GB juures. Edasta bfloat16 selgesõnaliselt, konfiguratsiooni vaikeseade on float32.

   bash

   lerobot-train \
       --dataset.repo_id=${HF_USER}/my_so100_dataset \
       --policy.type=pi05 \
       --policy.pretrained_path=lerobot/pi05_base \
       --policy.gradient_checkpointing=true \
       --policy.dtype=bfloat16 \
       --policy.device=cuda \
       --policy.push_to_hub=false \
       --output_dir=./outputs/pi05_so100 \
       --job_name=pi05_so100 \
       --batch_size=4 \
       --num_workers=8 \
       --steps=30000 \
       --save_freq=5000 \
       --seed=1000

5. 5
   Käivita see robotkäel

   Versioonis 0.6.x on see lerobot-rollout: lerobot-record keeldub poliitikast ja lükkab tagasi eval_ andmestiku nimed. Base juhib kätt, sentry salvestab väljarullumise.

   bash

   lerobot-rollout \
       --strategy.type=base \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
       --task="Put lego brick into the transparent box" \
       --duration=60
   
   # same run, recorded into an eval_ dataset
   lerobot-rollout \
       --strategy.type=sentry \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --dataset.repo_id=${HF_USER}/eval_so100 \
       --dataset.single_task="Put lego brick into the transparent box" \
       --duration=600

Kolm vaikeseadete komplekti ja millised neist treenerini jõuavad

openpi TrainConfig on referents, LeRoboti PI05Config on see, mida lerobot-train kasutab, kui te midagi ei ütle, ja siinne vorm saadab kolmanda komplekti. Üllatuseks on õppimiskiirus: mõlemad ülesvoolu vaikeseaded tipnevad 2.5e-5 juures, samas kui openpi enda pi05_libero konfiguratsioon ja see platvorm tõstavad selle 5e-5-ni.

Kas port on usaldusväärne? LeRoboti meeskond peenhäälestas LIBERO baasmudelit veel 6k sammu võrra ja võrdles openpi võrdlusnumbritega neljas sviidis: 97.5 protsenti keskmiselt võrreldes 96.85-ga, ees Libero 10-s, taga Spatial-is. See tee on tööriistavalik, mitte kvaliteedivalik.

485 ms reaalsus ja koht, kus see lakkab olemast kasutatav

See otsustab teie projekti, seega tuleb see enne kulutabelit. järelduse latentsus tegevussammu kohta, mis on siin Pi0.5 jaoks mõõdetud, on 485 ms. Võrreldes teiste neljaga:

Ülesvoolu on vastus ja pool sellest on juba väljaandes, mille saate installida. Reaalajas tükeldamine (Real-Time Chunking) genereerib järgmise tüki, samal ajal kui käsi täidab veel praegust, seejärel juhib uue tüki kattuvad sammud jääma juba täidetud osale lähedale, nii et käsi ei seiskuks ega tõmbleks ühenduskohas. Järeldusaja vorm, mis tarniti 0.4.2 muudatuste logis Pi0, Pi0.5 ja SmolVLA jaoks, on juurutuslipp, mitte ümberõpe:

lerobot-rollout \
    --strategy.type=base \
    --policy.path=${HF_USER}/my_policy \
    --inference.type=rtc \
    --inference.rtc.execution_horizon=10 \
    --inference.rtc.max_guidance_weight=10.0 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM1 \
    --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
    --task="Put lego brick into the transparent box" \
    --duration=60

See ei tee mudelit kiiremaks. See peidab lünga: 485 ms kulub endiselt, kuid väljaspool kriitilist teed, nii et järjekord ei jää tükkide vahel tühjaks. arXiv 2512.05964 treeninguaegne variant läheb kaugemale: mudel õpib tingima puhta tegevuse eesliitega, nii et järeldamisel on kattumine kõvasti sisse maalitud tegevuspõhiste voo ajasammudega juhendamise asemel ja juhendamise tagasikäik kaob. Treeningu ajal võtab see iga näite kohta eesliite pikkuse ja arvutab voo kadu ülejäänud järelliitel. See lipp on ainult peaharus, mitte versioonis 0.6.1, ja viivitus, mille jaoks te treenite, peab jääma alla chunk_size.

Kaks võimalust Pi0.5 kontrollpunkti saamiseks

lerobot-train \
    --dataset.repo_id=${HF_USER}/my_so100_dataset \
    --policy.type=pi05 \
    --policy.pretrained_path=lerobot/pi05_base \
    --policy.rtc_training_max_delay=10 \
    --policy.gradient_checkpointing=true \
    --policy.dtype=bfloat16 \
    --batch_size=4 --steps=30000 --seed=1000

Kui see ei tööta

• Andmestik tagasi lükatud: v3 nõutav
• Mälu puudus treeningu ajal
• Kadu langeb, kuid poliitika ei tee midagi
• Poliitika hangub liikumise keskel
• Poliitika töötab ainult ühes seadistuses
• Treeningtöö on järjekorras kinni

Mida üks käitus maksab

Pi0.5 asub kallimas astmes, sest see vajab 80 GB kaarti ja hetkehinnad liiguvad, seega on näitaja pigem vahemik kui kindel hind. Paljude SO-100 ülesannete puhul treeni SmolVLA või ACT-i esmalt 24 GB astmel, veendu, et ülesanne on üldse õpitav, seejärel kuluta sellele A100 tunde. Treeni oma esimene poliitika kirjeldab seda odavamat tsüklit ja hinnakiri sisaldab praeguseid astmeid.

Enne õhtu pühendamist: GR00T N1.7 Pi0.5 vastu ja Pi0.5 SmolVLA vastu esitavad samad numbrid kõrvuti. Areena sisaldab 85 VLA mudelit 332 võrdlustulemusega, millest igaüks on lingitud oma allikaga, ja perekonna taust on leitav meie VLA ülevaates.