Pi0.5-ті өз робот деректеріңізде қалай үйретуге болады

Pi0.5 - бұл саясат бұрын-соңды көрмеген бөлмеде жұмыс істеуі қажет болғанда қолданатын модель. Ол сондай-ақ мұндағы бес оқытылатын саясаттың ішіндегі ең ыңғайсызы, қолмен дәл баптау үшін: жоғарғы репозиторий бірінші кезекте JAX, LeRobot порты 0.6.0 нұсқасында орналастыруды lerobot-record-тан шығарды және базалық орнатуды оқыту үшін тым кішкентай етті, ал толық дәл баптау 4090-ға сыймайды. Төменде: ағын сәйкестендіру инференцияда қанша тұрады, екі командалық маршрут және нәтиженің жарамдылығын анықтайтын 485 мс саны.

Pi0.5 іс жүзінде не

Physical Intelligence 2024 жылдың қазанында pi0-ді жариялады: алдын ала оқытылған VLM-дегі ағын сәйкестендіру көру-тіл-әрекет моделі: 3 миллиард параметрлі PaliGemma және нөлден бастап инициализацияланған 300M әрекет сарапшысы, барлығы 3.3 миллиард. Мақалада 7 робот конфигурациясы мен 68 тапсырма бойынша 10,000 сағаттан астам робот деректерінде алдын ала оқыту туралы хабарланады. Толығырақ pi0 мақаласында.

Pi0.5 (arXiv 2504.16054, 22 сәуір 2025) сол қаңқаны сақтайды және оқыту диетасын өзгертеді: веб-деректер, нысандарды анықтау, роботты үйрететін адамдардың ауызша нұсқаулары, қосалқы тапсырма белгілері, көптеген үйлердегі роботтардан алынған кросс-дене деректері. Нәтижесінде, оқыту жиынтығында болмаған үйлерде асүйлерді тазалайтын робот пайда болады. openpi README тақырыпта жоқ бір мәліметті қосады: шығарылған pi0.5 білім оқшаулауымен (arXiv 2505.23705) оқытылған.

Ағынды сәйкестендіру оқыту мен қорытынды жасауға не өзгерістер енгізеді

SO-100-де үйретуге болатын саясат әрекеттерді тікелей регрессиялайды (ACT) немесе оларды токенизациялап, авторегрессивті түрде декодтайды (pi0-FAST). Ағын сәйкестендіру екеуін де жасамайды: ол шуды таза әрекет бөлігіне тасымалдайтын векторлық өрісті үйреніп, содан кейін оны біріктіреді. pi0 мақаласында 0.1 қадам өлшемімен 10 интеграциялық қадам қолданылады; LeRobot-тың pi05 конфигурациясы бірдей `num_inference_steps: int = 10` мәнін қамтиды.

• Оқыту: шығын шуланған әрекет бөлігін регрессиялайды. Реттеуге арналған токенизатор жоқ, буын бұрыштарын дискреттеу жоқ.
• Қорытындылау: бір бөлік әрекет сарапшысы арқылы он алға басуды қажет етеді. Бұл құрылымдық мәселе, реттеу мәселесі емес.
• Шығыс: 32 өлшемді үздіксіз әрекеттер, ішкі жағынан толтырылған, шығын роботыңыздың өлшемдері бойынша алынады. 6-еркіндік дәрежесі бар қол және қысқыш 7-ні пайдаланады.

# openpi/src/openpi/models/pi0_config.py - the defaults every pi05 config inherits
@dataclasses.dataclass(frozen=True)
class Pi0Config(_model.BaseModelConfig):
    dtype: str = "bfloat16"
    paligemma_variant: _gemma.Variant = "gemma_2b"
    action_expert_variant: _gemma.Variant = "gemma_300m"

    action_dim: int = 32
    action_horizon: int = 50
    max_token_len: int = None      # 200 if pi05 else 48

    pi05: bool = False             # flips discrete_state_input to True

PaliGemma негізі және оның алдындағы қақпа

PaliGemma (arXiv 2407.07726) — шамамен 3B параметрлі Gemma-2B тіл моделіндегі SigLIP-So400m визуалды кодтағыш. Pi0.5 өзінің токенизаторын мұра етеді, және бұл токенизатор қақпалы репозиторийде орналасқан. Бұл бірінші іске қосудың ең жиі тоқтап қалу жолы, бірінші оқыту қадамы.

Бастамас бұрын: деректер жинағының форматы, эпизодтар, жабдық

LeRobot-тағы Pi0.5 LeRobot деректер жинағы v3.0 орналасуындағы деректерді оқиды, ол lerobot 0.4.0-мен 2025 жылдың қазанында шықты: әр Parquet және MP4 файлына бір файлдан емес, көптеген эпизодтар эпизод, шекаралары файл атауларында емес, meta/episodes/ ішінде. жұмыс үстелі клиенті арқылы жазыңыз немесе алғашқы деректер жинағыңызды жазыңыз нұсқауларын орындаңыз, сонда сізде ол болады.

# v2.1 -> v3.0, run against a dataset already on the Hub
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=<HF_USER/DATASET_ID>

# aggregates episode-0000.parquet, episode-0001.parquet, ... -> file-0000.parquet
# aggregates episode-0000.mp4, episode-0001.mp4, ...         -> file-0000.mp4
# rewrites meta/episodes/* with per-episode lengths, tasks and offsets

Платформа Pi0.5 үшін кемінде 50 эпизодты қажет етеді, бұл GR00T және ACT үшін де сондай. Алдын ала оқыту негізгі жұмысты атқарады, сондықтан 50 таза эпизод 200 ақаулы эпизодтан артық. Бұл сіз үшін жаңа ма? деректер жинау нұсқаулығынан бастаңыз.

А бағыты: openpi репозиторийімен дәлдеп баптау

Анықтамалық іске асыру: бірінші JAX, тек Ubuntu 22.04 жүйесінде тексерілген, жалаушалар емес, конфигурация нысандарымен басқарылады. PyTorch жолы 2025 жылдың қыркүйегінде келді, LIBERO-да расталды. Үш қадам: деректеріңізді түрлендіру, конфигурацияны анықтау, оқыту және қызмет көрсету.

1. 1
   Клондау және орнату

   openpi uv қолданады. GIT_LFS_SKIP_SMUDGE LeRobot-тың LFS блобтарынсыз тәуелділік ретінде келуіне мүмкіндік береді.

   bash

   git clone --recurse-submodules git@github.com:Physical-Intelligence/openpi.git
   cd openpi
   
   GIT_LFS_SKIP_SMUDGE=1 uv sync
   GIT_LFS_SKIP_SMUDGE=1 uv pip install -e .

2. 2
   Деректеріңізді LeRobot деректер жинағына түрлендіру

   Жоғары ағын LIBERO және DROID үшін түрлендіргіштерді жеткізеді және сізден біреуін бейімдеуді күтеді. Жұмыс кілтті сәйкестендіруде.

   bash

   uv run examples/libero/convert_libero_data_to_lerobot.py --data_dir /path/to/your/data

3. 3
   Оқыту конфигурациясын қосу

   Конфигурациялар src/openpi/training/config.py файлындағы TrainConfig жазбалары болып табылады. Бұл pi05_droid_finetune-ді бейімдейді, салмақ жүктегіші pi05_base-ге бағытталған.

   python

   TrainConfig(
       name="pi05_so100",
       model=pi0_config.Pi0Config(
           pi05=True,
           action_dim=32,        # pi05 is trained with 32-dim actions
           action_horizon=16,
       ),
       # Copy LeRobotLiberoDataConfig in the same file and rewrite the key
       # mapping for your camera names, then reference your copy here.
       data=LeRobotLiberoDataConfig(
           repo_id="your_hf_username/my_so100_dataset",
           base_config=DataConfig(prompt_from_task=True),
       ),
       weight_loader=weight_loaders.CheckpointWeightLoader(
           "gs://openpi-assets/checkpoints/pi05_base/params"
       ),
       batch_size=32,
       num_train_steps=20_000,
   )

4. 4
   Норма статистикасын есептеу

   Деректер жинағына емес, конфигурация атауына қарсы жұмыс істейді. Оны өткізіп жіберу – мұндағы классикалық бірінші сәтсіздік.

   bash

   uv run scripts/compute_norm_stats.py --config-name pi05_so100

5. 5
   Оқыту

   Айнымалы JAX-қа әдепкі 75 пайыздың орнына GPU жадының 90 пайызын пайдалануға мүмкіндік береді. 80 ГБ картада бұл іске қосудың аман қалуын шешеді.

   bash

   XLA_PYTHON_CLIENT_MEM_FRACTION=0.9 uv run scripts/train.py pi05_so100 \
       --exp-name=my_experiment \
       --overwrite

6. 6
   Қызмет көрсету

   Сервер 8000 портында тыңдайды және бақылау сұрауларына жауап береді; сіздің роботтың орындалу уақыты клиент болып табылады.

   bash

   uv run scripts/serve_policy.py policy:checkpoint \
       --policy.config=pi05_so100 \
       --policy.dir=checkpoints/pi05_so100/my_experiment/20000

B бағыты: lerobot pi05 арқылы дәл баптау

LeRobot порты сіз бұрыннан қолданатын CLI-дегі бірдей салмақтарды орайды ACT және SmolVLA. Төмендегінің бәрі lerobot 0.6.1 нұсқасымен, 2026 жылғы 3 тамыздан бергі шығарылыммен және 2026 жылғы 23 тамыздағы pi05 құжаттамасымен тексерілді. Мұнда нұсқалар маңызды: v3.0 деректер жинақтары 2025 жылғы қазанда 0.4.0 нұсқасымен келді, 2026 жылғы 9 наурыздағы 0.5.0 блогы pi0-FAST және Real-Time Chunking-ті ұсынады, ал 2026 жылғы 6 шілдедегі 0.6.0 негізгі пакетті жеңілдетіп, орналастыруды lerobot-rollout-қа ауыстырды.

Бір нәрсе өзгерген жоқ: lerobot-train және lerobot-record 2025 жылғы тамыздағы 0.3.2 нұсқасында кіру нүктелері болған. Әлі де python -m lerobot.scripts.train шақыратын оқулық бір жылдық өзгерістерден бұрын жасалған және қалған бөлігіне де сенбеуге тұрарлық.

1. 1
   Дұрыс қосымшалармен орнату

   0.6.0 нұсқасынан бастап, негізгі орнату тек негізгі ML тәуелділіктерін қамтиды, ал pi қосымшасы деректер жинағын немесе оқыту кодын қоспайды, сондықтан дәл баптау үшін оқыту қосымшасы да қажет. Ескі бір жолды командалар импорттау кезінде қате береді.

   bash

   # policy dependencies plus the training stack
   pip install 'lerobot[pi,training]'
   
   # from a source checkout
   pip install -e ".[pi,training]"
   
   # driving an SO-100 afterwards needs the robot extras too
   pip install 'lerobot[core_scripts,feetech]'

2. 2
   Аутентификациядан өту

   Браузерде paligemma-3b-pt-224 лицензиясын қабылдаңыз, содан кейін оқыту жүргізетін машинаға кіріңіз.

   bash

   hf auth login

3. 3
   Квантильдік статистиканы қосу

   Pi0.5 STATE және ACTION мәндерін квантильдермен қалыпқа келтіреді, сондықтан meta/stats.json файлына q01 және q99 қажет. Ескі деректер жинақтарында тек min, max, mean, std болады.

   bash

   lerobot-edit-dataset \
       --repo_id your_dataset \
       --new_repo_id your_dataset \
       --operation.type recompute_stats \
       --operation.overwrite true

4. 4
   lerobot/pi05_base негізінде дәл баптау

   Пакет өлшемін картаңыз көтере алатын мәнге орнатыңыз; құжаттарда LIBERO-да 80 ГБ үшін 64 қолданылады. bfloat16 мәнін нақты көрсетіңіз, конфигурацияның әдепкі мәні float32.

   bash

   lerobot-train \
       --dataset.repo_id=${HF_USER}/my_so100_dataset \
       --policy.type=pi05 \
       --policy.pretrained_path=lerobot/pi05_base \
       --policy.gradient_checkpointing=true \
       --policy.dtype=bfloat16 \
       --policy.device=cuda \
       --policy.push_to_hub=false \
       --output_dir=./outputs/pi05_so100 \
       --job_name=pi05_so100 \
       --batch_size=4 \
       --num_workers=8 \
       --steps=30000 \
       --save_freq=5000 \
       --seed=1000

5. 5
   Оны қолда іске қосу

   0.6.x нұсқасында бұл lerobot-rollout: lerobot-record саясатты қабылдамайды және eval_ деректер жинағының атауларын қабылдамайды. Base қолды басқарады, sentry орындалуды жазады.

   bash

   lerobot-rollout \
       --strategy.type=base \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
       --task="Put lego brick into the transparent box" \
       --duration=60
   
   # same run, recorded into an eval_ dataset
   lerobot-rollout \
       --strategy.type=sentry \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --dataset.repo_id=${HF_USER}/eval_so100 \
       --dataset.single_task="Put lego brick into the transparent box" \
       --duration=600

Әдепкі параметрлердің үш жиынтығы және олардың қайсысы оқытушыға жетеді

openpi's TrainConfig - бұл эталон, LeRobot's PI05Config - сіз ештеңе айтпаған кезде lerobot-train қолданатын нәрсе, ал мұндағы форма үшінші жиынтықты жібереді. Тосынсый - оқыту жылдамдығы: екі жоғарғы әдепкі мән де 2.5e-5-ке жетеді, ал openpi-дің өзінің pi05_libero конфигурациясы және бұл платформа оны 5e-5-ке дейін көтереді.

Порт сенімді ме? LeRobot командасы LIBERO базалық моделін қосымша 6 мың қадамға дәлдеп баптады және openpi-дің төрт жиынтықтағы эталондық көрсеткіштерімен салыстырды: орташа есеппен 97.5 пайыз 96.85-ке қарсы, Libero 10-да алда, Spatial-да артта. Бұл бағыт - құрал таңдауы, сапа таңдауы емес.

485 мс шындығы және оның қолдануға жарамсыз болатын жері

Бұл сіздің жобаңызды анықтайды, сондықтан ол шығындар кестесінен бұрын келеді. Мұнда Pi0.5 үшін өлшенген әрекет қадамына 485 мс құрайды. Қалған төртеуімен салыстырғанда:

Жоғары ағында жауап бар, және оның жартысы сіз орната алатын шығарылымда. Нақты уақыттағы бөліктеу (Real-Time Chunking) келесі бөлікті қол ағымдағы бөлікті орындап жатқанда жасайды, содан кейін жаңа бөліктің қабаттасатын қадамдарын бұрын орындалған бөлікке жақын ұстауға бағыттайды, осылайша қол тігісте тоқтап қалмайды немесе сілкініп кетпейді. Pi0, Pi0.5 және SmolVLA үшін 0.4.2 өзгерістер журналында жіберілген инференс-уақыт формасы қайта оқыту емес, енгізу (rollout) жалаушасы болып табылады:

lerobot-rollout \
    --strategy.type=base \
    --policy.path=${HF_USER}/my_policy \
    --inference.type=rtc \
    --inference.rtc.execution_horizon=10 \
    --inference.rtc.max_guidance_weight=10.0 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM1 \
    --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
    --task="Put lego brick into the transparent box" \
    --duration=60

Бұл модельді жылдамдатпайды. Ол алшақтықты жасырады: 485 мс әлі де жұмсалады, бірақ маңызды жолдан тыс, сондықтан кезек бөліктер арасында құрғап қалмайды. arXiv 2512.05964-тен алынған оқыту-уақыт нұсқасы одан әрі дамиды: модель таза әрекет префиксіне негізделуді үйренеді, сондықтан инференс кезінде қабаттасу бағытталғанның орнына әрекетке қатысты ағын уақыт қадамдарымен қатты боялады, және бағыттау кері өтуі жоғалады. Оқыту кезінде ол әр мысал үшін префикс ұзындығын таңдайды және қалған постфикс бойынша ағын жоғалуын қабылдайды. Бұл жалауша тек main-да бар, 0.6.1-де емес, және сіз оқытатын кідіріс chunk_size-дан төмен болуы керек.

Pi0.5 чекпойнт алудың екі жолы

lerobot-train \
    --dataset.repo_id=${HF_USER}/my_so100_dataset \
    --policy.type=pi05 \
    --policy.pretrained_path=lerobot/pi05_base \
    --policy.rtc_training_max_delay=10 \
    --policy.gradient_checkpointing=true \
    --policy.dtype=bfloat16 \
    --batch_size=4 --steps=30000 --seed=1000

Жұмыс істемеген кезде

• Деректер жинағы қабылданбады: v3 қажет
• Оқыту кезінде жад жетіспеушілігі
• Шығын азаяды, бірақ саясат ештеңе істемейді
• Саясат қозғалыс ортасында қатып қалады
• Саясат тек бір конфигурацияда жұмыс істейді
• Оқыту тапсырмасы кезекте тұрып қалды

Бір іске қосу қанша тұрады

Pi0.5 қымбат деңгейде орналасқан, себебі оған 80 ГБ карта қажет, ал спот бағалары өзгеріп отырады, сондықтан көрсеткіш баға емес, диапазон болып табылады. Көптеген SO-100 тапсырмалары үшін алдымен SmolVLA немесе ACT-ті алдымен 24 ГБ деңгейінде оқытыңыз, тапсырманың үйренуге болатындығын растаңыз, содан кейін оған A100 сағат жұмсаңыз. Алғашқы саясатыңызды оқытыңыз сол арзанырақ циклды көрсетеді, және бағалар ағымдағы деңгейлерді көрсетеді.

Бір кешті арнамас бұрын: GR00T N1.7 Pi0.5-ке қарсы және Pi0.5 SmolVLA-ға қарсы бірдей сандарды бетпе-бет қояды. Аренада 332 бенчмарк нәтижесі бар 85 VLA моделі бар, олардың әрқайсысы өз дереккөзіне сілтемеленген, ал отбасы туралы ақпарат біздің VLA шолуымызда.