Як тренувати Pi0.5 на власних даних робота

Pi0.5 — це модель, до якої ви звертаєтеся, коли політика має працювати в кімнаті, яку вона ніколи не бачила. Це також найнезручніша з п'яти навчальних політик тут, щоб доналаштувати вручну: вихідний репозиторій спочатку JAX, порт LeRobot перемістив розгортання з lerobot-record у версії 0.6.0 і зробив базову інсталяцію занадто малою для навчання, а повне доналаштування не поміщається на 4090. Нижче: що зіставлення потоків коштує під час висновку, два маршрути команд і число 485 мс, яке вирішує, чи є результат придатним для використання.

Що таке Pi0.5 насправді

Physical Intelligence опублікувала pi0 у жовтні 2024 року: зіставлення потоків модель зору-мови-дії на попередньо навченій VLM: PaliGemma з 3 мільярдами параметрів плюс 300M експерт з дій, ініціалізований з нуля, загалом 3.3 мільярда. У статті повідомляється про попереднє навчання на понад 10 000 годин даних роботів у 7 конфігураціях роботів та 68 завданнях. Більше в статті про pi0.

Pi0.5 (arXiv 2504.16054, 22 April 2025) зберігає цей скелет і змінює дієту навчання: веб-дані, виявлення об'єктів, усні інструкції від людей, які навчають робота, мітки підзадач, дані з різних втілень від роботів у багатьох будинках. Результатом є робот, який прибирає кухні в будинках, що не були в навчальному наборі. README openpi додає деталь, якої немає в назві: випущений pi0.5 був навчений з ізоляцією знань (arXiv 2505.23705).

Що змінює flow matching у навчанні та висновку

Політика, яку можна навчити на SO-100, або безпосередньо регресує дії (політика) або токенізує їх і декодує авторегресивно (pi0-FAST). Зіставлення потоків не робить ні того, ні іншого: воно вивчає векторне поле, яке переносить шум до чистого ACT) або токенізує їх і декодує авторегресивно (pi0-FAST). Зіставлення потоків не робить ні того, ні іншого: воно вивчає векторне поле, яке переносить шум до чистого фрагмента дії, а потім інтегрує його. У статті про pi0 використовується 10 кроків інтеграції з розміром кроку 0.1; конфігурація pi05 LeRobot містить ті самі `num_inference_steps: int = 10`.

• Навчання: втрата регресує зашумлений фрагмент дії. Немає токенізатора для налаштування, немає дискретизації кутів ваших суглобів.
• Висновок: один фрагмент коштує десять прямих проходів через експерта з дій. Це структурна особливість, а не проблема налаштування.
• Вихід: безперервні дії розмірності 32, внутрішньо доповнені, втрата розраховується за розмірностями, які має ваш робот. Рука з 6-DoF плюс захват використовує 7.

# openpi/src/openpi/models/pi0_config.py - the defaults every pi05 config inherits
@dataclasses.dataclass(frozen=True)
class Pi0Config(_model.BaseModelConfig):
    dtype: str = "bfloat16"
    paligemma_variant: _gemma.Variant = "gemma_2b"
    action_expert_variant: _gemma.Variant = "gemma_300m"

    action_dim: int = 32
    action_horizon: int = 50
    max_token_len: int = None      # 200 if pi05 else 48

    pi05: bool = False             # flips discrete_state_input to True

Основа PaliGemma та шлюз перед нею

PaliGemma (arXiv 2407.07726) — це візуальний енкодер SigLIP-So400m на мовній моделі Gemma-2B, близько 3 мільярдів параметрів. Pi0.5 успадковує його токенізатор, і цей токенізатор знаходиться в закритому репозиторії. Це найпоширеніший спосіб, яким перший запуск завершується невдачею, ще до першого кроку навчання.

Перш ніж почати: формат набору даних, епізоди, апаратне забезпечення

Pi0.5 у LeRobot читає набір даних LeRobot у форматі v3.0, який з'явився з lerobot 0.4.0 у жовтні 2025 року: багато епізодів на файл Parquet та MP4 замість одного файлу на епізод, з межами в meta/episodes/ замість імен файлів. Записуйте за допомогою десктопного клієнта або дотримуйтесь запишіть свій перший набір даних і ви його отримаєте.

# v2.1 -> v3.0, run against a dataset already on the Hub
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=<HF_USER/DATASET_ID>

# aggregates episode-0000.parquet, episode-0001.parquet, ... -> file-0000.parquet
# aggregates episode-0000.mp4, episode-0001.mp4, ...         -> file-0000.mp4
# rewrites meta/episodes/* with per-episode lengths, tasks and offsets

Платформа вимагає щонайменше 50 епізодів для Pi0.5, такий самий мінімум, як для GR00T та ACT. Попереднє навчання виконує основну роботу, тому 50 чистих епізодів кращі за 200 недбалих. Новачок у цьому? Почніть з посібника зі збору даних.

Маршрут A: доналаштування за допомогою репозиторію openpi

Еталонна реалізація: спочатку JAX, протестована лише на Ubuntu 22.04, керована об'єктами конфігурації, а не прапорцями. Шлях PyTorch з'явився у вересні 2025 року, перевірений на LIBERO. Три кроки: конвертуйте ваші дані, визначте конфігурацію, навчіть та розгорніть.

1. 1
   Клонувати та встановити

   openpi використовує uv. GIT_LFS_SKIP_SMUDGE дозволяє LeRobot бути залежністю без LFS-блобів.

   bash

   git clone --recurse-submodules git@github.com:Physical-Intelligence/openpi.git
   cd openpi
   
   GIT_LFS_SKIP_SMUDGE=1 uv sync
   GIT_LFS_SKIP_SMUDGE=1 uv pip install -e .

2. 2
   Конвертувати ваші дані в набір даних LeRobot

   Вихідний код постачає конвертери для LIBERO та DROID і очікує, що ви адаптуєте один з них. Робота полягає у відображенні ключів.

   bash

   uv run examples/libero/convert_libero_data_to_lerobot.py --data_dir /path/to/your/data

3. 3
   Додати конфігурацію навчання

   Конфігурації — це записи TrainConfig у src/openpi/training/config.py. Ця адаптує pi05_droid_finetune, з завантажувачем ваг, що вказує на pi05_base.

   python

   TrainConfig(
       name="pi05_so100",
       model=pi0_config.Pi0Config(
           pi05=True,
           action_dim=32,        # pi05 is trained with 32-dim actions
           action_horizon=16,
       ),
       # Copy LeRobotLiberoDataConfig in the same file and rewrite the key
       # mapping for your camera names, then reference your copy here.
       data=LeRobotLiberoDataConfig(
           repo_id="your_hf_username/my_so100_dataset",
           base_config=DataConfig(prompt_from_task=True),
       ),
       weight_loader=weight_loaders.CheckpointWeightLoader(
           "gs://openpi-assets/checkpoints/pi05_base/params"
       ),
       batch_size=32,
       num_train_steps=20_000,
   )

4. 4
   Обчислити статистику норм

   Запускається за іменем конфігурації, а не за набором даних. Пропуск цього є класичною першою помилкою тут.

   bash

   uv run scripts/compute_norm_stats.py --config-name pi05_so100

5. 5
   Навчити

   Ця змінна дозволяє JAX використовувати 90 відсотків пам'яті GPU замість стандартних 75. На карті з 80 ГБ це вирішує, чи виживе запуск.

   bash

   XLA_PYTHON_CLIENT_MEM_FRACTION=0.9 uv run scripts/train.py pi05_so100 \
       --exp-name=my_experiment \
       --overwrite

6. 6
   Розгорнути

   Сервер слухає на порту 8000 і відповідає на запити спостережень; середовище виконання вашого робота є клієнтом.

   bash

   uv run scripts/serve_policy.py policy:checkpoint \
       --policy.config=pi05_so100 \
       --policy.dir=checkpoints/pi05_so100/my_experiment/20000

Маршрут B: доналаштування за допомогою lerobot pi05

Порт LeRobot обгортає ті самі ваги в CLI, які ви вже використовуєте для ACT та SmolVLA. Все нижче було перевірено на відповідність lerobot 0.6.1, випуску від 3 серпня 2026 року, та документації pi05 від 23 серпня 2026 року. Версії тут мають значення: набори даних v3.0 з'явилися з версією 0.4.0 у жовтні 2025 року, блог 0.5.0 від 9 березня 2026 року представляє pi0-FAST та Real-Time Chunking, а версія 0.6.0 від 6 липня 2026 року зробила базовий пакет легким і перенесла розгортання до lerobot-rollout.

Одна річ не змінилася: lerobot-train та lerobot-record вже були точками входу у версії 0.3.2, серпень 2025 року. Посібник, який досі викликає python -m lerobot.scripts.train, передує року змін і заслуговує на недовіру й в іншому.

1. 1
   Встановлення з правильними додатковими пакетами

   Починаючи з версії 0.6.0, базова інсталяція містить лише основні залежності ML, а додатковий пакет pi не додає код для набору даних або навчання, тому для тонкого налаштування потрібен також додатковий пакет для навчання. Старі однорядкові команди тут не працюють під час імпорту.

   bash

   # policy dependencies plus the training stack
   pip install 'lerobot[pi,training]'
   
   # from a source checkout
   pip install -e ".[pi,training]"
   
   # driving an SO-100 afterwards needs the robot extras too
   pip install 'lerobot[core_scripts,feetech]'

2. 2
   Автентифікація

   Прийміть ліцензію paligemma-3b-pt-224 у браузері, потім увійдіть на машині, яка проводить навчання.

   bash

   hf auth login

3. 3
   Додати статистику квантилів

   Pi0.5 нормалізує STATE та ACTION за допомогою квантилів, тому meta/stats.json потребує q01 та q99. Старіші набори даних містять лише min, max, mean, std.

   bash

   lerobot-edit-dataset \
       --repo_id your_dataset \
       --new_repo_id your_dataset \
       --operation.type recompute_stats \
       --operation.overwrite true

4. 4
   Тонке налаштування з lerobot/pi05_base

   Встановіть розмір пакету відповідно до можливостей вашої відеокарти; у документації використовується 64 на LIBERO з 80 ГБ. Передайте bfloat16 явно, за замовчуванням у конфігурації встановлено float32.

   bash

   lerobot-train \
       --dataset.repo_id=${HF_USER}/my_so100_dataset \
       --policy.type=pi05 \
       --policy.pretrained_path=lerobot/pi05_base \
       --policy.gradient_checkpointing=true \
       --policy.dtype=bfloat16 \
       --policy.device=cuda \
       --policy.push_to_hub=false \
       --output_dir=./outputs/pi05_so100 \
       --job_name=pi05_so100 \
       --batch_size=4 \
       --num_workers=8 \
       --steps=30000 \
       --save_freq=5000 \
       --seed=1000

5. 5
   Запустити на руці

   У версії 0.6.x це lerobot-rollout: lerobot-record відхиляє політику та імена наборів даних eval_. Base керує рукою, sentry записує розгортання.

   bash

   lerobot-rollout \
       --strategy.type=base \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
       --task="Put lego brick into the transparent box" \
       --duration=60
   
   # same run, recorded into an eval_ dataset
   lerobot-rollout \
       --strategy.type=sentry \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --dataset.repo_id=${HF_USER}/eval_so100 \
       --dataset.single_task="Put lego brick into the transparent box" \
       --duration=600

Три набори значень за замовчуванням, і які з них досягають тренера

TrainConfig від openpi є еталоном, PI05Config від LeRobot використовується lerobot-train за замовчуванням, а форма тут надсилає третій набір. Сюрпризом є швидкість навчання: обидва вихідні значення за замовчуванням досягають піку 2.5e-5, тоді як власна конфігурація pi05_libero від openpi та ця платформа підвищують її до 5e-5.

Чи є порт точним? Команда LeRobot доналаштувала базову модель LIBERO протягом додаткових 6 тис. кроків і порівняла її з еталонними показниками openpi на чотирьох наборах: 97.5 відсотка в середньому проти 96.85, випереджаючи на Libero 10, відстаючи на Spatial. Цей шлях є вибором інструментарію, а не якості.

Реальність 485 мс і де вона перестає бути придатною для використання

Це визначає ваш проєкт, тому йде перед таблицею витрат. на крок дії, виміряна тут для Pi0.5, становить 485 мс. Порівняно з іншими чотирма:

Вищестоящий розробник має відповідь, і половина її вже є у випуску, який ви можете встановити. Розбиття на фрагменти в реальному часі (Real-Time Chunking) генерує наступний фрагмент, поки рука ще виконує поточний, а потім направляє кроки нового фрагмента, що перекриваються, щоб вони залишалися близькими до вже виконаної частини, щоб рука не зупинялася або не смикалася на стику. Форма часу висновку, що постачається в журналі змін 0.4.2 для Pi0, Pi0.5 та SmolVLA, є прапорцем розгортання, а не перенавчання:

lerobot-rollout \
    --strategy.type=base \
    --policy.path=${HF_USER}/my_policy \
    --inference.type=rtc \
    --inference.rtc.execution_horizon=10 \
    --inference.rtc.max_guidance_weight=10.0 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM1 \
    --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
    --task="Put lego brick into the transparent box" \
    --duration=60

Це не робить модель швидшою. Це приховує проміжок: 485 мс все ще витрачаються, але поза критичним шляхом, тому черга не вичерпується між фрагментами. Варіант часу навчання з arXiv 2512.05964 йде далі: модель вчиться обумовлювати чистий префікс дії, тому під час висновку перекриття жорстко заповнюється часовими кроками потоку для кожної дії замість керованого, і зворотний прохід керування зникає. Під час навчання він вибирає довжину префікса для кожного прикладу та обчислює втрату потоку на решті постфікса. Цей прапорець існує лише в основній гілці, а не в 0.6.1, і затримка, для якої ви навчаєте, має залишатися нижчою за chunk_size.

Два способи отримати контрольний пункт Pi0.5

lerobot-train \
    --dataset.repo_id=${HF_USER}/my_so100_dataset \
    --policy.type=pi05 \
    --policy.pretrained_path=lerobot/pi05_base \
    --policy.rtc_training_max_delay=10 \
    --policy.gradient_checkpointing=true \
    --policy.dtype=bfloat16 \
    --batch_size=4 --steps=30000 --seed=1000

Коли це не працює

• Набір даних відхилено: потрібна версія v3
• Недостатньо пам'яті під час навчання
• Втрати зменшуються, але політика нічого не робить
• Політика зависає посередині руху
• Політика працює лише в одній конфігурації
• Завдання навчання застрягло в черзі

Скільки коштує один запуск

Pi0.5 знаходиться в дорогому рівні, оскільки йому потрібна карта на 80 ГБ, а спотові ціни змінюються, тому цифра є діапазоном, а не фіксованою ціною. Для багатьох завдань SO-100 спочатку навчайте SmolVLA або ACT на рівні 24 ГБ, спочатку переконайтеся, що завдання взагалі можна навчити, а потім витрачайте на нього години A100. Навчіть свою першу політику проходить цей дешевший цикл, а ціни містить поточні рівні.

Перш ніж присвятити вечір: GR00T N1.7 against Pi0.5 та Pi0.5 against SmolVLA порівнюють ті самі показники. Arena містить 85 VLA моделей з 332 результатами бенчмарків, кожен з яких пов'язаний зі своїм джерелом, а довідкова інформація про сімейство знаходиться в нашому огляді VLA.