Как обучить Pi0.5 на собственных данных робота

Pi0.5 — это модель, к которой обращаются, когда политика должна работать в помещении, которое она никогда не видела. Это также самая неудобная из пяти обучаемых политик здесь для дообучения вручную: вышестоящий репозиторий ориентирован на JAX, порт LeRobot переместил развертывание из lerobot-record в версии 0.6.0 и сделал базовую установку слишком маленькой для обучения, а полное дообучение не помещается на 4090. Ниже: что сопоставление потоков стоит при инференсе, два маршрута команд и число 485 мс, которое определяет, пригоден ли результат.

Что такое Pi0.5 на самом деле

Physical Intelligence опубликовала pi0 в октябре 2024 года: модель с сопоставлением потоков зрения-языка-действия на предварительно обученной VLM: PaliGemma с 3 миллиардами параметров плюс 300M эксперт по действиям, инициализированный с нуля, всего 3.3 миллиарда. В статье сообщается о предварительном обучении на более чем 10 000 часов данных роботов в 7 конфигурациях роботов и 68 задачах. Подробнее в статье о pi0.

Pi0.5 (arXiv 2504.16054, 22 апреля 2025) сохраняет эту структуру и изменяет режим обучения: веб-данные, обнаружение объектов, устные инструкции от людей, обучающих робота, метки подзадач, кросс-телесные данные от роботов во многих домах. В результате робот убирает кухни в домах, которые не входили в обучающий набор. Файл README openpi добавляет деталь, которой нет в названии: выпущенный pi0.5 был обучен с изоляцией знаний (arXiv 2505.23705).

Что согласование потоков меняет в обучении и инференсе

Политику, политику которую можно обучить на SO-100, либо напрямую регрессирует действия (ACT) или токенизирует их и декодирует авторегрессивно (pi0-FAST). Сопоставление потоков не делает ни того, ни другого: оно изучает векторное поле, которое переносит шум в чистый фрагмент действия, затем интегрирует его. В статье о pi0 используется 10 шагов интегрирования с размером шага 0.1; конфигурация pi05 LeRobot содержит тот же `num_inference_steps: int = 10`.

• Обучение: функция потерь регрессирует зашумленный фрагмент действия. Нет токенизатора для настройки, нет дискретизации углов ваших суставов.
• Инференс: один фрагмент требует десяти прямых проходов через эксперта по действиям. Это структурная особенность, а не проблема настройки.
• Выход: непрерывные действия размерности 32, внутренне дополненные, потери рассчитываются по тем размерностям, которые есть у вашего робота. Рука с 6-степенями свободы плюс захват использует 7.

# openpi/src/openpi/models/pi0_config.py - the defaults every pi05 config inherits
@dataclasses.dataclass(frozen=True)
class Pi0Config(_model.BaseModelConfig):
    dtype: str = "bfloat16"
    paligemma_variant: _gemma.Variant = "gemma_2b"
    action_expert_variant: _gemma.Variant = "gemma_300m"

    action_dim: int = 32
    action_horizon: int = 50
    max_token_len: int = None      # 200 if pi05 else 48

    pi05: bool = False             # flips discrete_state_input to True

Основа PaliGemma и шлюз перед ней

PaliGemma (arXiv 2407.07726) — это видеокодировщик SigLIP-So400m, основанный на языковой модели Gemma-2B, с примерно 3 миллиардами параметров. Pi0.5 наследует свой токенизатор, и этот токенизатор находится в закрытом репозитории. Это самый распространенный способ, когда первый запуск завершается неудачей, до первого шага обучения.

Прежде чем начать: формат набора данных, эпизоды, оборудование

Pi0.5 в LeRobot читает набор данных LeRobot в формате v3.0, который появился с lerobot 0.4.0 в октябре 2025 года: много эпизодов на файл Parquet и MP4 вместо одного файла на эпизод, с границами в meta/episodes/, а не в именах файлов. Записывайте с помощью настольного клиента или следуйте инструкциям записи вашего первого набора данных, и у вас это будет.

# v2.1 -> v3.0, run against a dataset already on the Hub
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=<HF_USER/DATASET_ID>

# aggregates episode-0000.parquet, episode-0001.parquet, ... -> file-0000.parquet
# aggregates episode-0000.mp4, episode-0001.mp4, ...         -> file-0000.mp4
# rewrites meta/episodes/* with per-episode lengths, tasks and offsets

Платформа требует как минимум 50 эпизодов для Pi0.5, такой же порог, как и для GR00T и ACT. Предварительное обучение выполняет основную работу, поэтому 50 чистых эпизодов превосходят 200 небрежных. Новичок в этом? Начните с руководства по сбору данных.

Маршрут A: дообучение с использованием репозитория openpi

Эталонная реализация: сначала JAX, протестирована только на Ubuntu 22.04, управляется объектами конфигурации, а не флагами. Путь PyTorch появился в сентябре 2025 года, проверен на LIBERO. Три шага: преобразовать данные, определить конфигурацию, обучить и развернуть.

1. 1
   Клонировать и установить

   openpi использует uv. GIT_LFS_SKIP_SMUDGE позволяет LeRobot быть зависимостью без LFS-блобов.

   bash

   git clone --recurse-submodules git@github.com:Physical-Intelligence/openpi.git
   cd openpi
   
   GIT_LFS_SKIP_SMUDGE=1 uv sync
   GIT_LFS_SKIP_SMUDGE=1 uv pip install -e .

2. 2
   Преобразовать данные в набор данных LeRobot

   В апстриме поставляются конвертеры для LIBERO и DROID, и предполагается, что вы адаптируете один из них. Основная работа — это сопоставление ключей.

   bash

   uv run examples/libero/convert_libero_data_to_lerobot.py --data_dir /path/to/your/data

3. 3
   Добавить конфигурацию обучения

   Конфигурации — это записи TrainConfig в src/openpi/training/config.py. Эта адаптирует pi05_droid_finetune, с загрузчиком весов, указывающим на pi05_base.

   python

   TrainConfig(
       name="pi05_so100",
       model=pi0_config.Pi0Config(
           pi05=True,
           action_dim=32,        # pi05 is trained with 32-dim actions
           action_horizon=16,
       ),
       # Copy LeRobotLiberoDataConfig in the same file and rewrite the key
       # mapping for your camera names, then reference your copy here.
       data=LeRobotLiberoDataConfig(
           repo_id="your_hf_username/my_so100_dataset",
           base_config=DataConfig(prompt_from_task=True),
       ),
       weight_loader=weight_loaders.CheckpointWeightLoader(
           "gs://openpi-assets/checkpoints/pi05_base/params"
       ),
       batch_size=32,
       num_train_steps=20_000,
   )

4. 4
   Вычислить статистику норм

   Запускается по имени конфигурации, а не по набору данных. Пропуск этого шага — классическая первая ошибка здесь.

   bash

   uv run scripts/compute_norm_stats.py --config-name pi05_so100

5. 5
   Обучить

   Эта переменная позволяет JAX использовать 90 процентов памяти GPU вместо стандартных 75. На карте с 80 ГБ это определяет, выживет ли запуск.

   bash

   XLA_PYTHON_CLIENT_MEM_FRACTION=0.9 uv run scripts/train.py pi05_so100 \
       --exp-name=my_experiment \
       --overwrite

6. 6
   Развернуть

   Сервер прослушивает порт 8000 и отвечает на запросы наблюдений; среда выполнения вашего робота является клиентом.

   bash

   uv run scripts/serve_policy.py policy:checkpoint \
       --policy.config=pi05_so100 \
       --policy.dir=checkpoints/pi05_so100/my_experiment/20000

Маршрут B: дообучение с lerobot pi05

Порт LeRobot использует те же веса в CLI, который вы уже используете для ACT и SmolVLA. Все нижеперечисленное было проверено на соответствие lerobot 0.6.1, выпущенному 3 августа 2026 года, и документации pi05 от 23 августа 2026 года. Версии здесь имеют значение: наборы данных v3.0 появились с 0.4.0 в октябре 2025 года, блог 0.5.0 от 9 марта 2026 года представляет pi0-FAST и Real-Time Chunking, а 0.6.0 от 6 июля 2026 года сделал базовый пакет легковесным и перенес развертывание в lerobot-rollout.

Одно не изменилось: lerobot-train и lerobot-record уже были точками входа в 0.3.2, август 2025 года. Учебник, который до сих пор вызывает python -m lerobot.scripts.train, предшествует году изменений и заслуживает недоверия и в остальном.

1. 1
   Установка с правильными дополнительными пакетами

   Начиная с версии 0.6.0 базовая установка содержит только основные зависимости ML, а дополнительный пакет pi не добавляет код для наборов данных или обучения, поэтому для тонкой настройки требуется также дополнительный пакет для обучения. Старые однострочные команды здесь не работают во время импорта.

   bash

   # policy dependencies plus the training stack
   pip install 'lerobot[pi,training]'
   
   # from a source checkout
   pip install -e ".[pi,training]"
   
   # driving an SO-100 afterwards needs the robot extras too
   pip install 'lerobot[core_scripts,feetech]'

2. 2
   Аутентификация

   Примите лицензию paligemma-3b-pt-224 в браузере, затем войдите в систему на машине, которая будет проводить обучение.

   bash

   hf auth login

3. 3
   Добавление квантильной статистики

   Pi0.5 нормализует STATE и ACTION с помощью квантилей, поэтому meta/stats.json требует q01 и q99. Старые наборы данных содержат только min, max, mean, std.

   bash

   lerobot-edit-dataset \
       --repo_id your_dataset \
       --new_repo_id your_dataset \
       --operation.type recompute_stats \
       --operation.overwrite true

4. 4
   Тонкая настройка из lerobot/pi05_base

   Установите размер пакета, который выдерживает ваша карта; в документации используется 64 на LIBERO с 80 ГБ. Передайте bfloat16 явно, по умолчанию в конфигурации используется float32.

   bash

   lerobot-train \
       --dataset.repo_id=${HF_USER}/my_so100_dataset \
       --policy.type=pi05 \
       --policy.pretrained_path=lerobot/pi05_base \
       --policy.gradient_checkpointing=true \
       --policy.dtype=bfloat16 \
       --policy.device=cuda \
       --policy.push_to_hub=false \
       --output_dir=./outputs/pi05_so100 \
       --job_name=pi05_so100 \
       --batch_size=4 \
       --num_workers=8 \
       --steps=30000 \
       --save_freq=5000 \
       --seed=1000

5. 5
   Запуск на манипуляторе

   В 0.6.x это lerobot-rollout: lerobot-record отклоняет политику и имена наборов данных eval_. Base управляет манипулятором, sentry записывает выполнение.

   bash

   lerobot-rollout \
       --strategy.type=base \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
       --task="Put lego brick into the transparent box" \
       --duration=60
   
   # same run, recorded into an eval_ dataset
   lerobot-rollout \
       --strategy.type=sentry \
       --policy.path=${HF_USER}/my_policy \
       --robot.type=so100_follower \
       --robot.port=/dev/ttyACM1 \
       --dataset.repo_id=${HF_USER}/eval_so100 \
       --dataset.single_task="Put lego brick into the transparent box" \
       --duration=600

Три набора значений по умолчанию и какие из них достигают тренера

TrainConfig от openpi является эталоном, PI05Config от LeRobot используется lerobot-train по умолчанию, а форма здесь отправляет третий набор. Сюрпризом является скорость обучения: оба вышестоящих значения по умолчанию достигают пика в 2.5e-5, в то время как собственная конфигурация pi05_libero от openpi и эта платформа повышают ее до 5e-5.

Насколько точен порт? Команда LeRobot дообучила базовую модель LIBERO еще на 6 тысяч шагов и сравнила ее с эталонными показателями openpi по четырем наборам: 97.5 процента в среднем против 96.85, опережая на Libero 10, отставая на Spatial. Выбор маршрута — это выбор инструментария, а не качества.

Реальность в 485 мс и где она перестает быть пригодной для использования

Это определяет ваш проект, поэтому идет перед таблицей затрат. на шаг действия, измеренная здесь для Pi0.5, составляет 485 мс. Против остальных четырех:

У вышестоящих разработчиков есть ответ, и половина его уже включена в релиз, который вы можете установить. Разделение на фрагменты в реальном времени (Real-Time Chunking) генерирует следующий фрагмент, пока рука еще выполняет текущий, а затем направляет перекрывающиеся шаги нового фрагмента, чтобы они оставались близкими к уже выполненной части, так что рука не останавливается и не дергается на стыке. Форма для времени вывода была включена в журнал изменений 0.4.2 для Pi0, Pi0.5 и SmolVLA и является флагом развертывания, а не переобучения:

lerobot-rollout \
    --strategy.type=base \
    --policy.path=${HF_USER}/my_policy \
    --inference.type=rtc \
    --inference.rtc.execution_horizon=10 \
    --inference.rtc.max_guidance_weight=10.0 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM1 \
    --robot.cameras="{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}}" \
    --task="Put lego brick into the transparent box" \
    --duration=60

Это не делает модель быстрее. Это скрывает задержку: 485 мс по-прежнему тратятся, но вне критического пути, поэтому очередь не иссякает между фрагментами. Вариант для времени обучения из arXiv 2512.05964 идет дальше: модель учится обуславливаться на чистом префиксе действия, так что при выводе перекрытие жестко заполняется временными шагами потока для каждого действия вместо управляемого, и обратный проход управления исчезает. Во время обучения он выбирает длину префикса для каждого примера и вычисляет потери потока на оставшемся постфиксе. Этот флаг существует только в основной ветке, а не в 0.6.1, и задержка, на которую вы обучаетесь, должна оставаться ниже chunk_size.

Два способа получить контрольную точку Pi0.5

lerobot-train \
    --dataset.repo_id=${HF_USER}/my_so100_dataset \
    --policy.type=pi05 \
    --policy.pretrained_path=lerobot/pi05_base \
    --policy.rtc_training_max_delay=10 \
    --policy.gradient_checkpointing=true \
    --policy.dtype=bfloat16 \
    --batch_size=4 --steps=30000 --seed=1000

Когда это не работает

• Набор данных отклонен: требуется v3
• Недостаточно памяти во время обучения
• Потери падают, но политика ничего не делает
• Политика зависает в середине движения
• Политика работает только в одной конфигурации
• Задание на обучение застряло в очереди

Сколько стоит один запуск

Pi0.5 находится в дорогом ценовом сегменте, потому что для него требуется карта на 80 ГБ, а спотовые цены меняются, поэтому указана не фиксированная цена, а диапазон. Для многих задач SO-100 сначала обучите SmolVLA или ACT на уровне 24 ГБ, убедитесь, что задача вообще поддается обучению, а затем потратьте на нее часы A100. Обучите свою первую политику описывает этот более дешевый цикл, а цены содержат текущие уровни.

Прежде чем посвятить этому вечер: GR00T N1.7 против Pi0.5 и Pi0.5 против SmolVLA представляют одни и те же числа в сравнении. В Арене содержится 85 моделей VLA с 332 результатами бенчмарков, каждая из которых связана со своим источником, а информация о семействе находится в нашем обзоре VLA.