GR00T таамаглалыг орон нутгийн GPUгүйгээр ажиллуулах

Raspberry Pi нь сериал автобусаар удирдан, хоёр USB камераас фрэйм татахад хангалттай. Гурван тэрбум параметртэй -ыг ажиллуулахад хангалтгүй: NVIDIA-ийн README-д GR00T N1.7-ийн дүгнэлтийг 16 ГБ ба түүнээс дээш VRAM-тай нэг GPU дээр хийнэ гэж заасан байдаг. Таны нарийн тааруулсан шалгах цэг гар дээр юу хийхийг карт худалдаж авахгүйгээр харахын тулд бодлогыг түрээсийн үүлэн GPU дээр байрлуулж, роботын давталтыг USB портуудтай машинд байлгаж, ажиглалт болон үйлдлийн хэсгүүдийг сүлжээгээр илгээнэ.

Энэ нь ажилладаг, үнэгүй биш, мөн үнэ нь ажлуудад жигд хуваарилагдаагүй. Доор: NVIDIA-ийн өөрийн бодлогын сервер, lerobot-ын асинхрон стек, таны холболт хангалттай хурдан эсэхийг урьдчилан хэлэх тооцоолол, болон платформын зам. Энэ бүхнийг Isaac-GR00T-ийн үндсэн салбар (N1.7 GA) болон lerobot 0.6.1-тэй 2026 оны 8-р сарын 23-нд шалгасан.

Яагаад бодлого роботын машинд багтахгүй вэ

AY-Robots-ийн сургаж болох таван бодлогын хоёр нь ажлын станцын карт дээр ажилладаг бол гурав нь ажилладаггүй. Доорх багана нь үйлдлийн алхам тутамд ногдох хугацаа бөгөөд энэ нь таны сүлжээний эргэлтийн хугацаатай өрсөлдөх тоо юм.

Үүнийг жижиг зүйл биш, шийдвэр гэж ойлгоорой. ACT нь алхам тутамд 20 мс-ээр роботын машинд ажилладаг бөгөөд та дахиж хэзээ ч энэ тухай бодохгүй. Pi0.5 нь 485 мс-ээр ажиллахдаа таны барилгаас пакет гарахаас өмнө секундын гуравны нэгийг зарцуулдаг. бодлогын харьцуулалт болон GR00T N1.7 vs Pi0.5 нь нарийвчлалын талыг нэмдэг.

Аль хэдийн оршин буй хоёр клиент-сервер стек

Isaac-GR00T нь ZeroMQ хүсэлт-хариу серверийг нийлүүлдэг; lerobot нь асинхрон дүгнэлтийн эргэн тойронд бүтээгдсэн gRPC серверийг нийлүүлдэг. Хоёулаа GR00T чекпоинт. lerobot-ийн дэмжигдсэн бодлогын жагсаалт async_inference/constants.py нь act, smolvla, diffusion, tdmpc, vqbet, pi0, pi05 болон groot; түүний роботын жагсаалт нь so100_follower, so101_follower, bi_so_follower болон omx_follower.

Сериализацийн мөр нь харагдаж байгаагаас илүү чухал. GR00T-ийн MsgSerializer нь object-dtype ndarray ачааллыг хоёр чиглэлд татгалздаг, учир нь msgpack_numpy нь тэдгээрийг pickle-д дамжуулах байсан. Оронд нь lerobot pickle хийдэг: policy_server.py нь pickle.loads хүсэлтийн өгөгдөл дээр дууддаг, robot_client.py нь илгээсэн ажиглалтыг pickle хийдэг. Найдвартай LAN сүлжээнд хамгаалагдах боломжтой, харин порт нь интернетээс хүртээмжтэй бол хамгаалагдах боломжгүй.

Зам А: NVIDIA-ийн өөрийн GR00T бодлогын сервер

Энэ бол NVIDIA-ийн SO-100 болон SO-101 техник хангамжид зориулж баримтжуулсан зам бөгөөд таны checkpoint нь examples/finetune.sh -аас --embodiment-tag NEW_EMBODIMENT -тай хамт гарсан бол ашиглах зам юм. Эдгээр алхамууд нь эх README-д орхигдсон зүйлийг нэмж оруулсан: портыг бусдад ил гаргахгүйгээр роботод хүргэх.

1. 1
   Түрээсийн GPU хайрцагт GR00T суулгах

   Submodule-ууд шаардлагатай бөгөөд git-lfs нь clone хийхээс өмнө байх ёстой, эс тэгвээс demo_data доторх parquet файлууд pointer хэлбэрээр ирнэ. flash-attn болон TensorRT нь анхдагч суулгацаар ирдэг. Шинэ pod image дээрх асуудал: torchcodec 0.8.0 нь цорын ганц дэмжигдсэн видео backend бөгөөд зөвхөн FFmpeg 4-7-г ачаалдаг. Ubuntu 25.10 болон 26.04 нь FFmpeg 8-тай ирдэг тул GR00T нь Could not load libtorchcodec алдаатайгаар ажиллахгүй. FFmpeg 8-аас доош хувилбарыг суулгаж, түүний сангуудыг LD_LIBRARY_PATH дээр байрлуулна уу.

   bash

   sudo apt install git-lfs && git lfs install
   curl -LsSf https://astral.sh/uv/install.sh | sh
   sudo apt-get update && sudo apt-get install -y ffmpeg
   
   git clone --recurse-submodules https://github.com/NVIDIA/Isaac-GR00T
   cd Isaac-GR00T
   uv sync --python 3.12
   uv run python -c "import gr00t; print('GR00T installed successfully')"

2. 2
   Gated backbone-д нэвтрэх

   Таны өөрийн fine-tune-ийг оруулаад GR00T N1.7-ийн checkpoint бүр нь анхны ашиглалтаар gated nvidia/Cosmos-Reason2-2B-г ачаалдаг. Моделийн хуудаснаас хандах хүсэлт гаргаж, pod дээр нэвтэрнэ үү, эс тэгвээс ачаалалт GatedRepoError алдаатайгаар амжилтгүй болно.

   bash

   uv run huggingface-cli login
   # or:  export HF_TOKEN=<your_token>

3. 3
   Бодлогын серверийг эхлүүлэх

   --model-path-ийг таны checkpoint директори руу чиглүүлнэ үү; энэ зам дээр сервер нь --modality-config-path-ийг үл тоомсорлодог, учир нь энэ нь зөвхөн replay зам дээр уншигддаг. --model-path-ийг орхиж, оронд нь --dataset-path болон --execution-horizon-ийг дамжуулж, бичигдсэн үйлдлүүдийг дахин тоглуулах ReplayPolicy-г ашиглана уу, энэ нь холболт ажиллаж байгааг батлах хамгийн хямд арга юм.

   bash

   uv run python gr00t/eval/run_gr00t_server.py \
     --model-path /workspace/so100_finetune/checkpoint-10000 \
     --embodiment-tag NEW_EMBODIMENT \
     --device cuda:0 \
     --host 127.0.0.1 --port 5555

4. 4
   Порт 5555-ыг роботын машинд туннель хийх

   Дээр дурдсанчлан loopback-д холбогдож, портыг SSH эсвэл WireGuard маягийн сүлжээгээр дамжуулна. Энэ нь ZeroMQ сокетын хийдэггүй шифрлэлт болон баталгаажуулалтыг ойролцоогоор нэг миллисекундын хугацаанд хангана.

   bash

   # on the robot machine
   ssh -N -L 5555:127.0.0.1:5555 root@<pod-host> -p <pod-ssh-port>
   
   # sanity check that something answers
   nc -vz 127.0.0.1 5555

5. 5
   Сервогийн хажууд роботын клиентийг ажиллуулах

   Клиент нь өөрийн uv орчинтой байх шаардлагатай: энэ нь сургалтын стек биш, lerobot-ийн роботын драйверуудыг хүсдэг. eval_so100.py нь so100_follower, so101_follower болон koch_follower-ийг импортлодог тул таны гарт тохирох --robot.type-ийг дамжуулна уу (эх README нь so101_follower-ийг ашигладаг). Камерын түлхүүрүүд сургалттай таарч байх ёстой: адаптер нь яг front болон wrist-ийг уншдаг бөгөөд тэдгээрийг солих нь бодлогод буруу харагдацыг харуулна.

   bash

   cd gr00t/eval/real_robot/SO100
   uv sync
   uv pip install --no-deps -e ../../../../
   
   uv run --no-sync python eval_so100.py \
     --robot.type=so100_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=orange_follower \
     --robot.cameras="{ front: {type: opencv, index_or_path: 6, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 2, width: 640, height: 480, fps: 30}}" \
     --policy_host=127.0.0.1 \
     --policy_port=5555 \
     --lang_instruction="pick up the red block and put it in the bin"

Зам Б: lerobot-ын асинхрон дүгнэлт

lerobot нь өөр асуудлыг шийддэг. Модель бодож байх хооронд роботыг зогсоохын оронд, сервер дараагийн хэсгийг тооцоолж байхад клиент өөрт байгаа дарааллаар алхмуудыг үргэлжлүүлэн хийдэг. Энэ нь үйлдлийн хэсэгчлэлийг цааш нь хөгжүүлсэн, SmolVLA-тай хамт нэвтрүүлсэн асинхрон стек юм. Энэ нь GR00T-ийн чекпоинттой ч ажилладаг.

# GPU machine
pip install -e ".[async]"
python -m lerobot.async_inference.policy_server \
     --host=127.0.0.1 \
     --port=8080

# robot machine, after tunnelling 8080
python -m lerobot.async_inference.robot_client \
    --server_address=127.0.0.1:8080 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM0 \
    --robot.id=follower_so100 \
    --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 1, width: 640, height: 480, fps: 30}}" \
    --task="pick up the red block and put it in the bin" \
    --policy_type=groot \
    --pretrained_name_or_path=<user>/my_groot_finetune \
    --policy_device=cuda \
    --actions_per_chunk=50 \
    --chunk_size_threshold=0.5 \
    --debug_visualize_queue_size=True

Сервер хоосон эхэлдэг: үйлчлүүлэгчийн анхны холболт нь ямар бодлогыг үйлчилж байгааг хэлэх хүртэл мэдэхгүй байдаг нь түрээсийн под дээр тохиромжтой. Гарыг жигд хөдөлгөх эсэхийг шийддэг хоёр тохиргоо бол actions_per_chunk болон chunk_size_threshold (lerobot-ын баримт бичигт хоёр дахийг нь SmolVLA-ын цаасны дараа g гэж нэрлэдэг), мөн баримтжуулсан утгууд болон хүргэгдсэн утгууд нь хоорондоо таарахгүй байна.

Таны холболт хангалттай хурдан эсэхийг шийддэг арифметик

Хүмүүс үүнийг алгасаад, дараа нь дээр бүтэн өдрийг зарцуулдаг. Энэ нь хоёрхон минут зарцуулдаг бөгөөд бараг үргэлж шийдвэрлэх ач холбогдолтой байдаг.

NVIDIA-ийн eval_so100.py доторх тайлбарласан ажиглалтын толь бичиг нь утсаар юу дамжуулж байгааг хэлж өгдөг: (480, 640, 3) хэлбэртэй uint8 хоёр массив, зургаан үений хөвөгч цэг, хэлний мөр. Энэ нь нэг фреймд 921,600 байт, хоёр камерт 1,843,200 байт, ойролцоогоор 14.7 Мбит бөгөөд аль ч стек JPEG-ээр шахахгүй. Буцаж ирэх хэсэг нь хэдэн арван алхам бүхий 6 хөвөгч цэг юм. Таны илгээх хурд бүхнийг шийддэг, таны татах хурд биш.

Багтаах ёстой төсөв

GR00T SO-100 клиент нь синхрон ажилладаг: энэ нь policy.get_action(obs), эхний action_horizon алхмыг 30 FPS хурдтайгаар гүйцэтгэж, дараа нь дахин дууддаг. Хэсгийн хэмжээ болон хэтийн төлөв нь өөр өөр тоо юм: NVIDIA-ийн байршуулах гарын авлага нь үйлдлийн хэсгийн хэмжээг 16, бодит цагийн хэсэгчилэлтэй хослуулах үед дор хаяж 32 байхыг зөвлөдөг бол eval_so100.py нь 8-ын гүйцэтгэлийн хэтийн төлөвийг ашигладаг. 30 FPS хурдтай найман алхам нь дуудлага тутамд 267 мс хөдөлгөөн бөгөөд бусад бүх зүйл үүнд багтах ёстой.

observation upload   14.7 Mbit / 100 Mbit/s   = 147 ms
network round trip                            =  30 ms
model inference (AY-Robots figure, N1.7)      = 152 ms
action chunk return + deserialize             =  ~2 ms
                                                -------
total per call                                  331 ms

budget at action_horizon = 8   ->  267 ms   FAIL, arm pauses ~64 ms per chunk
budget at action_horizon = 16  ->  533 ms   fits, with headroom
budget at action_horizon = 32  -> 1067 ms   fits, observations now ~1 s stale

Хэтийн төлөвийг нэмэгдүүлэх нь шууд шийдэл боловч үнэгүй биш: гар нь хуучирсан ажиглалтад үндэслэн ажилладаг. Зарчимт шийдэл нь бодит цагийн хэсэгчилэл бөгөөд энэ нь одоогийн хэсэг ажиллаж байхад дараагийн хэсгийг тооцоолж, гүйцэтгэх баталгаатай үйлдлүүдийг царцааж, үлдсэнийг нь нөхдөг; RTC-ийн баримт бичигт үүнийг дахин сургалтгүйгээр дүгнэлтийн сааталд тэсвэртэй гэж мэдээлсэн. Эхлээд үүнийг хаана байгааг шалгана уу. NVIDIA нь RTC-ийг туршилтын, доод түвшний загварын примитив гэж тэмдэглэсэн бөгөөд үүнд action_head.get_action(..., options={"rtc_overlap_steps": ..., "rtc_frozen_steps": ...}), Gr00tPolicy эсвэл сервер-клиент замд холбогдоогүй, харин options ашиглагдаагүй, туршилтгүй, жишээгүй байна. Бодлогын серверээр дамжуулан та RTC биш, харин асинхрон гүйцэтгэлийг авна.

Итгэхээсээ өмнө хэмж

Дээрх тоо бүр таамаглал юм. Дөрвөн тушаал нь үүнийг хэмжилт болгон хувиргадаг бөгөөд хэзээ ч ажиллахгүй байсан даалгаварт pod-цаг зарцуулахаасаа өмнө ажиллуулах нь зүйтэй.

1. 1
   Түүхий эргэлтийн хугацааг авах

   CDN-ийн эсрэг биш, pod-ын эсрэг. Дундаж утгатай адил хэлбэлзлийг анхааралтай ажигла: савлалт нь дундаж хоцролт биш, харин гарыг гацаадаг.

   bash

   ping -c 50 <pod-host>
   # the mdev column is the number that predicts stutter

2. 2
   Төлсөн хурдаа биш, байгаа холболтын хурдаа хэмж

   Гэрийн хэрэглээний татаж авах хурд нь ихэвчлэн хуулж авах хурдны багахан хэсэг байдаг бөгөөд энэ нь дээрх зурвасын өргөний хүснэгтэд байгаа тоо юм.

   bash

   # on the pod
   iperf3 -s
   
   # on the robot machine, -R omitted so this measures upload
   iperf3 -c <pod-host> -t 30

3. 3
   Клиентийн өөрийн хоцролтын бүртгэлийг унших

   lerobot роботын клиент нь серверээс клиент рүү дамжуулах хоцролт болон хэсэг бүрийн десериализацийн хугацааг бүртгэдэг. B маршрут дээр танд гадны ямар ч хэрэгсэл шаардлагагүй.

   text

   Received action chunk for step #240 | Latest action: #232 |
     Incoming actions: 240:289 |
     Network latency (server->client): 187.44ms |
     Deserialization time: 3.10ms

4. 4
   Үйлдлийн дараалал хоосорч байгааг ажиглах

   --debug_visualize_queue_size=True-г дамжуулахад клиент нь ажиллах үед дарааллын хэмжээг зурдаг. Хэрэв энэ нь байнга тэг болж байвал таны төсөв дууссан гэсэн үг: fps-ийг бууруулах, actions_per_chunk-ийг нэмэгдүүлэх эсвэл chunk_size_threshold-ийг нэмэгдүүлж ажиглалтыг илүү олон удаа гаргах хэрэгтэй.

   bash

   python -m lerobot.async_inference.robot_client \
       ... \
       --debug_visualize_queue_size=True

Алсын зайн дүгнэлт үнэндээ юунд хэрэгтэй вэ

Хэрэв алсын зайн ажиллагаа нь бүх эпизод дээр ижил цэгт гацдаг бол сүлжээ нь шалтгаан биш байх магадлалтай. Бодлого нь үргэлж ижил үений өнцөг дээр эргэлздэг бол ихэвчлэн өгөгдлийн асуудал байдаг; алдааны горимын хуудсуудыг, ялангуяа зөвхөн нэг тохиргоонд ажилладаг бодлого болон алдагдал буурсан ч бодлого юу ч хийхгүй байх.

Өөрөө хийх эсвэл AY-Robots дээр хийх

Алсын зайн дүгнэлтийн сесс хэр үнэтэй вэ

Хоёр тоо чухал: картын цагийн үнэ, болон та үүнийг хэр удаан ажиллуулах. Эхнийх нь нийтлэгдсэн; хоёр дахь нь хүмүүсийг гайхшруулдаг.

Эдгээр үнийг 2026 оны 8-р сарын 23-нд Runpod-ын үнийн хуудаснаас авсан бөгөөд зах зээлийн үнэ хэлбэлздэг. AY-Robots оронд нь нэг удаагийн ажиллагааны үнийг санал болгож байна: A100 эсвэл H100 түвшинд цагт 1.20-2.00 USD-ээр 3-6 цаг, GR00T эсвэл Pi0.5 ажиллагаанд ойролцоогоор 4-12 USD; 24 ГБ түвшинд цагт 0.30-0.60 USD-ээр 2-5 цаг, SmolVLA эсвэл ACT-д 1-3 USD. Таамаглалын сесс нь сургалтын ажиллагаанаас зөвхөн та зогсоосон тохиолдолд л зардлын хувьд илүү хэмнэлттэй байдаг бөгөөд үүнд зориулж идэвхгүй хяналтын систем байдаг. Үзнэ үү төлбөрийн баримт бичиг болон үнийн хуудас.

Хэрэв та сүлжээг давталтад оруулахыг хүсэхгүй байвал

Алсын зайн дүгнэлт нь техник хангамжийн асуудлыг шийдэж, хоцролтын асуудлыг үүсгэдэг. Заримдаа илүү сайн хариулт бол таны байгаа техник хангамжид тохирсон бодлого юм.

• ACT, ойролцоогоор 80 сая параметр, үйлдлийн алхам тутамд 20 мс, хамгийн багадаа 50 эпизод, ямар ч 24 ГБ карт. Нэг төрлийн, давтагддаг даалгаврын тохиргоонд энэ нь алсын зайн 3B загварыг байнга давж гардаг, учир нь энэ нь хэзээ ч пакет хүлээдэггүй.
• SmolVLA, ойролцоогоор 450 сая параметр, үйлдлийн алхам тутамд 245 мс, хамгийн багадаа 30 эпизод. Энэ нь ACT-д дутагдалтай байсан хэлний нөхцөлийг хадгалдаг бөгөөд lerobot docs-т үүнийг дүгнэлт хийх үед ойролцоогоор 2 ГБ, харин PI0-ийн хувьд ойролцоогоор 14 ГБ гэж заасан байдаг.
• ACT vs GR00T N1.7 худалдааны нарийвчлалын тал хувьд зориулсан.

Мөн дундын зам бий: үүлэн тооцоололд сургаж, орон нутагт үнэлэх. Нарийвчилсан тохируулга нь 80 ГБ карт шаарддаг бөгөөд хоцролтод санаа тавьдаггүй тул SO-100 дээр GR00T N1.7 сургах нь алсаас хийхэд маргаангүй юм. Зөвхөн үнэлгээний давталт нь бодит цагийн хязгаарлалттай байдаг; сургалтын баримт бичиг болон загвар болон гарны матриц нь энэ талыг хамардаг.

Түгээмэл асуултууд

Товч хувилбар

3 B хэмжээтэй бодлого нь шийдэгдсэн инженерийн асуудал бөгөөд шийдэгдээгүй физикийн асуудалтай хавсардаг. Инженерчлэл нь хоёр команд болон SSH туннель юм. Физик нь 1.8 MB хэмжээтэй ажиглалт нь өөр улсад байрлах GPU-д хүрч, роботын гар үйлдлээ дуусахаас өмнө буцаж ирэх ёстой. Юу ч түрээслэхээсээ өмнө тооцооллоо хийж, хуучирсан ажиглалтыг тэсвэрлэх даалгаврыг сонгож, холболт сайжирна гэж найдахаас илүүтэйгээр гүйцэтгэлийн хэтийн төлөвийг нэмэгдүүлээрэй.

Хэрэв та өгөгдлийн багц хараахан бичээгүй бол, анхны өгөгдлийн багцаа бичих болон SO-100 тохиргооны гарын авлага эхэнд ирэх бөгөөд, LeRobot өгөгдлийн багцын формат оруулга нь бичигч юу бичдэгийг тайлбарлана. Үндсэн мэдээлэл нь хараа-хэл-үйлдэл загварууд болон урсгал тааруулах бодлогын ажил; аренагийн оруулга нь гүйцэтгэлийн үзүүлэлт бүрийг эх сурвалжтай холбодог.