Keyra GR00T ályktun án staðbundinnar GPU

Raspberry Pi er nóg til að knýja yfir raðtengi og sækja ramma af tveimur USB myndavélum. Það er ekki nóg til að keyra þriggja milljarða færibreytu : README skjal NVIDIA segir að GR00T N1.7 ályktun krefjist eins GPU með 16 GB eða meira af VRAM. Til að sjá hvað fínstillt eftirlitsstöð gerir á arminum án þess að kaupa kort, settu stefnuna á leigðan skýja-GPU, haltu vélmennalykkjunni á tölvunni með USB tengjunum og sendu athuganir og aðgerðabita yfir netið.

Það virkar, það er ekki ókeypis og verðið dreifist ekki jafnt á milli verkefna. Hér að neðan: Stefnuþjónn NVIDIA, ósamstilltur staflinn frá lerobot, reikningsaðferðin sem segir fyrirfram hvort upphleðslan þín sé nógu hröð og leiðin um pallinn. Allt þetta athugað gegn Isaac-GR00T aðalgreininni (N1.7 GA) og lerobot 0.6.1 þann 23. ágúst 2026.

Af hverju stefnan passar ekki á vélmennavélina

Tvær af fimm stefnum sem AY-Robots getur þjálfað keyra á vinnustöðvarkorti, þrjár gera það ekki. Dálkurinn hér að neðan er á hvern aðgerðarskref, og það er sú tala sem keppir við hringferð netkerfisins þíns.

Lestu þetta sem ákvörðun, ekki smáatriði. við 20 ms á skref keyrir á vélmennavélinni og þú hugsar aldrei um það aftur. við 485 ms hefur eytt þriðjungi úr sekúndu áður en pakki fer úr byggingunni þinni. Samanburður á og bæta við nákvæmnishliðinni.

Tveir viðskiptavinur-þjónn staflar sem þegar eru til

Isaac-GR00T sendir ZeroMQ beiðni-svar þjón; lerobot sendir gRPC þjón byggðan á ósamstilltri ályktun. Báðir samþykkja GR00T eftirlitsstað. Stuðningsstefnulisti lerobot í async_inference/constants.py er act, smolvla, diffusion, tdmpc, vqbet, pi0, pi05 og groot; vélmennalisti þess er so100_follower, so101_follower, bi_so_follower og omx_follower.

Raðgreiningarröðin skiptir meira máli en hún virðist. GR00T's MsgSerializer neitar object-dtype ndarray gagnamagni í báðar áttir, því msgpack_numpy myndi annars afhenda þau til pickle. lerobot notar pickle í staðinn: policy_server.py kallar á pickle.loads á beiðnigögn, robot_client.py notar pickle á athugunina sem það sendir. Varnarhæft á traustu staðarneti, óvarnarhæft þegar hægt er að ná í gáttina frá internetinu.

Leið A: GR00T stefnuþjónn NVIDIA

Þetta er leiðin sem NVIDIA skjalfestir fyrir SO-100 og SO-101 vélbúnað, og sú sem á að nota ef gátpunkturinn þinn kom úr examples/finetune.sh með --embodiment-tag NEW_EMBODIMENT. Skrefin bæta við því sem README skjalið að ofan skilur eftir: að koma gáttinni til vélmennisins án þess að afhjúpa hana fyrir öllum öðrum.

1. 1
   Setja upp GR00T á leigðu GPU tölvunni

   Undireiningar eru nauðsynlegar, og git-lfs verður að vera til staðar fyrir klónunina eða parquet skrárnar í demo_data koma sem vísar. flash-attn og TensorRT fylgja sjálfgefnu uppsetningunni. Gildran á nýrri pod-mynd: torchcodec 0.8.0 er eini studdi myndbandsbakendinn og hleður aðeins FFmpeg 4 til 7. Ubuntu 25.10 og 26.04 senda með FFmpeg 8, svo GR00T mistekst með Could not load libtorchcodec. Settu upp FFmpeg undir 8 og settu bókasöfn þess á LD_LIBRARY_PATH.

   bash

   sudo apt install git-lfs && git lfs install
   curl -LsSf https://astral.sh/uv/install.sh | sh
   sudo apt-get update && sudo apt-get install -y ffmpeg
   
   git clone --recurse-submodules https://github.com/NVIDIA/Isaac-GR00T
   cd Isaac-GR00T
   uv sync --python 3.12
   uv run python -c "import gr00t; print('GR00T installed successfully')"

2. 2
   Auðkenna sig gegn gáttaða burðarásnum

   Hver GR00T N1.7 gátpunktur, þar á meðal þinn eigin fínstilling, hleður gáttaða nvidia/Cosmos-Reason2-2B við fyrstu notkun. Biddu um aðgang á líkanasíðunni og skráðu þig inn á pod-inn, annars mistekst hleðsla með GatedRepoError.

   bash

   uv run huggingface-cli login
   # or:  export HF_TOKEN=<your_token>

3. 3
   Ræsa stefnuþjóninn

   Beindu --model-path á gátpunktamöppuna þína; á þeirri slóð hunsar þjónninn --modality-config-path, sem er aðeins lesin á endurspilunarslóðinni. Slepptu --model-path og sendu --dataset-path ásamt --execution-horizon í staðinn fyrir ReplayPolicy sem endurspilar skráðar aðgerðir, ódýrasta leiðin til að sanna að tengingin virki.

   bash

   uv run python gr00t/eval/run_gr00t_server.py \
     --model-path /workspace/so100_finetune/checkpoint-10000 \
     --embodiment-tag NEW_EMBODIMENT \
     --device cuda:0 \
     --host 127.0.0.1 --port 5555

4. 4
   Tengja gátt 5555 við vélmennisvélina með göngum

   Binda við loopback, eins og hér að ofan, og flytja gáttina yfir SSH eða WireGuard-líkt net. Það veitir dulkóðun og auðkenningu sem ZeroMQ tengið gerir ekki, í um það bil eina millisekúndu.

   bash

   # on the robot machine
   ssh -N -L 5555:127.0.0.1:5555 root@<pod-host> -p <pod-ssh-port>
   
   # sanity check that something answers
   nc -vz 127.0.0.1 5555

5. 5
   Keyra vélmennisbiðlarann við hliðina á servóunum

   Biðlarinn þarf sitt eigið uv umhverfi: hann vill vélmennisrekla lerobot, ekki þjálfunarstaflann. eval_so100.py flytur inn so100_follower, so101_follower og koch_follower, svo sendu --robot.type sem passar við handlegginn þinn (README skjalið að ofan notar so101_follower). Myndavélalyklar verða að passa við þjálfun: millistykkið les nákvæmlega front og wrist, og að skipta þeim sýnir stefnunni ranga sýn.

   bash

   cd gr00t/eval/real_robot/SO100
   uv sync
   uv pip install --no-deps -e ../../../../
   
   uv run --no-sync python eval_so100.py \
     --robot.type=so100_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=orange_follower \
     --robot.cameras="{ front: {type: opencv, index_or_path: 6, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 2, width: 640, height: 480, fps: 30}}" \
     --policy_host=127.0.0.1 \
     --policy_port=5555 \
     --lang_instruction="pick up the red block and put it in the bin"

Leið B: lerobot ósamstillt ályktun

lerobot leysir annað vandamál. Í stað þess að stöðva vélmennið á meðan líkanið hugsar, heldur biðlarinn áfram að vinna í gegnum biðröðina sem hann hefur nú þegar á meðan þjónninn reiknar út næsta bita. Þetta er aðgerðabitar, tekið lengra, ósamstillta staflinn sem kynntur var með SmolVLA. Það virkar einnig með GR00T gátpunkti.

# GPU machine
pip install -e ".[async]"
python -m lerobot.async_inference.policy_server \
     --host=127.0.0.1 \
     --port=8080

# robot machine, after tunnelling 8080
python -m lerobot.async_inference.robot_client \
    --server_address=127.0.0.1:8080 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM0 \
    --robot.id=follower_so100 \
    --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 1, width: 640, height: 480, fps: 30}}" \
    --task="pick up the red block and put it in the bin" \
    --policy_type=groot \
    --pretrained_name_or_path=<user>/my_groot_finetune \
    --policy_device=cuda \
    --actions_per_chunk=50 \
    --chunk_size_threshold=0.5 \
    --debug_visualize_queue_size=True

Þjónninn byrjar tómur: hann veit ekki hvaða stefnu hann þjónar fyrr en fyrsta handaband viðskiptavinarins segir honum það, sem er þægilegt á leigðum hýsingareiningu. Tveir stillihnappar sem ráða því hvort armurinn hreyfist mjúklega eru actions_per_chunk og chunk_size_threshold (lerobot skjöl kalla þann seinni g, eftir SmolVLA greininni), og skjalfestu gildin og gildin sem fylgja með eru ekki sammála.

Reikningsaðgerðin sem ákveður hvort tengingin þín sé nógu hröð

Fólk sleppir þessu og eyðir svo degi í . Þetta tekur tvær mínútur og er næstum alltaf afgerandi.

Athugasemda athugunardict í NVIDIA's eval_so100.py segir hvað fer um línuna: tvö fylki af stærð (480, 640, 3) í uint8, sex liðflotar, tungumálsstrengur. Það eru 921.600 bæti á ramma, 1.843.200 bæti fyrir tvær myndavélar, um 14,7 Mbit, og hvorugur staflinn JPEG-þjappar því. Búturinn sem kemur til baka er nokkrir tugir skrefa af 6 flotum. Upphleðslan þín ræður öllu, ekki niðurhalið þitt.

Fjárhagsáætlunin sem þú þarft að passa inn í

GR00T SO-100 biðlarinn er samstilltur: hann kallar á policy.get_action(obs), framkvæmir fyrstu action_horizon skrefin af bútnum á 30 FPS, og kallar svo aftur. Bútastærð og sjóndeildarhringur eru ólíkar tölur: dreifingarleiðbeiningar NVIDIA mæla með aðgerðabútastærð upp á 16, að minnsta kosti 32 þegar það er sameinað rauntíma bútun, á meðan eval_so100.py sendir frá sér framkvæmdarsjóndeildarhring upp á 8. Átta skref á 30 FPS eru 267 ms af hreyfingu á hvert kall, og allt annað þarf að passa inn í það.

observation upload   14.7 Mbit / 100 Mbit/s   = 147 ms
network round trip                            =  30 ms
model inference (AY-Robots figure, N1.7)      = 152 ms
action chunk return + deserialize             =  ~2 ms
                                                -------
total per call                                  331 ms

budget at action_horizon = 8   ->  267 ms   FAIL, arm pauses ~64 ms per chunk
budget at action_horizon = 16  ->  533 ms   fits, with headroom
budget at action_horizon = 32  -> 1067 ms   fits, observations now ~1 s stale

Að hækka sjóndeildarhringinn er gróf lausn og ekki ókeypis: armurinn bregst við athugun sem er nú gömul. Meginreglulega lausnin er rauntíma bútun, sem reiknar út næsta bút á meðan sá núverandi keyrir, frystir aðgerðir sem tryggt er að framkvæmist og fyllir inn í restina; RTC skýrslan segir þetta vera öflugt gegn ályktunartöfum án endurþjálfunar. Athugaðu fyrst hvar það stendur. NVIDIA merkir RTC sem tilraunakennt, lággæða líkan frumstætt sem hægt er að ná í gegnum action_head.get_action(..., options={"rtc_overlap_steps": ..., "rtc_frozen_steps": ...}), ekki tengt inn í Gr00tPolicy eða netþjóns-biðlara leiðina, þar sem options er ónotað, án prófana og án dæmis. Yfir stefnuþjóni færðu ósamstillta framkvæmd, ekki RTC.

Mældu það áður en þú treystir því

Hver tala hér að ofan er spá. Fjórar skipanir breyta henni í mælingu, sem er þess virði að keyra áður en þú skuldbindur pod-klukkustund í verkefni sem aldrei hefði virkað.

1. 1
   Fáðu hráa hringferðartímann

   Gegn podinu, ekki CDN. Fylgstu jafn vel með frávikinu og meðaltalinu: sveiflur valda því að armur hikstar, ekki meðaltalsleynd.

   bash

   ping -c 50 <pod-host>
   # the mdev column is the number that predicts stutter

2. 2
   Mældu upphleðsluna sem þú hefur, ekki þá sem þú borgar fyrir

   Upphleðsla í íbúðarhúsnæði er venjulega brot af niðurhali, og það er talan í bandbreiddartöflunni hér að ofan.

   bash

   # on the pod
   iperf3 -s
   
   # on the robot machine, -R omitted so this measures upload
   iperf3 -c <pod-host> -t 30

3. 3
   Lestu leyndarskráningu biðlarans sjálfs

   LeRobot vélmennamiðlarinn skráir leyndartíma frá miðlara til biðlara og afraðgreiningartíma fyrir hvern bita. Á leið B þarftu engin utanaðkomandi verkfæri.

   text

   Received action chunk for step #240 | Latest action: #232 |
     Incoming actions: 240:289 |
     Network latency (server->client): 187.44ms |
     Deserialization time: 3.10ms

4. 4
   Fylgstu með því að aðgerðarbiðröðin tæmist

   Sendu --debug_visualize_queue_size=True og biðlarinn teiknar stærð biðraðarinnar á keyrslutíma. Ef hún fer ítrekað í núll ertu kominn yfir fjárhagsáætlun: lækkaðu fps, hækkaðu actions_per_chunk, eða hækkaðu chunk_size_threshold svo athuganir fari oftar út.

   bash

   python -m lerobot.async_inference.robot_client \
       ... \
       --debug_visualize_queue_size=True

Til hvers er fjarlæg ályktun í raun og veru góð

Ef fjarlæg keyrsla hikstar á sama punkti í hverjum þætti, er netið líklega ekki orsökin. Stýring sem hikstar á sama liðhorni í hvert skipti er venjulega gagnamál; sjá síður um bilunarham, sérstaklega stýring sem virkar aðeins í einni uppsetningu og tap minnkar en stýringin gerir ekkert.

Að gera það sjálfur á móti því að gera það á AY-Robots

Hvað fjarlæg ályktunarlota kostar

Tvær tölur skipta máli: tímagjald kortsins, og hversu lengi þú lætur það keyra. Sú fyrri er birt; sú síðari kemur fólki á óvart.

Þessir taxtar voru lesnir af verðsíðu Runpod þann 23. ágúst 2026, og markaðir breytast. AY-Robots gefur upp heildar keyrslu í staðinn: 3 til 6 klukkustundir á 1,20 til 2,00 USD á klukkustund á A100 eða H100 flokknum, um 4 til 12 USD fyrir GR00T eða Pi0.5 keyrslu; 2 til 5 klukkustundir á 0,30 til 0,60 USD á klukkustund á 24 GB flokknum, 1 til 3 USD fyrir SmolVLA eða ACT. Ályktunarlota er ódýrari en þjálfunar keyrsla aðeins ef þú stöðvar hana, sem er það sem aðgerðalaus vaktari er fyrir. Sjáðu reikningsskjöl og verðsíðu.

Ef þú vilt frekar ekki hafa netið í lykkjunni

Fjarályktun leysir vélbúnaðarvandamál og skapar biðtímavandamál. Stundum er betra svarið stefna sem passar við vélbúnaðinn sem þú hefur.

• ACT, um það bil 80 M færibreytur og 20 ms á aðgerðarskref, 50 þættir að lágmarki, hvaða 24 GB kort sem er. Í endurtekinni uppsetningu fyrir eitt verkefni slær það oft fjarstýrt 3 B líkan, vegna þess að það bíður aldrei eftir pakka.
• SmolVLA, um það bil 450 M færibreytur og 245 ms á aðgerðarskref, 30 þættir að lágmarki. Það heldur tungumálaskilyrðingunni sem ACT skortir, og lerobot skjöl setja það í um 2 GB við ályktunartíma á móti um 14 GB fyrir PI0.
• ACT vs GR00T N1.7 fyrir nákvæmnishlutann af málamiðluninni.

Það er líka millileið: þjálfa í skýinu, meta staðbundið. Fínstilling þarf 80 GB kortið og er sama um biðtíma, svo að þjálfa GR00T N1.7 á SO-100 fjarstýrt er óumdeilt. Aðeins matslúkkan hefur rauntímakröfu; þjálfunarskjölin og líkan- og armamatrísa fjalla um þann hluta.

Algengar spurningar

Stutta útgáfan

Fjárályktun fyrir 3 B stefnu er leyst verkfræðilegt vandamál með óleyst eðlisfræðilegt vandamál tengt. Verkfræðin er tvær skipanir og SSH göng. Eðlisfræðin er sú að 1,8 MB athugun þarf að ná til GPU í öðru landi og koma til baka áður en armurinn klárast af aðgerðum. Gerðu útreikningana áður en þú leigir eitthvað, veldu verkefni sem þolir úrelta athugun og hækkaðu framkvæmdarsviðið frekar en að vona að tengingin batni.

Ef þú hefur ekki tekið upp gagnasafn ennþá, taktu upp fyrsta gagnasafnið þitt og uppsetningarleiðbeiningar SO-100 koma fyrst, og LeRobot gagnasafnssniðið færsla útskýrir hvað upptökutækið skrifar. Bakgrunnur er í sjón-tungumál-aðgerðarlíkönum og vinnu með flæðisjöfnunarstefnur; arena færslan tengir hvert viðmiðunarnúmer við uppruna.