
మీ రోబోట్ మెషీన్కు GPU లేదు. అద్దెకు తీసుకున్న క్లౌడ్ GPUలో GR00T పాలసీ సర్వర్ను ఉంచండి, యాక్షన్ చంక్లను ఆర్మ్కు స్ట్రీమ్ చేయండి మరియు నెట్వర్క్ మీకు ఎంత ఖర్చవుతుందో ఖచ్చితంగా తెలుసుకోండి.
ఒక Raspberry Pi ఒక సీరియల్ బస్ ద్వారా నడపడానికి మరియు రెండు USB కెమెరాల నుండి ఫ్రేమ్లను లాగడానికి సరిపోతుంది. మూడు బిలియన్ పారామీటర్ల ను అమలు చేయడానికి ఇది సరిపోదు: NVIDIA యొక్క README ప్రకారం GR00T N1.7 ఇన్ఫరెన్స్ కోసం 16 GB లేదా అంతకంటే ఎక్కువ VRAM ఉన్న ఒక GPU అవసరం. మీ ఫైన్-ట్యూన్ చేయబడిన చెక్పాయింట్ ఆర్మ్పై కార్డ్ కొనుగోలు చేయకుండా ఏమి చేస్తుందో చూడటానికి, పాలసీని అద్దె క్లౌడ్ GPUలో ఉంచండి, రోబోట్ లూప్ను USB పోర్ట్లు ఉన్న మెషీన్లో ఉంచండి మరియు నెట్వర్క్ ద్వారా అబ్జర్వేషన్లు మరియు యాక్షన్ చంక్లను పంపండి.
ఇది పనిచేస్తుంది, ఇది ఉచితం కాదు, మరియు ధర పనుల అంతటా సమానంగా విస్తరించి లేదు. క్రింద: NVIDIA యొక్క స్వంత పాలసీ సర్వర్, lerobot యొక్క అసైన్క్ స్టాక్, మీ అప్లింక్ తగినంత వేగంగా ఉందో లేదో ముందుగానే చెప్పే అంకగణితం మరియు ప్లాట్ఫారమ్ మార్గం. ఇవన్నీ Isaac-GR00T మెయిన్ బ్రాంచ్ (N1.7 GA) మరియు lerobot 0.6.1కి వ్యతిరేకంగా 23 ఆగస్టు 2026న తనిఖీ చేయబడ్డాయి.
మీరు తెలుసుకోవలసినవి
- •GR00T N1.7, GR00T N1.5 మరియు Pi0.5 సుమారుగా 3 బిలియన్ పారామీటర్ మోడల్స్. డిస్క్రీట్ GPU లేకుండా ఏవీ రోబోట్ కంట్రోలర్పై సరిపోవు.
- •Isaac-GR00T మరియు lerobot రెండూ క్లయింట్-సర్వర్ స్ప్లిట్ను అందిస్తాయి. మీరు ట్రాన్స్పోర్ట్ను వ్రాయరు.
- •అబ్జర్వేషన్లు వైర్ ఖర్చును ఆధిపత్యం చేస్తాయి, చర్యలు కాదు: రెండు అన్కంప్రెస్డ్ 640x480 RGB ఫ్రేమ్లు 1,843,200 బైట్లు, ఒక్కో కాల్కు సుమారు 14.7 Mbit, మరియు ఏ స్టాక్ వాటిని కంప్రెస్ చేయదు.
- •AY-Robots మోడల్ ప్రకారం ఒక్కో యాక్షన్ స్టెప్కు 20 నుండి 485 ms వరకు జాబితా చేస్తుంది. ఇంటర్నెట్ రౌండ్ ట్రిప్లు దానికి అదనంగా ఉంటాయి.
- •రిమోట్ ఇన్ఫరెన్స్ నెమ్మదిగా పికప్-అండ్-ప్లేస్కు సరిపోతుంది, వేగవంతమైన రియాక్టివ్ మోషన్కు కాదు. ఎక్కువ ఎగ్జిక్యూషన్ హారిజన్ సమయాన్ని కొనుగోలు చేస్తుంది మరియు అబ్జర్వేషన్ ఫ్రెష్నెస్కు ఖర్చు అవుతుంది.
- •షిప్ చేయబడిన విధంగా ఏ సర్వర్ కూడా పబ్లిక్ IPలో సురక్షితం కాదు, మరియు lerobot యొక్కది ప్యాచ్ చేయని RCEని కలిగి ఉంది. దాన్ని టన్నెల్ చేయండి.
పాలసీ రోబోట్ మెషీన్పై ఎందుకు సరిపోదు
AY-Robots శిక్షణ ఇవ్వగల ఐదు పాలసీలలో రెండు వర్క్స్టేషన్ కార్డ్లో నడుస్తాయి, మూడు నడవవు. ది క్రింద ఉన్న కాలమ్ ప్రతి చర్య దశకు సంబంధించినది, మరియు అది మీ నెట్వర్క్ రౌండ్ ట్రిప్తో పోటీపడే సంఖ్య.
| పాలసీ | పారామీటర్లు | ప్రతి చర్య దశకు ఇన్ఫరెన్స్ | శిక్షణ కోసం GPU శ్రేణి | కనీస ఎపిసోడ్లు | డేటాసెట్ ఫార్మాట్ |
|---|---|---|---|---|---|
| GR00T N1.7 | ~3 B, ~40 M trained during fine-tuning | 152 ms | A100 80 GB or H100 80 GB | 50 | LeRobot v2.0 or v2.1 |
| GR00T N1.5 | ~3 B | 165 ms | A100 80 GB or H100 80 GB | 50 | LeRobot v2.0 or v2.1 |
| Pi0.5 | ~3 B, PaliGemma backbone | 485 ms | A100 80 GB or H100 80 GB | 50 | LeRobot v3.0 |
| SmolVLA | ~450 M | 245 ms | RTX 4090 or any 24 GB card | 30 | LeRobot v3.0 |
| ACT | ~80 M | 20 ms | RTX 4090 or any 24 GB card | 50 | LeRobot v3.0 |

దీన్ని ఒక నిర్ణయంగా చదవండి, కేవలం సాధారణ విషయంగా కాదు. ACT 20 ms ప్రతి అడుగుకు రోబోట్ మెషీన్లో నడుస్తుంది మరియు మీరు దాని గురించి మళ్ళీ ఆలోచించరు. Pi0.5 485 ms వద్ద, ఒక ప్యాకెట్ మీ భవనం నుండి బయలుదేరడానికి ముందే మూడింట ఒక వంతు సెకను గడిచిపోయింది. పాలసీ పోలిక మరియు GR00T N1.7 vs Pi0.5 ఖచ్చితత్వ కోణాన్ని జోడిస్తాయి.
GR00T N1.7, GR00T N1.5 మరియు Pi0.5 ఒక వెండర్ చెక్పాయింట్ నుండి ప్రారంభమవుతాయి (nvidia/GR00T-N1.7-3B, nvidia/GR00T-N1.5-3B, lerobot/pi05_base). మీరు మీ స్వంత టాస్క్పై శిక్షణ ఇచ్చే వరకు ACT ఉనికిలో ఉండదు, కాబట్టి శిక్షణ ఉద్యోగం నడిచే వరకు రిమోట్గా అందించడానికి ఏమీ ఉండదు. చూడండి ACT on SO-100.
ఇప్పటికే ఉన్న రెండు క్లయింట్-సర్వర్ స్టాక్లు
Isaac-GR00T ఒక ZeroMQ రిక్వెస్ట్-రిప్లై సర్వర్ను పంపుతుంది; lerobot అసమకాలిక ఇన్ఫరెన్స్ చుట్టూ నిర్మించిన gRPC సర్వర్ను పంపుతుంది. రెండూ ఒక GR00Tని అంగీకరిస్తాయి చెక్పాయింట్. lerobot మద్దతు ఇచ్చే పాలసీ జాబితా async_inference/constants.py అనేది act, smolvla, diffusion, tdmpc, vqbet, pi0, pi05 మరియు groot; దాని రోబోట్ జాబితా so100_follower, so101_follower, bi_so_follower మరియు omx_follower.
| Isaac-GR00T PolicyServer | lerobot async inference | |
|---|---|---|
| ఎంట్రీ పాయింట్ | gr00t/eval/run_gr00t_server.py | python -m lerobot.async_inference.policy_server |
| రవాణా | ZeroMQ REQ/REP | gRPC, add_insecure_port / insecure_channel |
| సీరియలైజేషన్ | msgpack + msgpack_numpy, allow_pickle=False enforced | pickle.dumps / pickle.loads, marked # nosec |
| డిఫాల్ట్ పోర్ట్ | 5555 | 8080 |
| డిఫాల్ట్ బైండ్ | 0.0.0.0, అన్ని ఇంటర్ఫేస్లు | localhost |
| అథెంటికేషన్ | క్లాస్ ద్వారా మద్దతు ఇచ్చే api_token, CLI ద్వారా పంపబడదు | ఏదీ లేదు |
| క్లయింట్ టైమ్అవుట్ | 15000 ms (PolicyClient timeout_ms) | 2 s అబ్జర్వేషన్ క్యూ టైమ్అవుట్ |
| ఎగ్జిక్యూషన్ మోడల్ | సింక్రోనస్: బ్లాక్ చేసి, ఆపై చంక్ను అమలు చేయండి | అసమకాలిక: తదుపరి చంక్ గణనలో ఉన్నప్పుడు అమలు చేయండి |
సీరియలైజేషన్ వరుస అది కనిపించే దానికంటే ఎక్కువ ముఖ్యమైనది. GR00T యొక్క MsgSerializer ఆబ్జెక్ట్-డేటాటైప్ ఎన్డిఅర్రే పేలోడ్లను రెండు దిశలలోనూ తిరస్కరిస్తుంది, ఎందుకంటే msgpack_numpy వాటిని పికిల్కు అప్పగిస్తుంది. lerobot బదులుగా పికిల్ చేస్తుంది: policy_server.py అభ్యర్థన డేటాపై pickle.loadsను పిలుస్తుంది, robot_client.py అది పంపే పరిశీలనను పికిల్ చేస్తుంది. విశ్వసనీయ LANలో సమర్థనీయం, పోర్ట్ ఇంటర్నెట్ నుండి అందుబాటులో ఉన్న తర్వాత సమర్థనీయం కాదు.
మార్గం A: NVIDIA యొక్క స్వంత GR00T పాలసీ సర్వర్
ఇది SO-100 మరియు SO-101 హార్డ్వేర్ కోసం NVIDIA డాక్యుమెంట్ చేసిన మార్గం, మరియు మీ చెక్పాయింట్ examples/finetune.sh నుండి --embodiment-tag NEW_EMBODIMENTతో వచ్చినట్లయితే ఉపయోగించాల్సిన మార్గం. ఈ దశలు అప్స్ట్రీమ్ README వదిలివేసిన వాటిని జోడిస్తాయి: పోర్ట్ను ఇతరులందరికీ బహిర్గతం చేయకుండా రోబోట్కు చేర్చడం.
- 1అద్దెకు తీసుకున్న GPU బాక్స్లో GR00Tని ఇన్స్టాల్ చేయండి
సబ్మాడ్యూల్స్ అవసరం, మరియు క్లోన్ చేయడానికి ముందు git-lfs ఉండాలి లేదా
demo_dataలోని పారక్వెట్ ఫైల్లు పాయింటర్లుగా వస్తాయి. flash-attn మరియు TensorRT డిఫాల్ట్ ఇన్స్టాల్తో వస్తాయి. కొత్త పాడ్ ఇమేజ్పై ఉన్న సమస్య:torchcodec0.8.0 మాత్రమే మద్దతు ఉన్న వీడియో బ్యాకెండ్ మరియు FFmpeg 4 నుండి 7 వరకు మాత్రమే లోడ్ చేస్తుంది. Ubuntu 25.10 మరియు 26.04 FFmpeg 8ని కలిగి ఉంటాయి, కాబట్టిCould not load libtorchcodecతో GR00T విఫలమవుతుంది. 8 కంటే తక్కువ FFmpegని ఇన్స్టాల్ చేసి, దాని లైబ్రరీలనుLD_LIBRARY_PATHలో ఉంచండి.bashsudo apt install git-lfs && git lfs install curl -LsSf https://astral.sh/uv/install.sh | sh sudo apt-get update && sudo apt-get install -y ffmpeg git clone --recurse-submodules https://github.com/NVIDIA/Isaac-GR00T cd Isaac-GR00T uv sync --python 3.12 uv run python -c "import gr00t; print('GR00T installed successfully')" - 2గేటెడ్ బ్యాక్బోన్కు వ్యతిరేకంగా ప్రామాణీకరించండి
ప్రతి GR00T N1.7 చెక్పాయింట్, మీ స్వంత ఫైన్-ట్యూన్తో సహా, మొదటిసారి ఉపయోగించినప్పుడు గేటెడ్
nvidia/Cosmos-Reason2-2Bని లోడ్ చేస్తుంది. మోడల్ పేజీలో యాక్సెస్ కోసం అభ్యర్థించండి మరియు పాడ్లో లాగిన్ చేయండి, లేకపోతేGatedRepoErrorతో లోడింగ్ విఫలమవుతుంది.bashuv run huggingface-cli login # or: export HF_TOKEN=<your_token> - 3పాలసీ సర్వర్ను ప్రారంభించండి
--model-pathను మీ చెక్పాయింట్ డైరెక్టరీకి సూచించండి; ఆ మార్గంలో సర్వర్--modality-config-pathను విస్మరిస్తుంది, ఇది రీప్లే మార్గంలో మాత్రమే చదవబడుతుంది.--model-pathను వదిలివేసి, బదులుగా--dataset-pathమరియు--execution-horizonను ReplayPolicy కోసం పాస్ చేయండి, ఇది రికార్డ్ చేయబడిన చర్యలను రీప్లే చేస్తుంది, వైరింగ్ పనిచేస్తుందని నిరూపించడానికి ఇది చౌకైన మార్గం.bashuv run python gr00t/eval/run_gr00t_server.py \ --model-path /workspace/so100_finetune/checkpoint-10000 \ --embodiment-tag NEW_EMBODIMENT \ --device cuda:0 \ --host 127.0.0.1 --port 5555 - 4పోర్ట్ 5555ను రోబోట్ మెషీన్కు టన్నెల్ చేయండి
పైన పేర్కొన్న విధంగా, లూప్బ్యాండ్కు బైండ్ చేయండి మరియు SSH లేదా WireGuard-శైలి మెష్ ద్వారా పోర్ట్ను తీసుకువెళ్లండి. ఇది ZeroMQ సాకెట్ అందించని ఎన్క్రిప్షన్ మరియు ప్రామాణీకరణను సుమారు ఒక మిల్లీసెకనుకు అందిస్తుంది.
bash# on the robot machine ssh -N -L 5555:127.0.0.1:5555 root@<pod-host> -p <pod-ssh-port> # sanity check that something answers nc -vz 127.0.0.1 5555 - 5సర్వోల పక్కన రోబోట్ క్లయింట్ను అమలు చేయండి
క్లయింట్కు దాని స్వంత uv వాతావరణం అవసరం: అది శిక్షణ స్టాక్ను కాకుండా lerobot యొక్క రోబోట్ డ్రైవర్లను కోరుకుంటుంది.
eval_so100.pyso100_follower, so101_follower మరియు koch_followerలను దిగుమతి చేస్తుంది, కాబట్టి మీ ఆర్మ్కు సరిపోయే--robot.typeను పాస్ చేయండి (అప్స్ట్రీమ్ README so101_followerను ఉపయోగిస్తుంది). కెమెరా కీలు శిక్షణకు సరిపోలాలి: అడాప్టర్ సరిగ్గాfrontమరియుwristలను చదువుతుంది, మరియు వాటిని మార్చడం వలన పాలసీకి తప్పు వీక్షణ కనిపిస్తుంది.bashcd gr00t/eval/real_robot/SO100 uv sync uv pip install --no-deps -e ../../../../ uv run --no-sync python eval_so100.py \ --robot.type=so100_follower \ --robot.port=/dev/ttyACM0 \ --robot.id=orange_follower \ --robot.cameras="{ front: {type: opencv, index_or_path: 6, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 2, width: 640, height: 480, fps: 30}}" \ --policy_host=127.0.0.1 \ --policy_port=5555 \ --lang_instruction="pick up the red block and put it in the bin"
run_gr00t_server.py డిఫాల్ట్గా --host 0.0.0.0కి సెట్ చేయబడుతుంది, ప్రతి ఇంటర్ఫేస్ను బంధిస్తుంది: పబ్లిక్ IP ఉన్న పాడ్లో ఇది ఓపెన్ ఇన్ఫరెన్స్ ఎండ్పాయింట్. మరియు PolicyServer క్లాస్ api_tokenను అంగీకరిస్తుంది మరియు ప్రతి అభ్యర్థనకు దానిని ధృవీకరిస్తుంది, కానీ run_gr00t_server.py ఎప్పుడూ ఒకదాన్ని పాస్ చేయదు, కాబట్టి మీరు ఏది కాన్ఫిగర్ చేసినా CLI సర్వర్ ప్రామాణీకరించబడదు. 127.0.0.1కి బంధించి, టన్నెల్ చేయండి. ZMQError: Address already in use అంటే పోర్ట్ 5555 ఉపయోగంలో ఉంది; --portను పాస్ చేయండి.
మార్గం B: లెరోబోట్ అసమకాలిక ఇన్ఫరెన్స్
లెరోబోట్ ఒక విభిన్న సమస్యను పరిష్కరిస్తుంది. మోడల్ ఆలోచిస్తున్నప్పుడు రోబోట్ను నిరోధించడానికి బదులుగా, సర్వర్ తదుపరి భాగాన్ని లెక్కిస్తున్నప్పుడు క్లయింట్ ఇప్పటికే ఉన్న క్యూ ద్వారా అడుగులు వేస్తూ ఉంటుంది. ఇది యాక్షన్ చంకింగ్ మరింత ముందుకు తీసుకెళ్లబడింది, స్మోల్విఎల్ఎతో పరిచయం చేయబడిన అసమకాలిక స్టాక్. ఇది GR00T చెక్పాయింట్తో కూడా పనిచేస్తుంది.
# GPU machine
pip install -e ".[async]"
python -m lerobot.async_inference.policy_server \
--host=127.0.0.1 \
--port=8080
# robot machine, after tunnelling 8080
python -m lerobot.async_inference.robot_client \
--server_address=127.0.0.1:8080 \
--robot.type=so100_follower \
--robot.port=/dev/ttyACM0 \
--robot.id=follower_so100 \
--robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 1, width: 640, height: 480, fps: 30}}" \
--task="pick up the red block and put it in the bin" \
--policy_type=groot \
--pretrained_name_or_path=<user>/my_groot_finetune \
--policy_device=cuda \
--actions_per_chunk=50 \
--chunk_size_threshold=0.5 \
--debug_visualize_queue_size=Trueసర్వర్ ఖాళీగా ప్రారంభమవుతుంది: క్లయింట్ యొక్క మొదటి హ్యాండ్షేక్ చెప్పే వరకు అది ఏ పాలసీని అందిస్తుందో దానికి తెలియదు, ఇది అద్దెకు తీసుకున్న పాడ్లో సౌకర్యవంతంగా ఉంటుంది. చేయి సజావుగా కదులుతుందో లేదో నిర్ణయించే రెండు నాబ్లు actions_per_chunk మరియు chunk_size_threshold (లెరోబోట్ డాక్యుమెంట్లు రెండవదాన్ని g అని పిలుస్తాయి, స్మోల్విఎల్ఎ పేపర్ తర్వాత), మరియు డాక్యుమెంట్ చేయబడిన విలువలు మరియు షిప్ చేయబడిన విలువలు సరిపోలడం లేదు.
| Parameter | Value in lerobot 0.6.1 code | What it does | Note |
|---|---|---|---|
| actions_per_chunk | డిఫాల్ట్ లేదు, అవసరం | ప్రతి కాల్కు తిరిగి వచ్చే చర్యలు | డాక్యుమెంట్ల పట్టిక 50ని జాబితా చేస్తుంది; డేటాక్లాస్ ఫీల్డ్కు డిఫాల్ట్ లేదు, కాబట్టి CLI ఒక విలువను డిమాండ్ చేస్తుంది |
| chunk_size_threshold | 0.5 | క్లయింట్ కొత్త పరిశీలనను పంపే క్యూ నింపే నిష్పత్తి లేదా అంతకంటే తక్కువ | డాక్యుమెంట్ల పట్టిక 0.7 అని చెబుతుంది; కోడ్ మరియు డాక్యుమెంట్ల స్వంత ఉదాహరణ 0.5 అని చెబుతుంది |
| fps | 30 | క్లయింట్ నియంత్రణ రేటు, environment_dt = 1/fpsని సెట్ చేస్తుంది | క్యూ నిరంతరం ఖాళీ అవుతుంటే దానిని తగ్గించండి |
| inference_latency | 1/30 s (33.3 ms) | సర్వర్లో లక్ష్య ఇన్ఫరెన్స్ లేటెన్సీ | ఒక లక్ష్యం, కొలత కాదు |
| obs_queue_timeout | 2 s | పరిశీలన క్యూలో సర్వర్ ఎంతసేపు వేచి ఉంటుంది | నెమ్మదిగా అప్లింక్ ఇక్కడ మొదట కనిపిస్తుంది |
| aggregate_fn_name | weighted_average | అతివ్యాప్తి చెందుతున్న చంక్ ప్రాంతాలు ఎలా మిళితం చేయబడతాయి | 0.3 పాత + 0.7 కొత్త; latest_only, average మరియు conservative కూడా షిప్ చేయబడతాయి. రిజిస్ట్రీ configs.pyలో AGGREGATE_FUNCTIONS, డాక్యుమెంట్లు పేర్కొన్నట్లు robot_client.pyలో కాదు |
CVE-2026-25874 అనేది లెరోబోట్ యొక్క అసమకాలిక ఇన్ఫరెన్స్ పైప్లైన్లో ప్రమాణీకరణ లేని రిమోట్ కోడ్ ఎగ్జిక్యూషన్: pickle.loads() అనేది TLS లేకుండా ప్రమాణీకరణ లేని gRPC ఛానెల్ ద్వారా స్వీకరించబడిన డేటాపై, SendPolicyInstructions, SendObservations మరియు GetActions కాల్ల ద్వారా చేరుకోవచ్చు. CWE-502, NVD నుండి CVSS 3.1 బేస్ స్కోర్ 9.8, కేటాయించిన CNA నుండి 4.0 బేస్ స్కోర్ 9.3. రికార్డు LeRobot 0.5.1 వరకు ప్రభావితమైనదిగా జాబితా చేస్తుంది మరియు పాలసీ సర్వర్ మరియు రోబోట్ క్లయింట్ రెండింటినీ పేర్కొంటుంది, కాబట్టి మీ చేయి పక్కన ఉన్న యంత్రం పరిధిలో ఉంది. అప్గ్రేడ్ చేయడం పరిష్కారం కాదు: రికార్డు అప్స్ట్రీమ్ ఇష్యూ 3047 మరియు ప్యాచ్, PR 3048ని ఉటంకిస్తుంది, ఇది పికిల్ను సేఫ్టెన్సర్లు ప్లస్ JSONతో మారుస్తుంది, మరియు 23 ఆగస్టు 2026న రెండూ ఇంకా తెరిచే ఉన్నాయి. మెయిన్లోని policy_server.py ఇప్పటికీ అభ్యర్థన డేటాపై pickle.loadsని కాల్ చేస్తుంది, అయితే serve() add_insecure_portతో బంధిస్తుంది. లూప్బ్యాక్కు బంధించండి మరియు 8080ని ఎప్పుడూ పోర్ట్-ఫార్వార్డ్ చేయవద్దు.
మీ లింక్ తగినంత వేగంగా ఉందో లేదో నిర్ణయించే అంకగణితం
ప్రజలు దీన్ని దాటవేసి, ఆపై ఒక రోజు గడుపుతారు . దీనికి రెండు నిమిషాలు పడుతుంది మరియు ఇది దాదాపు ఎల్లప్పుడూ నిర్ణయాత్మకమైనది.
NVIDIA యొక్క వ్యాఖ్యానించబడిన అబ్జర్వేషన్ డిక్ట్ eval_so100.py వైర్పై ఏమి జరుగుతుందో చెబుతుంది: uint8లో (480, 640, 3) ఆకారంలో రెండు శ్రేణులు, ఆరు జాయింట్ ఫ్లోట్లు, ఒక భాషా స్ట్రింగ్. అది ఒక్కో ఫ్రేమ్కు 921,600 బైట్లు, రెండు కెమెరాలకు 1,843,200 బైట్లు, సుమారు 14.7 Mbit, మరియు ఏ స్టాక్ కూడా దీన్ని JPEG-కంప్రెస్ చేయదు. తిరిగి వచ్చే చంక్ కొన్ని డజన్ల 6 ఫ్లోట్ల దశలు. మీ అప్లోడ్ ప్రతిదీ నిర్ణయిస్తుంది, మీ డౌన్లోడ్ కాదు.
| అప్లోడ్ బ్యాండ్విడ్త్ | ఒక అబ్జర్వేషన్ను పంపడానికి సమయం (14.7 Mbit) | 30 FPS ఆర్మ్ కోసం తీర్పు |
|---|---|---|
| 10 Mbit/s, typical home upload | ~1.47 s | ఉపయోగించలేనిది. ప్రతి చంక్ మధ్యలో ఆర్మ్ ఆగిపోతుంది. |
| 25 Mbit/s | ~0.59 s | దీర్ఘకాలిక అమలు పరిధితో నెమ్మదిగా పికప్-అండ్-ప్లేస్ మాత్రమే. |
| 50 Mbit/s | ~0.29 s | ఉద్దేశపూర్వక పనులకు పనికొస్తుంది. |
| 100 Mbit/s | ~0.15 s | పికప్-అండ్-ప్లేస్కు బాగానే ఉంటుంది, వేగవంతమైన కదలికలో కనిపిస్తుంది. |
| 1 Gbit/s fibre or datacentre | ~0.015 s | బదులుగా మోడల్ అడ్డంకిగా మారుతుంది. |
మీరు సరిపోవాల్సిన బడ్జెట్
The GR00T SO-100 client is synchronous: it calls policy.get_action(obs), executes the first action_horizon steps of the chunk at 30 FPS, then calls again. Chunk size and horizon are different numbers: NVIDIA's deployment guide recommends an action chunk size of 16, at least 32 when combined with real-time chunking, while eval_so100.py ships an execution horizon of 8. Eight steps at 30 FPS is 267 ms of motion per call, and everything else has to fit inside that.
observation upload 14.7 Mbit / 100 Mbit/s = 147 ms
network round trip = 30 ms
model inference (AY-Robots figure, N1.7) = 152 ms
action chunk return + deserialize = ~2 ms
-------
total per call 331 ms
budget at action_horizon = 8 -> 267 ms FAIL, arm pauses ~64 ms per chunk
budget at action_horizon = 16 -> 533 ms fits, with headroom
budget at action_horizon = 32 -> 1067 ms fits, observations now ~1 s staleRaising the horizon is the blunt fix and not a free one: the arm acts on an observation that is now old. The principled fix is real-time chunking, which computes the next chunk while the current one runs, freezes the actions guaranteed to execute and inpaints the rest; the RTC paper reports it as robust to inference delay with no retraining. Check where that stands first. NVIDIA marks RTC experimental, a low-level model primitive reachable through action_head.get_action(..., options={"rtc_overlap_steps": ..., "rtc_frozen_steps": ...}), not wired into Gr00tPolicy or the server-client path, where options is unused, with no tests and no example. Over a policy server you get asynchronous execution, not RTC.
NVIDIA GR00T N1.7ని ఒక కెమెరాతో 4 డెనాయిసింగ్ దశలలో ఎండ్-టు-ఎండ్ బెంచ్మార్క్ చేస్తుంది. H100 80GB HBM3లో: PyTorch ఈగర్లో 85.8 ms (11.7 Hz), torch.compileతో 48.6 ms (20.6 Hz), TensorRT పూర్తి పైప్లైన్తో 27.9 ms (35.9 Hz). ఈగర్ మోడ్లో L40 128.3 ms (7.8 Hz) పడుతుంది. సాధారణ మానిప్యులేషన్ కోసం 10 Hz సిఫార్సు చేయబడిన కనిష్టమని NVIDIA పేర్కొంది, మరియు 10 Hz కంటే తక్కువ నెమ్మదిగా, ప్రతిస్పందించని పనులకు మాత్రమే అనుకూలంగా ఉంటుంది. అవి పునఃప్రణాళిక రేట్లు: 10 Hz పాలసీ ఇప్పటికీ యాక్షన్ చంకింగ్ ద్వారా 30 FPS ఆర్మ్ను నడపగలదు. రెండవ కెమెరా మిమ్మల్ని తప్పు మార్గంలో కదిలిస్తుంది.
నమ్మే ముందు కొలవండి
పైన ఉన్న ప్రతి సంఖ్య ఒక అంచనా. నాలుగు ఆదేశాలు దానిని కొలతగా మారుస్తాయి, పని చేయని పనికి పాడ్-గంటను కేటాయించే ముందు వీటిని అమలు చేయడం విలువైనది.
- 1ముడి రౌండ్ ట్రిప్ను పొందండి
పాడ్కు వ్యతిరేకంగా, CDNకి కాదు. సగటుకు ఎంత దగ్గరగా ఉందో విచలనాన్ని కూడా అంత దగ్గరగా గమనించండి: జెట్టర్ ఒక ఆర్మ్ను తడబడేలా చేస్తుంది, సగటు లేటెన్సీ కాదు.
bashping -c 50 <pod-host> # the mdev column is the number that predicts stutter - 2మీరు కలిగి ఉన్న అప్లింక్ను కొలవండి, మీరు చెల్లించే దానిని కాదు
నివాస అప్లోడ్ సాధారణంగా డౌన్లోడ్లో కొంత భాగం మాత్రమే ఉంటుంది, మరియు పైన ఉన్న బ్యాండ్విడ్త్ పట్టికలో అది ఆ సంఖ్యే.
bash# on the pod iperf3 -s # on the robot machine, -R omitted so this measures upload iperf3 -c <pod-host> -t 30 - 3క్లయింట్ యొక్క స్వంత లేటెన్సీ లాగ్ను చదవండి
LeRobot రోబోట్ క్లయింట్ ప్రతి చంక్కు సర్వర్-టు-క్లయింట్ లేటెన్సీ మరియు డీసీరియలైజేషన్ సమయాన్ని లాగ్ చేస్తుంది. రూట్ Bలో మీకు బాహ్య టూలింగ్ అవసరం లేదు.
textReceived action chunk for step #240 | Latest action: #232 | Incoming actions: 240:289 | Network latency (server->client): 187.44ms | Deserialization time: 3.10ms - 4యాక్షన్ క్యూ ఖాళీ అవ్వడాన్ని గమనించండి
--debug_visualize_queue_size=Trueని పాస్ చేయండి మరియు క్లయింట్ రన్టైమ్లో క్యూ పరిమాణాన్ని ప్లాట్ చేస్తుంది. అది పదేపదే సున్నాకి చేరితే మీరు బడ్జెట్ అయిపోయినట్లే: fpsని తగ్గించండి, actions_per_chunkని పెంచండి, లేదా chunk_size_thresholdని పెంచండి, తద్వారా పరిశీలనలు తరచుగా బయటకు వెళ్తాయి.bashpython -m lerobot.async_inference.robot_client \ ... \ --debug_visualize_queue_size=True
రిమోట్ ఇన్ఫరెన్స్ నిజంగా దేనికి ఉపయోగపడుతుంది
- ఆర్మ్ కంటే ఎక్కువ ఖర్చు చేసే కార్డ్ మీ వద్ద లేకపోయినా, మీరు నిజమైన హార్డ్వేర్పై 3 బి పారామీటర్ పాలసీని అంచనా వేయవచ్చు.
- GPU గంటకు అద్దెకు తీసుకోబడుతుంది, కాబట్టి విఫలమైన చెక్పాయింట్ కొన్ని డాలర్లు ఖర్చు అవుతుంది.
- రోబోట్ వైపు చిన్నదిగా ఉంటుంది: lerobot డ్రైవర్లు, రెండు కెమెరాలు, ఒక సీరియల్ పోర్ట్, మరియు మీరు దానిని తాకకుండా చెక్పాయింట్లను మార్చుకోవచ్చు.
- అన్కంప్రెస్డ్ అబ్జర్వేషన్స్ వైర్ ఖర్చును పెంచుతాయి, మరియు రెసిడెన్షియల్ అప్లోడ్ ప్రధాన పరిమితి.
- లేటెన్సీ కంటే జిట్టర్ ఎక్కువ హాని చేస్తుంది: 40 ms సగటుతో 300 ms వరకు స్పైక్లు ఉన్న లింక్ తడబడుతుంది, కానీ స్థిరమైన 120 ms లింక్ తడబడదు.
- వేగవంతమైన రియాక్టివ్ పనులు ఏ హారిజోన్లోనూ రౌండ్ ట్రిప్ను తట్టుకోలేవు.
- రెండు సర్వర్లు CLI రూపంలో అన్అథెంటికేటెడ్గా షిప్ చేయబడతాయి, కాబట్టి టన్నెలింగ్ పని మీదే.
- ఒక చంక్ మధ్యలో కనెక్షన్ తెగిపోతే, ఆర్మ్ పాత చర్యను పట్టుకుని ఉంటుంది. మీ స్వంత వాచ్డాగ్ను రోబోట్ వైపు జోడించండి.
| పని | పబ్లిక్ ఇంటర్నెట్లో పనిచేస్తుందా? | ఎందుకు |
|---|---|---|
| ఒక స్థిరమైన వస్తువును ఎంచుకుని, దానిని బిన్లో ఉంచండి | అవును | అబ్జర్వేషన్ మరియు చర్య మధ్య ఏమీ కదలదు. |
| బ్లాక్లను నెమ్మదిగా పేర్చండి | అవును, action_horizon 16 లేదా అంతకంటే ఎక్కువ వద్ద | తప్పులు తదుపరి చంక్లో సరిదిద్దడానికి తగినంత నెమ్మదిగా పేరుకుపోతాయి. |
| డ్రాయర్ను తెరిచి, ఒక వస్తువును చొప్పించండి | సాధారణంగా | కాంటాక్ట్-రిచ్ కానీ నెమ్మదిగా. కాంటాక్ట్ వద్ద స్టాప్-అండ్-గో కోసం చూడండి. |
| కదిలే వస్తువును అనుసరించండి | లేదు | పాలసీ 300 ms నుండి 1 s పాత అబ్జర్వేషన్పై పనిచేస్తుంది. |
| జారిపోవడాన్ని పట్టుకోండి, సమతుల్యం చేయండి లేదా కోలుకోండి | లేదు | దిద్దుబాటు విండో ఒక రౌండ్ ట్రిప్ కంటే తక్కువ. |
| 30 Hz సింక్రోనస్ క్లోజ్డ్ లూప్ | లేదు | బడ్జెట్ ఎండ్-టు-ఎండ్ 33 ms. LAN కూడా కష్టపడుతుంది. |
ప్రతి ఎపిసోడ్లో రిమోట్ రన్ ఒకే పాయింట్ వద్ద తడబడితే, నెట్వర్క్ కారణం కాకపోవచ్చు. ప్రతిసారీ ఒకే జాయింట్ యాంగిల్ వద్ద పాలసీ సంకోచిస్తే, అది సాధారణంగా డేటా సమస్య; చూడండి వైఫల్య-మోడ్ పేజీలు, ముఖ్యంగా ఒక సెటప్లో మాత్రమే పనిచేసే పాలసీ మరియు నష్టం తగ్గుతుంది కానీ పాలసీ ఏమీ చేయదు.
మీరు స్వయంగా చేయడం vs AY-రోబోట్స్లో చేయడం
- స్పాట్ మార్కెట్లో GPUని అద్దెకు తీసుకోండి మరియు మీకు నచ్చిన ధరకు తగినంత VRAM కోసం వేచి ఉండండి.
- CUDA, uv, ffmpeg torchcodec అంగీకరించేది, మరియు సబ్మాడ్యూల్స్తో GR00T స్టాక్ను ఇన్స్టాల్ చేయండి.
- గేటెడ్ `nvidia/Cosmos-Reason2-2B` బ్యాక్బోన్కు యాక్సెస్ కోసం అభ్యర్థించండి మరియు పాడ్పై టోకెన్ను ఉంచండి.
- మీ చెక్పాయింట్ను పాడ్లోకి లాగండి.
- లూప్బ్యాక్లో సర్వర్ను ప్రారంభించండి, ఆపై రోబోట్ మెషిన్ నుండి SSH టన్నెల్ను నిర్మించండి.
- క్లయింట్ మరియు డ్రైవర్ల కోసం రోబోట్ మెషిన్పై రెండవ ఎన్విరాన్మెంట్ను ఇన్స్టాల్ చేయండి.
- కెమెరా కీలు, జాయింట్ పేర్లు మరియు భాషా సూచనను చెక్పాయింట్ చూసిన వాటికి సరిపోల్చండి.
- పాడ్ను గమనించండి. రాత్రంతా నడుస్తున్న మర్చిపోయిన A100 ప్రయోగం కంటే ఎక్కువ ఖర్చు అవుతుంది.
రోబోట్ ఆగిపోయినప్పుడు GPU బిల్లు ఆగదు. రిమోట్ ఇన్ఫరెన్స్లో కోల్పోయిన చాలా డబ్బు అందరూ వెళ్లిపోయిన తర్వాత కూడా నడుస్తున్న సర్వర్కు వెళ్తుంది. అలారం సెట్ చేయండి లేదా టీర్డౌన్ను ఆటోమేట్ చేయండి.
- మీరు అమలు చేయాలనుకుంటున్న శిక్షణ పొందిన పాలసీని ఎంచుకోండి.
/api/inference/podఆ పాలసీని అందించే క్లౌడ్ GPU పాడ్ను ఆటో-ప్రొవిజన్ చేస్తుంది.- స్థానిక రోబోట్ క్లయింట్ ఆ ఎండ్పాయింట్తో మాట్లాడుతుంది. బేస్ చెక్పాయింట్లు విక్రేతల స్వంతం:
nvidia/GR00T-N1.7-3B,nvidia/GR00T-N1.5-3B,lerobot/pi05_base. ACTకి ఏవీ లేవు. - పాడ్లు నిష్క్రియ వాచ్డాగ్ను కలిగి ఉంటాయి మరియు నిష్క్రియ కాలం తర్వాత తమను తాము నాశనం చేసుకుంటాయి, కాబట్టి ఏదీ నిశ్శబ్దంగా బిల్లింగ్ చేయదు.
- అదే కార్యకలాపాలు టెర్మినల్ నుండి మరియు AI ఏజెంట్లకు అందుబాటులో ఉంటాయి, కాబట్టి లూప్ను స్క్రిప్ట్ చేయవచ్చు.
ఆటో-ప్రొవిజనింగ్ సెటప్ పనిని మరియు మర్చిపోయిన-పాడ్ బిల్లును తొలగిస్తుంది, భౌతికశాస్త్రాన్ని కాదు. వేగవంతమైన పనుల కోసం ఇన్ఫరెన్స్ ఇప్పటికీ సర్వోల పక్కన ఉండాలి: కంట్రోల్ లూప్ మోడల్ను బట్టి ప్రతి చర్య దశకు 20 నుండి 485 ms ఉంటుంది, మరియు దానిపై పబ్లిక్-ఇంటర్నెట్ రౌండ్ ట్రిప్లు పనిచేసే పాలసీని సంకోచించే పాలసీగా మారుస్తాయి.

రిమోట్ ఇన్ఫరెన్స్ సెషన్ ఎంత ఖర్చవుతుంది
రెండు సంఖ్యలు ముఖ్యమైనవి: కార్డ్ యొక్క గంట రేటు, మరియు మీరు దానిని ఎంతకాలం నడుపుతారు. మొదటిది ప్రచురించబడింది; రెండవది ప్రజలను ఆశ్చర్యపరుస్తుంది.
| కార్డు | రన్పాడ్ కమ్యూనిటీ క్లౌడ్ | రన్పాడ్ సురక్షిత క్లౌడ్ | దీనికి సరిపోతుంది |
|---|---|---|---|
| A100 PCIe 80 GB | 1.19 USD/h | 1.39 USD/h | GR00T N1.7, GR00T N1.5, Pi0.5 |
| A100 SXM 80 GB | 1.39 USD/h | 1.59 USD/h | అదే, కొద్దిగా వేగంగా |
| H100 PCIe 80 GB | 1.99 USD/h | 2.89 USD/h | అత్యంత వేగవంతమైన శ్రేణి; NVIDIA యొక్క 11.7 Hz ఈగర్ ఫిగర్ H100 80GB HBM3 కోసం. |
| L40S 48 GB | 0.79 USD/h | 0.99 USD/h | ఇన్ఫరెన్స్ మాత్రమే, 16 GB ఫ్లోర్ పైన |
| RTX 4090 24 GB | 0.34 USD/h | 0.74 USD/h | SmolVLA, ACT |
ఈ ధరలు 23 ఆగస్టు 2026న రన్పాడ్ ధరల పేజీ నుండి చదవబడ్డాయి, మరియు స్పాట్ మార్కెట్లు మారుతూ ఉంటాయి. AY-Robots బదులుగా మొత్తం రన్ను కోట్ చేస్తుంది: A100 లేదా H100 శ్రేణిలో గంటకు 1.20 నుండి 2.00 USD చొప్పున 3 నుండి 6 గంటలు, GR00T లేదా Pi0.5 రన్కు సుమారు 4 నుండి 12 USD; 24 GB శ్రేణిలో గంటకు 0.30 నుండి 0.60 USD చొప్పున 2 నుండి 5 గంటలు, SmolVLA లేదా ACT కోసం 1 నుండి 3 USD. మీరు ఆపివేస్తేనే ఒక ఇన్ఫరెన్స్ సెషన్ శిక్షణ రన్ను ఖర్చులో అధిగమిస్తుంది, దీని కోసమే ఐడిల్ వాచ్డాగ్ ఉంది. చూడండి బిల్లింగ్ డాక్యుమెంట్లు మరియు ధరల పేజీ.

మీరు నెట్వర్క్ను లూప్లో ఉంచకూడదనుకుంటే
రిమోట్ ఇన్ఫరెన్స్ హార్డ్వేర్ సమస్యను పరిష్కరిస్తుంది మరియు లేటెన్సీ సమస్యను సృష్టిస్తుంది. కొన్నిసార్లు, మీ వద్ద ఉన్న హార్డ్వేర్కు సరిపోయే పాలసీ ఉత్తమ సమాధానం.
- ACT, సుమారు 80 M పారామీటర్లు మరియు ప్రతి చర్య దశకు 20 ms, కనీసం 50 ఎపిసోడ్లు, ఏదైనా 24 GB కార్డ్. పునరావృతమయ్యే సింగిల్-టాస్క్ సెటప్లో ఇది తరచుగా రిమోట్ 3 B మోడల్ను అధిగమిస్తుంది, ఎందుకంటే ఇది ప్యాకెట్ కోసం ఎప్పుడూ వేచి ఉండదు.
- SmolVLA, సుమారు 450 M పారామీటర్లు మరియు ప్రతి చర్య దశకు 245 ms, కనీసం 30 ఎపిసోడ్లు. ఇది ACTకి లేని భాషా కండిషనింగ్ను కలిగి ఉంటుంది, మరియు lerobot డాక్యుమెంట్లు దీనిని ఇన్ఫరెన్స్ సమయంలో సుమారు 2 GBగా పేర్కొన్నాయి, PI0కి సుమారు 14 GBతో పోలిస్తే.
- వ్యాపారంలో ఖచ్చితత్వ సగం కోసం ACT vs GR00T N1.7.
మధ్యేమార్గం కూడా ఉంది: క్లౌడ్లో శిక్షణ ఇవ్వండి, స్థానికంగా మూల్యాంకనం చేయండి. ఫైన్-ట్యూనింగ్కి 80 GB కార్డ్ అవసరం మరియు లేటెన్సీ గురించి పట్టించుకోదు, కాబట్టి SO-100లో GR00T N1.7కి శిక్షణ ఇవ్వడం రిమోట్గా వివాదాస్పదం కాదు. మూల్యాంకన లూప్కు మాత్రమే రియల్-టైమ్ పరిమితి ఉంటుంది; శిక్షణ డాక్యుమెంట్లు మరియు మోడల్-మరియు-ఆర్మ్ మ్యాట్రిక్స్ ఆ సగాన్ని కవర్ చేస్తాయి.
ఇంకా డెస్క్పై ఆర్మ్ లేదా?
సైన్అప్ లేకుండా బ్రౌజర్లో నిజమైన SO-100ని నడపండి, ఐదు శిక్షణ ఇవ్వదగిన పాలసీలను వాటి నిజమైన లేటెన్సీ నంబర్లతో పోల్చండి, లేదా GPUని అద్దెకు తీసుకుని ఒకదానికి శిక్షణ ఇవ్వండి. ప్రారంభించడానికి మూడు మార్గాలు, మీ వద్ద లేని హార్డ్వేర్ ఏదీ అవసరం లేదు.
హార్డ్వేర్ లేకుండా ప్రయత్నించండితరచుగా అడిగే ప్రశ్నలు
GPU రిమోట్గా ఉంటే నేను రాస్బెర్రీ పైలో GR00T N1.7ని అమలు చేయవచ్చా?▾
అవును, క్లయింట్-సర్వర్ విభజన దీని కోసమే. పై lerobot డ్రైవర్లను నడుపుతుంది, రెండు కెమెరాలను మరియు సీరియల్ బస్ను చదువుతుంది, మరియు పరిశీలనలను పాలసీ సర్వర్కు పంపుతుంది; ఇది మోడల్ను ఎప్పుడూ లోడ్ చేయదు. పరిమితి VRAM నుండి అప్లోడ్ బ్యాండ్విడ్త్కు మారుతుంది: రెండు అన్కంప్రెస్డ్ 640x480 RGB ఫ్రేమ్లు ఒక్కో కాల్కు 1,843,200 బైట్లు, మరియు ఏ స్టాక్ వాటిని కంప్రెస్ చేయదు.
నెట్వర్క్ వాస్తవానికి ఎంత లేటెన్సీని జోడిస్తుంది?▾
రౌండ్-ట్రిప్ సమయం ప్లస్ పరిశీలన బదిలీ సమయం. బదిలీ సమయం 14.7 Mbit మీ అప్లోడ్ బ్యాండ్విడ్త్ ద్వారా భాగించబడుతుంది: సుమారుగా 100 Mbit/s లింక్లో 147 ms, 10 Mbit/s లింక్లో 1.47 s. రెండూ మోడల్ యొక్క స్వంత ఇన్ఫరెన్స్ సమయం పైన ఉంటాయి, AY-Robots GR00T N1.7కి 152 ms మరియు Pi0.5కి 485 msగా జాబితా చేస్తుంది. స్పీడ్-టెస్ట్ సర్వర్కు వ్యతిరేకంగా కాకుండా, పాడ్కు వ్యతిరేకంగా పింగ్ మరియు iperf3తో కొలవండి.
రిమోట్ ఇన్ఫరెన్స్ నిజమైన పనికి సరిపోతుందా?▾
నెమ్మదిగా, ఉద్దేశపూర్వక పిక్-అండ్-ప్లేస్ కోసం, అవును. ఏదైనా రియాక్టివ్ కోసం, కాదు. NVIDIA యొక్క డిప్లాయ్మెంట్ గైడ్ సింక్రోనస్ సింగిల్-స్టెప్ అవసరాన్ని 30 FPS వద్ద సుమారుగా 33 ms ఎండ్-టు-ఎండ్గా ఉంచుతుంది, మరియు ఇంటర్నెట్ ప్రమేయం లేకుండా క్యాప్చర్, నెట్వర్క్, ఇన్ఫరెన్స్ మరియు పోస్ట్-ప్రాసెసింగ్ సాధారణంగా దానిని మించిపోతాయని పేర్కొంది.
సర్వర్లు ఏ పోర్ట్ను ఉపయోగిస్తాయి మరియు దానిని తెరవడం సురక్షితమేనా?▾
Isaac-GR00T యొక్క PolicyServer ZeroMQ ద్వారా పోర్ట్ 5555కి డిఫాల్ట్ అవుతుంది మరియు దాని CLIలో 0.0.0.0ని బైండ్ చేస్తుంది. lerobot gRPC ద్వారా పోర్ట్ 8080కి డిఫాల్ట్ అవుతుంది మరియు లోకల్హోస్ట్ను బైండ్ చేస్తుంది. రెండూ బహిర్గతం చేయడానికి సురక్షితం కాదు: GR00T క్లాస్ api_tokenకు మద్దతు ఇస్తుంది కానీ run_gr00t_server.py ఎప్పుడూ ఒకదాన్ని పాస్ చేయదు, మరియు lerobot సురక్షితం కాని gRPC ఛానెల్ ద్వారా డేటాను పికిల్ చేస్తుంది, ఇది CVE-2026-25874. లూప్బ్యాక్కు బైండ్ చేసి SSH టన్నెల్ను ఉపయోగించండి.
lerobotని అప్గ్రేడ్ చేయడం CVE-2026-25874ని పరిష్కరిస్తుందా?▾
23 ఆగస్టు 2026 నాటికి కాదు. CVE రికార్డు LeRobot 0.5.1 వరకు ప్రభావితమైనదిగా జాబితా చేస్తుంది మరియు PyPI 0.6.1ని షిప్ చేస్తుంది, కానీ అసమకాలిక పైప్లైన్ నుండి పికిల్ను తొలగించే పుల్ రిక్వెస్ట్ ఇంకా ఓపెన్గానే ఉంది, మరియు మెయిన్లోని policy_server.py ఇప్పటికీ అభ్యర్థన డేటాపై pickle.loadsని కాల్ చేస్తుంది. నెట్వర్క్ ఐసోలేషన్ను ఉపశమనంగా పరిగణించండి, వెర్షన్ బంప్గా కాదు, మరియు రోబోట్-సైడ్ క్లయింట్ కూడా పరిధిలో ఉందని భావించండి.
నేను GR00T చెక్పాయింట్తో lerobot యొక్క అసమకాలిక క్లయింట్ను ఉపయోగించవచ్చా?▾
అవును. lerobot 0.6.1 SUPPORTED_POLICIESలో grootని act, smolvla, diffusion, tdmpc, vqbet, pi0 మరియు pi05తో పాటు జాబితా చేస్తుంది, మరియు so100_follower మరియు so101_follower రెండూ SUPPORTED_ROBOTSలో ఉన్నాయి. --policy_type=grootని పాస్ చేయండి మరియు --pretrained_name_or_pathని మీ చెక్పాయింట్కు పాయింట్ చేయండి. మీరు అసమకాలిక ఎగ్జిక్యూషన్ను పొందుతారు, దీనిని GR00T SO-100 ఉదాహరణ అమలు చేయదు, పికిల్ ట్రాన్స్పోర్ట్ ఖర్చుతో.
సంక్షిప్త వెర్షన్
3 B కోసం రిమోట్ ఇన్ఫరెన్స్ పాలసీ అనేది పరిష్కరించబడిన ఇంజనీరింగ్ సమస్య, దీనికి పరిష్కరించబడని భౌతిక సమస్య జతచేయబడింది. ఇంజనీరింగ్ రెండు ఆదేశాలు మరియు ఒక SSH టన్నెల్. భౌతికశాస్త్రం ఏమిటంటే, 1.8 MB పరిశీలన మరొక దేశంలోని GPUకి చేరుకోవాలి మరియు చేయి చర్యలు అయిపోకముందే తిరిగి రావాలి. ఏదైనా అద్దెకు తీసుకునే ముందు అంకగణితం చేయండి, పాత పరిశీలనను తట్టుకునే పనిని ఎంచుకోండి మరియు లింక్ మెరుగుపడుతుందని ఆశించకుండా ఎగ్జిక్యూషన్ హోరిజోన్ను పెంచండి.
మీరు ఇంకా డేటాసెట్ను రికార్డ్ చేయకపోతే, మీ మొదటి డేటాసెట్ను రికార్డ్ చేయండి మరియు SO-100 సెటప్ గైడ్ ముందుగా వస్తాయి, మరియు LeRobot డేటాసెట్ ఫార్మాట్ ఎంట్రీ రికార్డర్ ఏమి వ్రాస్తుందో వివరిస్తుంది. నేపథ్యం విజన్-లాంగ్వేజ్-యాక్షన్ మోడల్స్ మరియు ఫ్లో-మ్యాచింగ్ పాలసీ పనిలో ఉంది; అరేనా ఎంట్రీ ప్రతి బెంచ్మార్క్ నంబర్ను ఒక మూలానికి లింక్ చేస్తుంది.
Sources
- NVIDIA Isaac-GR00T: N1.7 repository and README (16 GB inference floor, install, gated Cosmos-Reason2-2B backbone, FFmpeg constraint)
- run_gr00t_server.py: the GR00T policy server CLI, ServerConfig defaults (host 0.0.0.0, port 5555) and the ReplayPolicy path
- server_client.py: PolicyServer and PolicyClient, MsgSerializer's allow_pickle=False boundary, api_token, timeout_ms
- eval_so100.py: the SO-100 policy client, EvalConfig defaults and the synchronous control loop
- Isaac-GR00T SO100/SO101 example: dataset conversion, finetune and closed-loop eval commands
- Isaac-GR00T Real-World Deployment Guide: the 33 ms synchronous budget, stop-and-go, action chunk size, RTC status
- Isaac-GR00T Hardware Recommendation: inference frequency per GPU and the 10 Hz minimum
- Isaac-GR00T Deployment and Inference Guide: per-component latency benchmark results
- LeRobot: Asynchronous Inference tutorial (PolicyServer, RobotClient, the documented parameter table)
- lerobot async_inference/configs.py: PolicyServerConfig and RobotClientConfig defaults, AGGREGATE_FUNCTIONS registry
- lerobot async_inference/policy_server.py: pickle.loads on request data, add_insecure_port, the gRPC call names
- lerobot robot_client.py: gRPC transport, pickle serialization, latency logging
- CVE-2026-25874: LeRobot unsafe deserialization remote code execution via gRPC, affected through 0.5.1
- Black, Galliker and Levine, Real-Time Execution of Action Chunking Flow Policies (real-time chunking)
- Runpod GPU pricing: community and secure cloud hourly rates for A100, H100, L40S and RTX 4090
Sources
- NVIDIA Isaac-GR00T: N1.7 repository and README (16 GB inference floor, install, gated Cosmos-Reason2-2B backbone, FFmpeg constraint)
- run_gr00t_server.py: the GR00T policy server CLI, ServerConfig defaults (host 0.0.0.0, port 5555) and the ReplayPolicy path
- server_client.py: PolicyServer and PolicyClient, MsgSerializer's allow_pickle=False boundary, api_token, timeout_ms
- eval_so100.py: the SO-100 policy client, EvalConfig defaults and the synchronous control loop
- Isaac-GR00T SO100/SO101 example: dataset conversion, finetune and closed-loop eval commands
- Isaac-GR00T Real-World Deployment Guide: the 33 ms synchronous budget, stop-and-go, action chunk size, RTC status
- Isaac-GR00T Hardware Recommendation: inference frequency per GPU and the 10 Hz minimum
- Isaac-GR00T Deployment and Inference Guide: per-component latency benchmark results
- LeRobot: Asynchronous Inference tutorial (PolicyServer, RobotClient, the documented parameter table)
- lerobot async_inference/configs.py: PolicyServerConfig and RobotClientConfig defaults, AGGREGATE_FUNCTIONS registry
- lerobot async_inference/policy_server.py: pickle.loads on request data, add_insecure_port, the gRPC call names
- lerobot robot_client.py: gRPC transport, pickle serialization, latency logging
- CVE-2026-25874: LeRobot unsafe deserialization remote code execution via gRPC, affected through 0.5.1
- Black, Galliker and Levine, Real-Time Execution of Action Chunking Flow Policies (real-time chunking)
- Runpod GPU pricing: community and secure cloud hourly rates for A100, H100, L40S and RTX 4090
Ready for high-quality robotics data?
AY-Robots connects your robots to skilled operators worldwide.
Get Started