
আপনার রোবট মেশিনে কোনো GPU নেই। GR00T পলিসি সার্ভার একটি ভাড়া করা ক্লাউড GPU-তে রাখুন, অ্যাকশন চাঙ্কগুলি আর্ম-এ স্ট্রিম করুন এবং নেটওয়ার্কের জন্য আপনার ঠিক কত খরচ হয় তা জানুন।
একটি Raspberry Pi একটি সিরিয়াল বাস ব্যবহার করে চালাতে এবং দুটি USB ক্যামেরা থেকে ফ্রেম টানতে যথেষ্ট। এটি তিন বিলিয়ন প্যারামিটারের একটি চালানোর জন্য যথেষ্ট নয়: NVIDIA-এর README অনুসারে GR00T N1.7 ইনফারেন্সের জন্য 16 GB বা তার বেশি VRAM সহ একটি GPU প্রয়োজন। আপনার ফাইন-টিউন করা চেকপয়েন্টটি কার্ড না কিনে আর্মের উপর কী করে তা দেখতে, নীতিটি একটি ভাড়া করা ক্লাউড GPU-তে রাখুন, রোবট লুপটি USB পোর্ট সহ মেশিনে রাখুন এবং নেটওয়ার্কের মাধ্যমে পর্যবেক্ষণ ও অ্যাকশন চাঙ্ক পাঠান।
এটি কাজ করে, এটি বিনামূল্যে নয় এবং এর মূল্য কাজগুলির মধ্যে সমানভাবে বন্টিত নয়। নিচে: NVIDIA-এর নিজস্ব পলিসি সার্ভার, lerobot-এর অ্যাসিঙ্ক স্ট্যাক, আপনার আপলিঙ্ক যথেষ্ট দ্রুত কিনা তা আগে থেকে বলে দেওয়া পাটিগণিত, এবং প্ল্যাটফর্ম রুট। এর সবগুলি 23 আগস্ট 2026 তারিখে Isaac-GR00T মেইন ব্রাঞ্চ (N1.7 GA) এবং lerobot 0.6.1 এর সাথে যাচাই করা হয়েছে।
আপনার যা জানা দরকার
- •GR00T N1.7, GR00T N1.5 এবং Pi0.5 প্রায় 3 বিলিয়ন প্যারামিটারের মডেল। একটি ডিসক্রিট GPU ছাড়া কোনোটিই রোবট কন্ট্রোলারে ফিট করে না।
- •Isaac-GR00T এবং lerobot উভয়ই একটি ক্লায়েন্ট-সার্ভার স্প্লিট সহ আসে। আপনাকে ট্রান্সপোর্ট লিখতে হবে না।
- •পর্যবেক্ষণগুলি ওয়্যার খরচকে প্রভাবিত করে, অ্যাকশন নয়: দুটি আনকম্প্রেসড 640x480 RGB ফ্রেম হল 1,843,200 বাইট, প্রতি কলে প্রায় 14.7 Mbit, এবং কোনো স্ট্যাকই সেগুলিকে কম্প্রেস করে না।
- •AY-Robots মডেল অনুসারে প্রতি অ্যাকশন স্টেপে 20 থেকে 485 ms তালিকাভুক্ত করে। ইন্টারনেট রাউন্ড ট্রিপ এর উপরে যোগ হয়।
- •রিমোট ইনফারেন্স ধীর পিক-এন্ড-প্লেসের জন্য উপযুক্ত, দ্রুত প্রতিক্রিয়াশীল গতির জন্য নয়। একটি দীর্ঘ এক্সিকিউশন হরাইজন সময় কেনে এবং পর্যবেক্ষণের সতেজতা খরচ করে।
- •কোনো সার্ভারই শিপিংয়ের সময় একটি পাবলিক IP-তে নিরাপদ নয়, এবং lerobot-এর একটি আনপ্যাচড RCE রয়েছে। এটিকে টানেল করুন।
কেন নীতিটি রোবট মেশিনে ফিট হবে না
AY-Robots প্রশিক্ষণ দিতে পারে এমন পাঁচটি নীতির মধ্যে দুটি ওয়ার্কস্টেশন কার্ডে চলে, তিনটি চলে না। নিচের কলামটি প্রতি অ্যাকশন স্টেপের জন্য, এবং এই সংখ্যাটি আপনার নেটওয়ার্ক রাউন্ড ট্রিপের সাথে প্রতিযোগিতা করে।
| নীতি | প্যারামিটার | প্রতি অ্যাকশন স্টেপে ইনফারেন্স | প্রশিক্ষণের জন্য GPU স্তর | সর্বনিম্ন পর্ব | ডেটা সেট ফরম্যাট |
|---|---|---|---|---|---|
| GR00T N1.7 | ~3 B, ~40 M trained during fine-tuning | 152 ms | A100 80 GB or H100 80 GB | 50 | LeRobot v2.0 or v2.1 |
| GR00T N1.5 | ~3 B | 165 ms | A100 80 GB or H100 80 GB | 50 | LeRobot v2.0 or v2.1 |
| Pi0.5 | ~3 B, PaliGemma backbone | 485 ms | A100 80 GB or H100 80 GB | 50 | LeRobot v3.0 |
| SmolVLA | ~450 M | 245 ms | RTX 4090 or any 24 GB card | 30 | LeRobot v3.0 |
| ACT | ~80 M | 20 ms | RTX 4090 or any 24 GB card | 50 | LeRobot v3.0 |

এটিকে একটি সিদ্ধান্ত হিসাবে পড়ুন, তুচ্ছ বিষয় হিসাবে নয়। ACT প্রতি ধাপে 20 ms-এ রোবট মেশিনে চলে এবং আপনাকে এটি নিয়ে আর ভাবতে হয় না। Pi0.5 485 ms-এ একটি প্যাকেট আপনার বিল্ডিং ছেড়ে যাওয়ার আগে এক সেকেন্ডের এক তৃতীয়াংশ সময় ব্যয় করেছে। পলিসি তুলনা এবং GR00T N1.7 vs Pi0.5 নির্ভুলতার দিকটি যোগ করে।
GR00T N1.7, GR00T N1.5 এবং Pi0.5 একটি ভেন্ডর চেকপয়েন্ট থেকে শুরু হয় (nvidia/GR00T-N1.7-3B, nvidia/GR00T-N1.5-3B, lerobot/pi05_base)। ACT আপনার নিজের টাস্কে প্রশিক্ষণ না দেওয়া পর্যন্ত এর অস্তিত্ব থাকে না, তাই একটি প্রশিক্ষণ কাজ সম্পন্ন না হওয়া পর্যন্ত দূর থেকে পরিবেশন করার মতো কিছু নেই। দেখুন ACT on SO-100।
বিদ্যমান দুটি ক্লায়েন্ট-সার্ভার স্ট্যাক
Isaac-GR00T একটি ZeroMQ রিকোয়েস্ট-রিপ্লাই সার্ভার সরবরাহ করে; lerobot অ্যাসিঙ্ক্রোনাস ইনফারেন্সের উপর ভিত্তি করে একটি gRPC সার্ভার সরবরাহ করে। উভয়ই একটি GR00T চেকপয়েন্ট গ্রহণ করে। lerobot-এর সমর্থিত পলিসি তালিকা async_inference/constants.py-এ হল act, smolvla, diffusion, tdmpc, vqbet, pi0, pi05 এবং groot; এর রোবট তালিকা হল so100_follower, so101_follower, bi_so_follower এবং omx_follower।
| Isaac-GR00T PolicyServer | lerobot async inference | |
|---|---|---|
| এন্ট্রি পয়েন্ট | gr00t/eval/run_gr00t_server.py | python -m lerobot.async_inference.policy_server |
| পরিবহন | ZeroMQ REQ/REP | gRPC, add_insecure_port / insecure_channel |
| সিরিয়ালাইজেশন | msgpack + msgpack_numpy, allow_pickle=False enforced | pickle.dumps / pickle.loads, marked # nosec |
| ডিফল্ট পোর্ট | 5555 | 8080 |
| ডিফল্ট বাইন্ড | 0.0.0.0, সমস্ত ইন্টারফেস | localhost |
| প্রমাণীকরণ | api_token ক্লাস দ্বারা সমর্থিত, CLI দ্বারা পাস করা হয় না | নেই |
| ক্লায়েন্ট টাইমআউট | 15000 ms (PolicyClient timeout_ms) | 2 s observation queue timeout |
| এক্সিকিউশন মডেল | সিঙ্ক্রোনাস: ব্লক করুন, তারপর অংশটি এক্সিকিউট করুন | অ্যাসিঙ্ক্রোনাস: পরবর্তী অংশটি গণনা করার সময় এক্সিকিউট করুন |
সিরিয়ালাইজেশন সারিটি দেখতে যতটা গুরুত্বপূর্ণ তার চেয়েও বেশি। GR00T-এর MsgSerializer উভয় দিকেই অবজেক্ট-dtype ndarray পেলোড প্রত্যাখ্যান করে, কারণ msgpack_numpy অন্যথায় সেগুলিকে পিকলের কাছে হস্তান্তর করবে। lerobot এর পরিবর্তে পিকল করে: policy_server.py কল করে pickle.loads রিকোয়েস্ট ডেটার উপর, robot_client.py এটি যে পর্যবেক্ষণ পাঠায় তা পিকল করে। একটি বিশ্বস্ত LAN-এ এটি রক্ষাযোগ্য, কিন্তু একবার পোর্টটি ইন্টারনেট থেকে অ্যাক্সেসযোগ্য হলে এটি অরক্ষণীয়।
রুট A: NVIDIA-এর নিজস্ব GR00T পলিসি সার্ভার
এটি সেই পথ যা NVIDIA SO-100 এবং SO-101 হার্ডওয়্যারের জন্য নথিভুক্ত করে, এবং এটি ব্যবহার করতে হবে যদি আপনার চেকপয়েন্ট examples/finetune.sh এর সাথে --embodiment-tag NEW_EMBODIMENT থেকে আসে। ধাপগুলি আপস্ট্রিম README যা বাদ দিয়েছে তা যোগ করে: পোর্টটিকে অন্য সবার কাছে উন্মুক্ত না করে রোবটের কাছে নিয়ে যাওয়া।
- 1ভাড়া করা GPU বক্সে GR00T ইনস্টল করুন
সাবমডিউলগুলি প্রয়োজন, এবং ক্লোন করার আগে git-lfs অবশ্যই থাকতে হবে অন্যথায়
demo_data-এর পারকেট ফাইলগুলি পয়েন্টার হিসাবে আসবে। flash-attn এবং TensorRT ডিফল্ট ইনস্টলের সাথে আসে। একটি নতুন পড ইমেজে সমস্যা:torchcodec0.8.0 হল একমাত্র সমর্থিত ভিডিও ব্যাকএন্ড এবং এটি শুধুমাত্র FFmpeg 4 থেকে 7 লোড করে। Ubuntu 25.10 এবং 26.04 FFmpeg 8 সহ আসে, তাই GR00TCould not load libtorchcodecত্রুটি দিয়ে ব্যর্থ হয়। 8-এর নিচে একটি FFmpeg ইনস্টল করুন এবং এর লাইব্রেরিগুলিLD_LIBRARY_PATH-এ রাখুন।bashsudo apt install git-lfs && git lfs install curl -LsSf https://astral.sh/uv/install.sh | sh sudo apt-get update && sudo apt-get install -y ffmpeg git clone --recurse-submodules https://github.com/NVIDIA/Isaac-GR00T cd Isaac-GR00T uv sync --python 3.12 uv run python -c "import gr00t; print('GR00T installed successfully')" - 2গেটেড ব্যাকবোনের বিরুদ্ধে প্রমাণীকরণ করুন
আপনার নিজস্ব ফাইন-টিউন সহ প্রতিটি GR00T N1.7 চেকপয়েন্ট, প্রথম ব্যবহারে গেটেড
nvidia/Cosmos-Reason2-2Bলোড করে। মডেল পৃষ্ঠায় অ্যাক্সেসের অনুরোধ করুন এবং পডে লগ ইন করুন, অন্যথায় লোডিংGatedRepoErrorত্রুটি দিয়ে ব্যর্থ হবে।bashuv run huggingface-cli login # or: export HF_TOKEN=<your_token> - 3পলিসি সার্ভার শুরু করুন
আপনার চেকপয়েন্ট ডিরেক্টরিতে
--model-pathনির্দেশ করুন; সেই পথে সার্ভার--modality-config-pathউপেক্ষা করে, যা শুধুমাত্র রিপ্লে পাথে পড়া হয়।--model-pathবাদ দিন এবং এর পরিবর্তে--dataset-pathএবং--execution-horizonপাস করুন একটি ReplayPolicy-এর জন্য যা রেকর্ড করা অ্যাকশনগুলি রিপ্লে করে, যা ওয়্যারিং কাজ করে তা প্রমাণ করার সবচেয়ে সস্তা উপায়।bashuv run python gr00t/eval/run_gr00t_server.py \ --model-path /workspace/so100_finetune/checkpoint-10000 \ --embodiment-tag NEW_EMBODIMENT \ --device cuda:0 \ --host 127.0.0.1 --port 5555 - 4রোবট মেশিনে পোর্ট 5555 টানেল করুন
উপরের মতো লুপব্যাকে বাইন্ড করুন এবং SSH বা WireGuard-স্টাইলের মেশের মাধ্যমে পোর্টটি বহন করুন। এটি এনক্রিপশন এবং প্রমাণীকরণ সরবরাহ করে যা ZeroMQ সকেট করে না, প্রায় এক মিলিসেকেন্ডের জন্য।
bash# on the robot machine ssh -N -L 5555:127.0.0.1:5555 root@<pod-host> -p <pod-ssh-port> # sanity check that something answers nc -vz 127.0.0.1 5555 - 5সার্ভোগুলির পাশে রোবট ক্লায়েন্ট চালান
ক্লায়েন্টের নিজস্ব uv পরিবেশ প্রয়োজন: এটি lerobot-এর রোবট ড্রাইভার চায়, প্রশিক্ষণ স্ট্যাক নয়।
eval_so100.pyso100_follower, so101_follower এবং koch_follower ইম্পোর্ট করে, তাই আপনার আর্মের সাথে মিলে যাওয়া--robot.typeপাস করুন (আপস্ট্রিম README so101_follower ব্যবহার করে)। ক্যামেরা কীগুলি প্রশিক্ষণের সাথে মিলতে হবে: অ্যাডাপ্টার ঠিকfrontএবংwristপড়ে, এবং সেগুলিকে অদলবদল করলে পলিসিকে ভুল ভিউ দেখায়।bashcd gr00t/eval/real_robot/SO100 uv sync uv pip install --no-deps -e ../../../../ uv run --no-sync python eval_so100.py \ --robot.type=so100_follower \ --robot.port=/dev/ttyACM0 \ --robot.id=orange_follower \ --robot.cameras="{ front: {type: opencv, index_or_path: 6, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 2, width: 640, height: 480, fps: 30}}" \ --policy_host=127.0.0.1 \ --policy_port=5555 \ --lang_instruction="pick up the red block and put it in the bin"
run_gr00t_server.py ডিফল্টরূপে --host 0.0.0.0 ব্যবহার করে, প্রতিটি ইন্টারফেস বাইন্ড করে: একটি পাবলিক আইপি সহ একটি পডে এটি একটি উন্মুক্ত ইনফারেন্স এন্ডপয়েন্ট। এবং PolicyServer ক্লাস একটি api_token গ্রহণ করে এবং প্রতি অনুরোধে এটি যাচাই করে, কিন্তু run_gr00t_server.py কখনও এটি পাস করে না, তাই আপনি যাই কনফিগার করুন না কেন CLI সার্ভারটি প্রমাণীকরণবিহীন থাকে। 127.0.0.1-এ বাইন্ড করুন এবং টানেল করুন। একটি ZMQError: Address already in use মানে পোর্ট 5555 ব্যবহৃত হচ্ছে; --port পাস করুন।
রুট B: lerobot অ্যাসিঙ্ক ইনফারেন্স
lerobot একটি ভিন্ন সমস্যা সমাধান করে। মডেল চিন্তা করার সময় রোবটকে ব্লক করার পরিবর্তে, ক্লায়েন্ট তার বিদ্যমান কিউয়ের মাধ্যমে কাজ চালিয়ে যায় যখন সার্ভার পরবর্তী অংশ গণনা করে। এটি অ্যাকশন চাঙ্কিং আরও এগিয়ে নেওয়া হয়েছে, SmolVLA-এর সাথে প্রবর্তিত অ্যাসিঙ্ক্রোনাস স্ট্যাক। এটি একটি GR00T চেকপয়েন্টের সাথেও কাজ করে।
# GPU machine
pip install -e ".[async]"
python -m lerobot.async_inference.policy_server \
--host=127.0.0.1 \
--port=8080
# robot machine, after tunnelling 8080
python -m lerobot.async_inference.robot_client \
--server_address=127.0.0.1:8080 \
--robot.type=so100_follower \
--robot.port=/dev/ttyACM0 \
--robot.id=follower_so100 \
--robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 1, width: 640, height: 480, fps: 30}}" \
--task="pick up the red block and put it in the bin" \
--policy_type=groot \
--pretrained_name_or_path=<user>/my_groot_finetune \
--policy_device=cuda \
--actions_per_chunk=50 \
--chunk_size_threshold=0.5 \
--debug_visualize_queue_size=Trueসার্ভারটি খালি শুরু হয়: এটি ক্লায়েন্টের প্রথম হ্যান্ডশেক না বলা পর্যন্ত কোন নীতি পরিবেশন করবে তা জানে না, যা একটি ভাড়া করা পডে সুবিধাজনক। যে দুটি নব সিদ্ধান্ত নেয় যে বাহুটি মসৃণভাবে চলে কিনা তা হল actions_per_chunk এবং chunk_size_threshold (lerobot ডকুমেন্টেশন দ্বিতীয়টিকে g বলে, SmolVLA পেপারের পরে), এবং নথিভুক্ত মান এবং প্রেরিত মানগুলি একমত নয়।
| প্যারামিটার | lerobot 0.6.1 কোডে মান | এটি কী করে | দ্রষ্টব্য |
|---|---|---|---|
| actions_per_chunk | কোনো ডিফল্ট নেই, আবশ্যক | প্রতি কলে প্রত্যাবর্তিত অ্যাকশন | ডকুমেন্টেশন টেবিলে 50 তালিকাভুক্ত; ডেটাক্লাস ফিল্ডের কোনো ডিফল্ট নেই, তাই CLI একটি মান দাবি করে |
| chunk_size_threshold | 0.5 | কিউ পূরণ অনুপাত যার সমান বা নিচে ক্লায়েন্ট একটি নতুন পর্যবেক্ষণ পাঠায় | ডকুমেন্টেশন টেবিলে 0.7 বলা হয়েছে; কোড এবং ডকুমেন্টেশনের নিজস্ব উদাহরণে 0.5 বলা হয়েছে |
| fps | 30 | ক্লায়েন্ট নিয়ন্ত্রণ হার, environment_dt = 1/fps সেট করে | যদি কিউ খালি হতে থাকে তবে এটি কমান |
| inference_latency | 1/30 s (33.3 ms) | সার্ভারে লক্ষ্য ইনফারেন্স ল্যাটেন্সি | একটি লক্ষ্য, পরিমাপ নয় |
| obs_queue_timeout | 2 s | পর্যবেক্ষণ কিউতে সার্ভার কতক্ষণ অপেক্ষা করে | একটি ধীর আপলিঙ্ক প্রথমে এখানে দেখা যায় |
| aggregate_fn_name | weighted_average | ওভারল্যাপিং চাঙ্ক অঞ্চলগুলি কীভাবে মিশ্রিত হয় | 0.3 পুরানো + 0.7 নতুন; latest_only, average এবং conservative-ও পাঠানো হয়। রেজিস্ট্রিটি configs.py-তে AGGREGATE_FUNCTIONS, robot_client.py-তে নয় যেমন ডকুমেন্টেশন দাবি করে |
CVE-2026-25874 হল lerobot-এর অ্যাসিঙ্ক ইনফারেন্স পাইপলাইনে প্রমাণীকরণবিহীন রিমোট কোড এক্সিকিউশন: pickle.loads() একটি প্রমাণীকরণবিহীন gRPC চ্যানেলের মাধ্যমে TLS ছাড়া প্রাপ্ত ডেটার উপর, যা SendPolicyInstructions, SendObservations এবং GetActions কলগুলির মাধ্যমে পৌঁছানো যায়। CWE-502, NVD থেকে CVSS 3.1 বেস স্কোর 9.8, এবং অ্যাসাইনিং CNA থেকে 4.0 বেস স্কোর 9.3। রেকর্ডটি LeRobot 0.5.1 পর্যন্ত প্রভাবিত হিসাবে তালিকাভুক্ত করে এবং নীতি সার্ভার ও রোবট ক্লায়েন্ট উভয়কেই উল্লেখ করে, তাই আপনার বাহুর পাশের মেশিনটি এর আওতায় পড়ে। আপগ্রেড করা সমাধান নয়: রেকর্ডটি আপস্ট্রিম ইস্যু 3047 এবং প্যাচ, PR 3048 উল্লেখ করে, যা pickle-কে safetensors প্লাস JSON দিয়ে প্রতিস্থাপন করে, এবং 23 আগস্ট 2026 তারিখে উভয়ই এখনও খোলা আছে। মেইনে policy_server.py এখনও অনুরোধ ডেটার উপর pickle.loads কল করে যখন serve() add_insecure_port এর সাথে আবদ্ধ হয়। লুপব্যাকে আবদ্ধ করুন এবং কখনও 8080 পোর্ট ফরওয়ার্ড করবেন না।
যে পাটিগণিত আপনার লিঙ্ক যথেষ্ট দ্রুত কিনা তা নির্ধারণ করে
লোকেরা এটি এড়িয়ে যায় এবং তারপর একদিন ব্যয় করে . এটি দুই মিনিট সময় নেয় এবং প্রায় সবসময়ই এটি চূড়ান্ত।
NVIDIA-এর eval_so100.py এ মন্তব্য করা পর্যবেক্ষণ ডিক্ট (observation dict) বলে যে তারের মাধ্যমে কী যায়: uint8-এ (480, 640, 3) আকারের দুটি অ্যারে, ছয়টি জয়েন্ট ফ্লোট, একটি ভাষার স্ট্রিং। এটি প্রতি ফ্রেমে 921,600 বাইট, দুটি ক্যামেরার জন্য 1,843,200 বাইট, প্রায় 14.7 Mbit, এবং কোনো স্ট্যাকই এটিকে JPEG-কম্প্রেস করে না। ফিরে আসা অংশটি হল 6টি ফ্লোটের কয়েক ডজন ধাপ। আপনার আপলোড সবকিছু নির্ধারণ করে, আপনার ডাউনলোড নয়।
| আপলোড ব্যান্ডউইথ | একটি পর্যবেক্ষণ পাঠাতে সময় (14.7 Mbit) | একটি 30 FPS আর্মের জন্য রায় |
|---|---|---|
| 10 Mbit/s, সাধারণ বাড়ির আপলোড | ~1.47 s | অব্যবহারযোগ্য। প্রতিটি খণ্ডের মাঝে আর্ম থেমে যায়। |
| 25 Mbit/s | ~0.59 s | শুধুমাত্র ধীর পিক-এন্ড-প্লেস, দীর্ঘ কার্যনির্বাহী দিগন্ত সহ। |
| 50 Mbit/s | ~0.29 s | সুচিন্তিত কাজের জন্য কার্যকর। |
| 100 Mbit/s | ~0.15 s | পিক-এন্ড-প্লেসের জন্য ঠিক আছে, দ্রুত গতিতে দৃশ্যমান। |
| 1 Gbit/s ফাইবার বা ডেটাসেন্টার | ~0.015 s | পরিবর্তে মডেলটি বাধা হয়ে দাঁড়ায়। |
যে বাজেটের মধ্যে আপনাকে মানিয়ে নিতে হবে
GR00T SO-100 ক্লায়েন্ট সিঙ্ক্রোনাস: এটি policy.get_action(obs) কল করে, তারপর 30 FPS এ চাঙ্কের প্রথম action_horizon ধাপগুলি এক্সিকিউট করে, এবং আবার কল করে। চাঙ্কের আকার এবং হরাইজন ভিন্ন সংখ্যা: NVIDIA-এর ডিপ্লয়মেন্ট গাইড 16 এর একটি অ্যাকশন চাঙ্ক সাইজ সুপারিশ করে, রিয়েল-টাইম চাঙ্কিংয়ের সাথে মিলিত হলে কমপক্ষে 32, যখন eval_so100.py 8 এর একটি এক্সিকিউশন হরাইজন সরবরাহ করে। 30 FPS এ আটটি ধাপ প্রতি কলে 267 ms গতির সমান, এবং বাকি সবকিছু এর মধ্যে ফিট করতে হবে।
observation upload 14.7 Mbit / 100 Mbit/s = 147 ms
network round trip = 30 ms
model inference (AY-Robots figure, N1.7) = 152 ms
action chunk return + deserialize = ~2 ms
-------
total per call 331 ms
budget at action_horizon = 8 -> 267 ms FAIL, arm pauses ~64 ms per chunk
budget at action_horizon = 16 -> 533 ms fits, with headroom
budget at action_horizon = 32 -> 1067 ms fits, observations now ~1 s staleহরাইজন বাড়ানো একটি স্থূল সমাধান এবং এটি বিনামূল্যে নয়: বাহু এখন পুরানো একটি পর্যবেক্ষণের উপর কাজ করে। নীতিগত সমাধান হল রিয়েল-টাইম চাঙ্কিং, যা বর্তমান চাঙ্ক চলার সময় পরবর্তী চাঙ্ক গণনা করে, এক্সিকিউট করার জন্য নিশ্চিত অ্যাকশনগুলিকে ফ্রিজ করে এবং বাকি অংশকে ইনপেইন্ট করে; RTC পেপার এটিকে কোনো রিট্রেনিং ছাড়াই ইনফারেন্স বিলম্বের প্রতি শক্তিশালী বলে রিপোর্ট করে। প্রথমে এর অবস্থান পরীক্ষা করুন। NVIDIA RTC কে পরীক্ষামূলক হিসাবে চিহ্নিত করে, একটি নিম্ন-স্তরের মডেল প্রিমিটিভ যা action_head.get_action(..., options={"rtc_overlap_steps": ..., "rtc_frozen_steps": ...}) এর মাধ্যমে অ্যাক্সেসযোগ্য, Gr00tPolicy বা সার্ভার-ক্লায়েন্ট পাথে সংযুক্ত নয়, যেখানে options অব্যবহৃত, কোনো পরীক্ষা বা উদাহরণ ছাড়াই। একটি পলিসি সার্ভারের মাধ্যমে আপনি অ্যাসিঙ্ক্রোনাস এক্সিকিউশন পান, RTC নয়।
NVIDIA GR00T N1.7 কে একটি ক্যামেরা সহ 4টি ডিনয়েজিং ধাপে এন্ড-টু-এন্ড বেঞ্চমার্ক করে। একটি H100 80GB HBM3 তে: PyTorch ইগার মোডে 85.8 ms (11.7 Hz), torch.compile সহ 48.6 ms (20.6 Hz), TensorRT ফুল পাইপলাইন সহ 27.9 ms (35.9 Hz)। ইগার মোডে একটি L40 এর জন্য 128.3 ms (7.8 Hz) সময় লাগে। NVIDIA 10 Hz কে সাধারণ ম্যানিপুলেশনের জন্য প্রস্তাবিত সর্বনিম্ন বলে এবং 10 Hz এর নিচে শুধুমাত্র ধীর, অ-প্রতিক্রিয়াশীল কাজের জন্য উপযুক্ত বলে। এগুলি হল পুনরায় পরিকল্পনা করার হার: একটি 10 Hz পলিসি এখনও অ্যাকশন চাঙ্কিংয়ের মাধ্যমে একটি 30 FPS বাহুকে চালিত করতে পারে। একটি দ্বিতীয় ক্যামেরা আপনাকে ভুল পথে নিয়ে যায়।
বিশ্বাস করার আগে এটি পরিমাপ করুন
উপরের প্রতিটি সংখ্যা একটি পূর্বাভাস। চারটি কমান্ড এটিকে পরিমাপে পরিণত করে, যা এমন একটি কাজের জন্য একটি পড-আওয়ার উৎসর্গ করার আগে চালানো উচিত যা কখনোই কাজ করবে না।
- 1কাঁচা রাউন্ড ট্রিপ পান
পডের বিরুদ্ধে, CDN-এর বিরুদ্ধে নয়। গড় মানের মতোই বিচ্যুতি (deviation) ঘনিষ্ঠভাবে পর্যবেক্ষণ করুন: গড় ল্যাটেন্সি নয়, জিটার (jitter) একটি বাহুকে আটকে দেয়।
bashping -c 50 <pod-host> # the mdev column is the number that predicts stutter - 2আপনার কাছে থাকা আপলিঙ্ক পরিমাপ করুন, যার জন্য আপনি অর্থ প্রদান করেন সেটি নয়
আবাসিক আপলোড সাধারণত ডাউনলোডের একটি ভগ্নাংশ হয়, এবং এটি উপরের ব্যান্ডউইথ টেবিলে থাকা সংখ্যা।
bash# on the pod iperf3 -s # on the robot machine, -R omitted so this measures upload iperf3 -c <pod-host> -t 30 - 3ক্লায়েন্টের নিজস্ব ল্যাটেন্সি লগ পড়ুন
LeRobot রোবট ক্লায়েন্ট প্রতিটি চাঙ্কের জন্য সার্ভার-টু-ক্লায়েন্ট ল্যাটেন্সি এবং ডিসিরিয়ালাইজেশন সময় লগ করে। রুট B-তে আপনার কোনো বাহ্যিক টুলের প্রয়োজন নেই।
textReceived action chunk for step #240 | Latest action: #232 | Incoming actions: 240:289 | Network latency (server->client): 187.44ms | Deserialization time: 3.10ms - 4অ্যাকশন কিউ খালি হতে দেখুন
--debug_visualize_queue_size=Trueপাস করুন এবং ক্লায়েন্ট রানটাইমে কিউ সাইজ প্লট করে। যদি এটি বারবার শূন্যে পৌঁছায় তবে আপনার বাজেট শেষ: fps কমান, actions_per_chunk বাড়ান, অথবা chunk_size_threshold বাড়ান যাতে পর্যবেক্ষণগুলি আরও ঘন ঘন পাঠানো হয়।bashpython -m lerobot.async_inference.robot_client \ ... \ --debug_visualize_queue_size=True
রিমোট ইনফারেন্স আসলে কিসের জন্য ভালো
- আপনি একটি 3 বিলিয়ন প্যারামিটার নীতি বাস্তব হার্ডওয়্যারে মূল্যায়ন করতে পারেন, এমন একটি কার্ডের মালিক না হয়েও যার দাম রোবটের হাতের চেয়ে বেশি।
- GPU প্রতি ঘণ্টায় ভাড়া করা হয়, তাই একটি ব্যর্থ চেকপয়েন্টের খরচ কয়েক ডলার।
- রোবট অংশটি ছোট থাকে: lerobot ড্রাইভার, দুটি ক্যামেরা, একটি সিরিয়াল পোর্ট, এবং আপনি এটি স্পর্শ না করেই চেকপয়েন্ট অদলবদল করতে পারেন।
- অসংকুচিত পর্যবেক্ষণগুলি তারের খরচকে প্রভাবিত করে, এবং আবাসিক আপলোডই প্রধান সীমাবদ্ধতা।
- ল্যাটেন্সির চেয়ে জিটার বেশি ক্ষতিকর: একটি লিঙ্ক যা গড়ে 40 ms এবং 300 ms পর্যন্ত স্পাইক সহ কাজ করে, তা আটকে যায় যেখানে একটি স্থির 120 ms লিঙ্ক আটকে যায় না।
- দ্রুত প্রতিক্রিয়াশীল কাজগুলি কোনো পরিস্থিতিতেই রাউন্ড ট্রিপে টিকে থাকে না।
- উভয় সার্ভারই CLI আকারে প্রমাণীকরণবিহীনভাবে পাঠানো হয়, তাই টানেলিংয়ের কাজটি আপনার।
- একটি খণ্ড চলাকালীন সংযোগ বিচ্ছিন্ন হলে রোবটের হাত একটি পুরনো অ্যাকশন ধরে রাখে। আপনার নিজের ওয়াচডগ রোবট-পাশে যোগ করুন।
| কাজ | পাবলিক ইন্টারনেটে কাজ করে? | কারণ |
|---|---|---|
| একটি স্থির বস্তু তুলে একটি বিনে রাখুন | হ্যাঁ | পর্যবেক্ষণ এবং অ্যাকশনের মধ্যে কিছুই নড়ে না। |
| ধীর গতিতে ব্লক স্তূপ করুন | হ্যাঁ, at action_horizon 16 or more | ত্রুটিগুলি এত ধীরে ধীরে জমা হয় যে পরবর্তী খণ্ডে ঠিক করা যায়। |
| একটি ড্রয়ার খুলুন, একটি বস্তু ঢোকান | সাধারণত | যোগাযোগ-সমৃদ্ধ কিন্তু ধীর। যোগাযোগের সময় থেমে থেমে চলা লক্ষ্য করুন। |
| একটি চলমান বস্তুকে অনুসরণ করুন | না | নীতিটি 300 ms থেকে 1 সেকেন্ড পুরনো পর্যবেক্ষণের উপর কাজ করে। |
| ধরা, ভারসাম্য রাখা, বা পিছলে যাওয়া থেকে পুনরুদ্ধার করা | না | সংশোধনের সময়কাল একটি রাউন্ড ট্রিপের চেয়ে কম। |
| একটি 30 Hz সিঙ্ক্রোনাস ক্লোজড লুপ | না | বাজেট হল এন্ড-টু-এন্ড 33 ms। এমনকি একটি LAN-ও হিমশিম খায়। |
যদি একটি রিমোট রান প্রতিটি পর্বে একই বিন্দুতে আটকে যায়, তবে সম্ভবত নেটওয়ার্ক এর কারণ নয়। একটি নীতি যদি প্রতিবার একই জয়েন্ট অ্যাঙ্গেল-এ দ্বিধা করে, তবে এটি সাধারণত একটি ডেটা সমস্যা; দেখুন ব্যর্থতা-মোড পৃষ্ঠাগুলি, বিশেষ করে একটি নীতি যা শুধুমাত্র একটি সেটআপে কাজ করে এবং লস কমে কিন্তু নীতি কিছুই করে না।
নিজে করা বনাম AY-Robots-এ করা
- একটি স্পট মার্কেটে একটি GPU ভাড়া করুন এবং আপনার পছন্দের মূল্যে পর্যাপ্ত VRAM-এর জন্য অপেক্ষা করুন।
- CUDA, uv, একটি ffmpeg torchcodec এবং সাবমডিউল সহ GR00T স্ট্যাক ইনস্টল করুন।
- গেটেড
nvidia/Cosmos-Reason2-2Bব্যাকবোনে অ্যাক্সেসের অনুরোধ করুন এবং পডে একটি টোকেন রাখুন। - আপনার চেকপয়েন্ট পডে টানুন।
- লুপব্যাকে সার্ভার শুরু করুন, তারপর রোবট মেশিন থেকে একটি SSH টানেল তৈরি করুন।
- ক্লায়েন্ট এবং ড্রাইভারদের জন্য রোবট মেশিনে একটি দ্বিতীয় পরিবেশ ইনস্টল করুন।
- ক্যামেরা কী, জয়েন্ট নাম এবং ভাষার নির্দেশাবলী চেকপয়েন্ট যা দেখেছিল তার সাথে মেলান।
- পডটি পর্যবেক্ষণ করুন। একটি ভুলে যাওয়া A100 রাতারাতি চললে পরীক্ষার চেয়ে বেশি খরচ হয়।
রোবট থামলে GPU বিলিং বন্ধ হয় না। রিমোট ইনফারেন্সে হারানো বেশিরভাগ অর্থ এমন একটি সার্ভারে যায় যা সবাই চলে যাওয়ার পরেও চালু ছিল। একটি অ্যালার্ম সেট করুন, অথবা স্বয়ংক্রিয়ভাবে বন্ধ করার ব্যবস্থা করুন।
- আপনি যে প্রশিক্ষিত নীতিটি চালাতে চান তা নির্বাচন করুন।
/api/inference/podস্বয়ংক্রিয়ভাবে একটি ক্লাউড GPU পড সরবরাহ করে যা সেই নীতিটি পরিবেশন করে।- স্থানীয় রোবট ক্লায়েন্ট সেই এন্ডপয়েন্টের সাথে কথা বলে। বেস চেকপয়েন্টগুলি বিক্রেতাদের নিজস্ব:
nvidia/GR00T-N1.7-3B,nvidia/GR00T-N1.5-3B,lerobot/pi05_base। ACT-এর কোনোটি নেই। - পডগুলিতে একটি অলস ওয়াচডগ থাকে এবং একটি অলস সময়ের পরে নিজেদের ধ্বংস করে, তাই কোনো কিছু নীরবে বিলিং চালিয়ে যায় না।
- একই অপারেশনগুলি একটি টার্মিনাল থেকে এবং AI এজেন্টদের কাছে উপলব্ধ, তাই লুপটি স্ক্রিপ্ট করা যেতে পারে।
স্বয়ংক্রিয়-প্রভিশনিং সেটআপের কাজ এবং ভুলে যাওয়া-পডের বিল দূর করে, কিন্তু পদার্থবিদ্যা নয়। দ্রুত কাজের জন্য ইনফারেন্সকে এখনও সার্ভোগুলির পাশে থাকতে হয়: মডেলের উপর নির্ভর করে প্রতি অ্যাকশন স্টেপে কন্ট্রোল লুপ 20 থেকে 485 ms হয়, এবং এর উপরে পাবলিক-ইন্টারনেট রাউন্ড ট্রিপ একটি কার্যকরী নীতিকে একটি দ্বিধাগ্রস্ত নীতিতে পরিণত করে।
- ক্লায়েন্ট গাইড সংযোগের স্থানীয় দিকের জন্য
- আপনার প্রথম নীতি চালান ওয়াকথ্রুর জন্য
- CLI এবং MCP সার্ভার স্ক্রিপ্ট করা সংস্করণের জন্য
- নিরাপত্তা ডকুমেন্টেশন

একটি রিমোট ইনফারেন্স সেশনের খরচ কত
দুটি সংখ্যা গুরুত্বপূর্ণ: কার্ডের প্রতি ঘণ্টার হার এবং আপনি কতক্ষণ এটি চালু রাখেন। প্রথমটি প্রকাশিত; দ্বিতীয়টি মানুষকে অবাক করে।
| কার্ড | রানপড কমিউনিটি ক্লাউড | রানপড সিকিউর ক্লাউড | এর জন্য উপযুক্ত |
|---|---|---|---|
| A100 PCIe 80 GB | 1.19 USD/h | 1.39 USD/h | GR00T N1.7, GR00T N1.5, Pi0.5 |
| A100 SXM 80 GB | 1.39 USD/h | 1.59 USD/h | একই, সামান্য দ্রুত |
| H100 PCIe 80 GB | 1.99 USD/h | 2.89 USD/h | দ্রুততম স্তর; NVIDIA-এর 11.7 Hz ইগার ফিগারটি একটি H100 80GB HBM3-এর জন্য। |
| L40S 48 GB | 0.79 USD/h | 0.99 USD/h | শুধুমাত্র ইনফারেন্স, 16 GB ফ্লোরের উপরে |
| RTX 4090 24 GB | 0.34 USD/h | 0.74 USD/h | SmolVLA, ACT |
এই হারগুলি 23 আগস্ট 2026 তারিখে রানপডের মূল্য নির্ধারণ পৃষ্ঠা থেকে নেওয়া হয়েছিল এবং স্পট বাজার পরিবর্তনশীল। AY-Robots এর পরিবর্তে একটি সম্পূর্ণ রানের জন্য মূল্য নির্ধারণ করে: A100 বা H100 স্তরে প্রতি ঘন্টায় 1.20 থেকে 2.00 USD হারে 3 থেকে 6 ঘন্টা, একটি GR00T বা Pi0.5 রানের জন্য প্রায় 4 থেকে 12 USD; 24 GB স্তরে প্রতি ঘন্টায় 0.30 থেকে 0.60 USD হারে 2 থেকে 5 ঘন্টা, SmolVLA বা ACT-এর জন্য 1 থেকে 3 USD। একটি ইনফারেন্স সেশন শুধুমাত্র তখনই একটি ট্রেনিং রানকে খরচের দিক থেকে ছাড়িয়ে যায় যদি আপনি এটি বন্ধ করেন, যার জন্য আইডল ওয়াচডগ রয়েছে। দেখুন বিলিং ডকুমেন্টেশন এবং মূল্য নির্ধারণ পৃষ্ঠা।

যদি আপনি নেটওয়ার্ককে লুপে রাখতে না চান
রিমোট ইনফারেন্স হার্ডওয়্যারের সমস্যা সমাধান করে এবং ল্যাটেন্সির সমস্যা তৈরি করে। কখনও কখনও এর চেয়ে ভালো সমাধান হলো এমন একটি পলিসি যা আপনার বর্তমান হার্ডওয়্যারের সাথে মানানসই।
- ACT, প্রায় 80 M প্যারামিটার এবং প্রতি অ্যাকশন স্টেপে 20 ms, সর্বনিম্ন 50 এপিসোড, যেকোনো 24 GB কার্ড। একটি পুনরাবৃত্তিমূলক একক-টাস্ক সেটআপে এটি প্রায়শই একটি রিমোট 3 B মডেলকে ছাড়িয়ে যায়, কারণ এটি কখনও প্যাকেটের জন্য অপেক্ষা করে না।
- SmolVLA, প্রায় 450 M প্যারামিটার এবং প্রতি অ্যাকশন স্টেপে 245 ms, সর্বনিম্ন 30 এপিসোড। এটি ACT-এর অভাবযুক্ত ভাষা কন্ডিশনিং বজায় রাখে, এবং lerobot ডকুমেন্টেশন অনুসারে ইনফারেন্সের সময় এটি প্রায় 2 GB ব্যবহার করে, যেখানে PI0-এর জন্য প্রায় 14 GB প্রয়োজন।
- ACT vs GR00T N1.7 ট্রেডের নির্ভুলতার অর্ধাংশের জন্য।
একটি মধ্যবর্তী পথও আছে: ক্লাউডে প্রশিক্ষণ দিন, স্থানীয়ভাবে মূল্যায়ন করুন। ফাইন-টিউনিং এর জন্য 80 GB কার্ড প্রয়োজন এবং এটি ল্যাটেন্সি নিয়ে চিন্তা করে না, তাই একটি SO-100-এ GR00T N1.7 প্রশিক্ষণ দূরবর্তীভাবে করা বিতর্কিত নয়। শুধুমাত্র মূল্যায়ন লুপের একটি রিয়েল-টাইম সীমাবদ্ধতা রয়েছে; প্রশিক্ষণ ডকুমেন্টেশন এবং মডেল-এবং-আর্ম ম্যাট্রিক্স সেই অর্ধাংশ কভার করে।
ডেস্কে এখনও কোনো আর্ম নেই?
কোনো সাইনআপ ছাড়াই ব্রাউজারে একটি বাস্তব SO-100 চালান, পাঁচটি প্রশিক্ষণযোগ্য পলিসিকে তাদের বাস্তব ল্যাটেন্সি সংখ্যার সাথে তুলনা করুন, অথবা একটি GPU ভাড়া করে একটি প্রশিক্ষণ দিন। শুরু করার তিনটি উপায়, যার কোনোটির জন্যই আপনার মালিকানাধীন হার্ডওয়্যার প্রয়োজন নেই।
হার্ডওয়্যার ছাড়াই চেষ্টা করুনসাধারণত জিজ্ঞাসিত প্রশ্নাবলী
GPU যদি রিমোট হয় তবে কি আমি একটি Raspberry Pi-তে GR00T N1.7 চালাতে পারি?▾
হ্যাঁ, ক্লায়েন্ট-সার্ভার বিভাজন এর জন্যই। Pi lerobot ড্রাইভার চালায়, দুটি ক্যামেরা এবং একটি সিরিয়াল বাস পড়ে, এবং পলিসি সার্ভারে পর্যবেক্ষণ পাঠায়; এটি কখনও মডেল লোড করে না। সীমাবদ্ধতা VRAM থেকে আপলোড ব্যান্ডউইথের দিকে সরে যায়: দুটি আনকম্প্রেসড 640x480 RGB ফ্রেম প্রতি কলে 1,843,200 বাইট হয়, এবং কোনো স্ট্যাকই সেগুলিকে কম্প্রেস করে না।
নেটওয়ার্ক আসলে কতটা ল্যাটেন্সি যোগ করে?▾
রাউন্ড-ট্রিপ সময় যোগ পর্যবেক্ষণ স্থানান্তরের সময়। স্থানান্তরের সময় আপনার আপলোড ব্যান্ডউইথ দ্বারা 14.7 Mbit বিভক্ত: 100 Mbit/s লিঙ্কে প্রায় 147 ms, 10 Mbit/s লিঙ্কে 1.47 s। উভয়ই মডেলের নিজস্ব ইনফারেন্স সময়ের উপরে আসে, যা AY-Robots GR00T N1.7 এর জন্য 152 ms এবং Pi0.5 এর জন্য 485 ms হিসাবে তালিকাভুক্ত করে। একটি স্পিড-টেস্ট সার্ভারের বিরুদ্ধে নয়, পডের বিরুদ্ধে পিং এবং iperf3 দিয়ে পরিমাপ করুন।
একটি বাস্তব কাজের জন্য রিমোট ইনফারেন্স কি যথেষ্ট ভালো?▾
ধীর, ইচ্ছাকৃত পিক-এন্ড-প্লেসের জন্য, হ্যাঁ। প্রতিক্রিয়াশীল কিছুর জন্য, না। NVIDIA-এর ডিপ্লয়মেন্ট গাইড 30 FPS-এ এন্ড-টু-এন্ড সিঙ্ক্রোনাস সিঙ্গেল-স্টেপ প্রয়োজনীয়তা প্রায় 33 ms রাখে, এবং উল্লেখ করে যে ক্যাপচার, নেটওয়ার্ক, ইনফারেন্স এবং পোস্ট-প্রসেসিং ইন্টারনেট জড়িত না থাকলেও নিয়মিতভাবে তা অতিক্রম করে।
সার্ভারগুলি কোন পোর্ট ব্যবহার করে এবং এটি খোলা কি নিরাপদ?▾
Isaac-GR00T-এর PolicyServer ZeroMQ এর মাধ্যমে পোর্ট 5555-এ ডিফল্ট করে এবং এর CLI-তে 0.0.0.0 বাইন্ড করে। lerobot-এর gRPC এর মাধ্যমে পোর্ট 8080-এ ডিফল্ট করে এবং localhost বাইন্ড করে। কোনটিই এক্সপোজ করা নিরাপদ নয়: GR00T ক্লাস একটি api_token সমর্থন করে কিন্তু run_gr00t_server.py কখনও একটি পাস করে না, এবং lerobot একটি অনিরাপদ gRPC চ্যানেলের মাধ্যমে ডেটা পিকল করে, যা CVE-2026-25874। লুপব্যাকে বাইন্ড করুন এবং একটি SSH টানেল ব্যবহার করুন।
lerobot আপগ্রেড করলে কি CVE-2026-25874 ঠিক হয়?▾
23 আগস্ট 2026 পর্যন্ত নয়। CVE রেকর্ড LeRobot 0.5.1 পর্যন্ত প্রভাবিত হিসাবে তালিকাভুক্ত করে এবং PyPI 0.6.1 সরবরাহ করে, কিন্তু অ্যাসিঙ্ক পাইপলাইন থেকে পিকল সরানোর পুল রিকোয়েস্ট এখনও খোলা আছে, এবং মেইনে policy_server.py এখনও রিকোয়েস্ট ডেটাতে pickle.loads কল করে। নেটওয়ার্ক আইসোলেশনকে প্রশমন হিসাবে বিবেচনা করুন, সংস্করণ আপগ্রেড নয়, এবং ধরে নিন রোবট-সাইড ক্লায়েন্টও এর আওতায় পড়ে।
আমি কি GR00T চেকপয়েন্টের সাথে lerobot-এর অ্যাসিঙ্ক ক্লায়েন্ট ব্যবহার করতে পারি?▾
হ্যাঁ। lerobot 0.6.1 SUPPORTED_POLICIES-এ groot-কে act, smolvla, diffusion, tdmpc, vqbet, pi0 এবং pi05 এর পাশাপাশি তালিকাভুক্ত করে, এবং so100_follower এবং so101_follower উভয়ই SUPPORTED_ROBOTS-এ রয়েছে। --policy_type=groot পাস করুন এবং --pretrained_name_or_path আপনার চেকপয়েন্টের দিকে নির্দেশ করুন। আপনি অ্যাসিঙ্ক্রোনাস এক্সিকিউশন পাবেন, যা GR00T SO-100 উদাহরণে প্রয়োগ করা হয়নি, পিকল ট্রান্সপোর্টের খরচে।
সংক্ষিপ্ত সংস্করণ
একটি 3 B এর জন্য রিমোট ইনফারেন্স পলিসি একটি সমাধান করা ইঞ্জিনিয়ারিং সমস্যা যার সাথে একটি অমীমাংসিত পদার্থবিজ্ঞানের সমস্যা জড়িত। ইঞ্জিনিয়ারিং হল দুটি কমান্ড এবং একটি SSH টানেল। পদার্থবিজ্ঞান হল যে একটি 1.8 MB পর্যবেক্ষণকে অন্য দেশের একটি GPU-তে পৌঁছাতে হবে এবং বাহু কর্মের বাইরে চলে যাওয়ার আগে ফিরে আসতে হবে। কিছু ভাড়া করার আগে হিসাব করুন, এমন একটি কাজ বেছে নিন যা একটি পুরনো পর্যবেক্ষণ সহ্য করতে পারে, এবং লিঙ্ক উন্নত হওয়ার আশা না করে এক্সিকিউশন দিগন্ত বাড়ান।
যদি আপনি এখনও কোনো ডেটাসেট রেকর্ড না করে থাকেন, আপনার প্রথম ডেটাসেট রেকর্ড করুন এবং SO-100 সেটআপ গাইড প্রথমে দেখুন, এবং LeRobot ডেটাসেট ফরম্যাট এন্ট্রি ব্যাখ্যা করে যে রেকর্ডার কী লেখে। এর পটভূমি হলো ভিশন-ল্যাঙ্গুয়েজ-অ্যাকশন মডেল এবং ফ্লো-ম্যাচিং পলিসি কাজ; অ্যারেনা এন্ট্রি প্রতিটি বেঞ্চমার্ক নম্বরকে একটি উৎসের সাথে সংযুক্ত করে।
Sources
- NVIDIA Isaac-GR00T: N1.7 রেপোজিটরি এবং README (16 GB ইনফারেন্স ফ্লোর, ইনস্টল, গেটেড Cosmos-Reason2-2B ব্যাকবোন, FFmpeg সীমাবদ্ধতা)
- run_gr00t_server.py: GR00T পলিসি সার্ভার CLI, ServerConfig ডিফল্ট (host 0.0.0.0, port 5555) এবং ReplayPolicy পাথ
- server_client.py: PolicyServer এবং PolicyClient, MsgSerializer's allow_pickle=False বাউন্ডারি, api_token, timeout_ms
- eval_so100.py: SO-100 পলিসি ক্লায়েন্ট, EvalConfig ডিফল্ট এবং সিঙ্ক্রোনাস কন্ট্রোল লুপ
- Isaac-GR00T SO100/SO101 উদাহরণ: ডেটাসেট রূপান্তর, ফাইনটিউন এবং ক্লোজড-লুপ ইভাল কমান্ড
- Isaac-GR00T বাস্তব-বিশ্ব ডিপ্লয়মেন্ট গাইড: 33 ms সিঙ্ক্রোনাস বাজেট, স্টপ-অ্যান্ড-গো, অ্যাকশন চাঙ্ক সাইজ, RTC স্ট্যাটাস
- Isaac-GR00T হার্ডওয়্যার সুপারিশ: প্রতি GPU-তে ইনফারেন্স ফ্রিকোয়েন্সি এবং 10 Hz সর্বনিম্ন
- Isaac-GR00T ডিপ্লয়মেন্ট এবং ইনফারেন্স গাইড: প্রতি-কম্পোনেন্ট ল্যাটেন্সি বেঞ্চমার্ক ফলাফল
- LeRobot: অ্যাসিঙ্ক্রোনাস ইনফারেন্স টিউটোরিয়াল (PolicyServer, RobotClient, ডকুমেন্টেড প্যারামিটার টেবিল)
- lerobot async_inference/configs.py: PolicyServerConfig এবং RobotClientConfig ডিফল্ট, AGGREGATE_FUNCTIONS রেজিস্ট্রি
- lerobot async_inference/policy_server.py: pickle.loads on request data, add_insecure_port, gRPC কল নাম
- lerobot robot_client.py: gRPC ট্রান্সপোর্ট, পিকল সিরিয়ালাইজেশন, ল্যাটেন্সি লগিং
- CVE-2026-25874: LeRobot gRPC এর মাধ্যমে অনিরাপদ ডিসিরিয়ালাইজেশন রিমোট কোড এক্সিকিউশন, 0.5.1 পর্যন্ত প্রভাবিত
- Black, Galliker এবং Levine, অ্যাকশন চাঙ্কিং ফ্লো পলিসির রিয়েল-টাইম এক্সিকিউশন (রিয়েল-টাইম চাঙ্কিং)
- Runpod GPU মূল্য: A100, H100, L40S এবং RTX 4090 এর জন্য কমিউনিটি এবং সুরক্ষিত ক্লাউড প্রতি ঘণ্টার হার
Sources
- NVIDIA Isaac-GR00T: N1.7 repository and README (16 GB inference floor, install, gated Cosmos-Reason2-2B backbone, FFmpeg constraint)
- run_gr00t_server.py: the GR00T policy server CLI, ServerConfig defaults (host 0.0.0.0, port 5555) and the ReplayPolicy path
- server_client.py: PolicyServer and PolicyClient, MsgSerializer's allow_pickle=False boundary, api_token, timeout_ms
- eval_so100.py: the SO-100 policy client, EvalConfig defaults and the synchronous control loop
- Isaac-GR00T SO100/SO101 example: dataset conversion, finetune and closed-loop eval commands
- Isaac-GR00T Real-World Deployment Guide: the 33 ms synchronous budget, stop-and-go, action chunk size, RTC status
- Isaac-GR00T Hardware Recommendation: inference frequency per GPU and the 10 Hz minimum
- Isaac-GR00T Deployment and Inference Guide: per-component latency benchmark results
- LeRobot: Asynchronous Inference tutorial (PolicyServer, RobotClient, the documented parameter table)
- lerobot async_inference/configs.py: PolicyServerConfig and RobotClientConfig defaults, AGGREGATE_FUNCTIONS registry
- lerobot async_inference/policy_server.py: pickle.loads on request data, add_insecure_port, the gRPC call names
- lerobot robot_client.py: gRPC transport, pickle serialization, latency logging
- CVE-2026-25874: LeRobot unsafe deserialization remote code execution via gRPC, affected through 0.5.1
- Black, Galliker and Levine, Real-Time Execution of Action Chunking Flow Policies (real-time chunking)
- Runpod GPU pricing: community and secure cloud hourly rates for A100, H100, L40S and RTX 4090
Ready for high-quality robotics data?
AY-Robots connects your robots to skilled operators worldwide.
Get Started