تشغيل استدلال GR00T بدون وحدة معالجة رسوميات محلية

جهاز Raspberry Pi كافٍ لتشغيل عبر ناقل تسلسلي وسحب الإطارات من كاميرتي USB. لكنه ليس كافيًا لتشغيل نموذج : يذكر ملف README الخاص بـ NVIDIA أن استدلال GR00T N1.7 يتطلب وحدة معالجة رسوميات واحدة بسعة 16 جيجابايت أو أكثر من ذاكرة الفيديو. لمعرفة ما يفعله نقطة التحقق الخاص بك والمُعدّل بدقة على الذراع دون شراء بطاقة، ضع السياسة على وحدة معالجة رسوميات سحابية مستأجرة، واحتفظ بحلقة الروبوت على الجهاز المزود بمنافذ USB، وأرسل الملاحظات وأجزاء الإجراءات عبر الشبكة.

إنه يعمل، لكنه ليس مجانيًا، والسعر لا يتوزع بالتساوي عبر المهام. أدناه: خادم سياسة NVIDIA الخاص، ومكدس lerobot غير المتزامن، والحساب الذي يحدد مسبقًا ما إذا كان رابط التحميل الخاص بك سريعًا بما يكفي، ومسار المنصة. تم التحقق من كل ذلك مقابل الفرع الرئيسي لـ Isaac-GR00T (N1.7 GA) و lerobot 0.6.1 في 23 أغسطس 2026.

لماذا لن تتناسب السياسة مع جهاز الروبوت

اثنتان من السياسات الخمس التي يمكن لـ AY-Robots تدريبها تعملان على بطاقة محطة عمل، وثلاث لا تعمل. عمود أدناه هو لكل خطوة إجراء، وهذا هو الرقم الذي يتنافس مع زمن الذهاب والإياب لشبكتك.

اقرأ ذلك كقرار، وليس معلومات تافهة. بسرعة 20 مللي ثانية لكل خطوة يعمل على آلة الروبوت ولن تفكر فيه مرة أخرى. بسرعة 485 مللي ثانية يكون قد استغرق ثلث ثانية قبل أن تغادر الحزمة مبناك. و تضيف جانب الدقة.

مكدسات العميل والخادم الموجودة بالفعل

يشحن Isaac-GR00T خادم طلب-رد ZeroMQ؛ ويشحن lerobot خادم gRPC مبني حول الاستدلال غير المتزامن. كلاهما يقبل GR00T نقطة تحقق. قائمة السياسات المدعومة في lerobot في async_inference/constants.py هي act, smolvla, diffusion, tdmpc, vqbet, pi0, pi05 و groot؛ قائمة الروبوتات الخاصة بها هي so100_follower, so101_follower, bi_so_follower و omx_follower.

صف التسلسل أهم مما يبدو. مكتبة GR00T MsgSerializer ترفض حمولات ndarray من نوع الكائن في كلا الاتجاهين، لأن msgpack_numpy سيسلمها إلى pickle بخلاف ذلك. بدلاً من ذلك، تقوم lerobot بعملية pickle: policy_server.py يستدعي pickle.loads على بيانات الطلب، robot_client.py يقوم بعملية pickle للملاحظة التي يرسلها. يمكن الدفاع عن ذلك على شبكة LAN موثوقة، ولكن لا يمكن الدفاع عنه بمجرد أن يصبح المنفذ قابلاً للوصول من الإنترنت.

المسار أ: خادم سياسة GR00T الخاص بـ NVIDIA

هذا هو المسار الذي توثقه NVIDIA لأجهزة SO-100 و SO-101، وهو المسار الذي يجب استخدامه إذا كانت نقطة التحقق الخاصة بك قد نتجت عن examples/finetune.sh مع --embodiment-tag NEW_EMBODIMENT. تضيف هذه الخطوات ما يغفله ملف README الأصلي: توصيل المنفذ بالروبوت دون تعريضه للجميع.

1. 1
   تثبيت GR00T على صندوق GPU المستأجر

   الوحدات الفرعية مطلوبة، ويجب أن يكون git-lfs موجودًا قبل الاستنساخ وإلا ستصل ملفات parquet في demo_data كمؤشرات. يأتي flash-attn و TensorRT مع التثبيت الافتراضي. المشكلة في صورة pod جديدة: torchcodec 0.8.0 هو الواجهة الخلفية الوحيدة للفيديو المدعومة ويقوم بتحميل FFmpeg من الإصدار 4 إلى 7 فقط. تأتي Ubuntu 25.10 و 26.04 مع FFmpeg 8، لذلك يفشل GR00T برسالة Could not load libtorchcodec. قم بتثبيت FFmpeg بإصدار أقل من 8 وضع مكتباته في LD_LIBRARY_PATH.

   bash

   sudo apt install git-lfs && git lfs install
   curl -LsSf https://astral.sh/uv/install.sh | sh
   sudo apt-get update && sudo apt-get install -y ffmpeg
   
   git clone --recurse-submodules https://github.com/NVIDIA/Isaac-GR00T
   cd Isaac-GR00T
   uv sync --python 3.12
   uv run python -c "import gr00t; print('GR00T installed successfully')"

2. 2
   المصادقة ضد الواجهة الخلفية المحمية

   تقوم كل نقطة تحقق من GR00T N1.7، بما في ذلك التعديل الدقيق الخاص بك، بتحميل nvidia/Cosmos-Reason2-2B المحمي عند الاستخدام الأول. اطلب الوصول على صفحة النموذج وقم بتسجيل الدخول على الـ pod، وإلا سيفشل التحميل برسالة GatedRepoError.

   bash

   uv run huggingface-cli login
   # or:  export HF_TOKEN=<your_token>

3. 3
   بدء تشغيل خادم السياسة

   وجه --model-path إلى دليل نقطة التحقق الخاص بك؛ في هذا المسار، يتجاهل الخادم --modality-config-path، والذي يُقرأ فقط على مسار الإعادة. احذف --model-path ومرر --dataset-path بالإضافة إلى --execution-horizon بدلاً من ذلك لسياسة إعادة تشغيل (ReplayPolicy) تعيد تشغيل الإجراءات المسجلة، وهي أرخص طريقة لإثبات أن التوصيلات تعمل.

   bash

   uv run python gr00t/eval/run_gr00t_server.py \
     --model-path /workspace/so100_finetune/checkpoint-10000 \
     --embodiment-tag NEW_EMBODIMENT \
     --device cuda:0 \
     --host 127.0.0.1 --port 5555

4. 4
   نفق المنفذ 5555 إلى جهاز الروبوت

   اربط بالـ loopback، كما هو موضح أعلاه، وانقل المنفذ عبر SSH أو شبكة WireGuard. يوفر ذلك التشفير والمصادقة التي لا يوفرها مقبس ZeroMQ، وذلك في حوالي مللي ثانية.

   bash

   # on the robot machine
   ssh -N -L 5555:127.0.0.1:5555 root@<pod-host> -p <pod-ssh-port>
   
   # sanity check that something answers
   nc -vz 127.0.0.1 5555

5. 5
   تشغيل عميل الروبوت بجانب المحركات

   يحتاج العميل إلى بيئة uv خاصة به: فهو يريد برامج تشغيل الروبوت الخاصة بـ lerobot، وليس حزمة التدريب. يستورد eval_so100.py كل من so100_follower و so101_follower و koch_follower، لذا مرر --robot.type المطابق لذراعك (يستخدم ملف README الأصلي so101_follower). يجب أن تتطابق مفاتيح الكاميرا مع التدريب: يقرأ المحول بالضبط front و wrist، وتبديلها يظهر للسياسة المنظر الخاطئ.

   bash

   cd gr00t/eval/real_robot/SO100
   uv sync
   uv pip install --no-deps -e ../../../../
   
   uv run --no-sync python eval_so100.py \
     --robot.type=so100_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=orange_follower \
     --robot.cameras="{ front: {type: opencv, index_or_path: 6, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 2, width: 640, height: 480, fps: 30}}" \
     --policy_host=127.0.0.1 \
     --policy_port=5555 \
     --lang_instruction="pick up the red block and put it in the bin"

المسار ب: استدلال lerobot غير المتزامن

يحل lerobot مشكلة مختلفة. فبدلاً من حظر الروبوت بينما يفكر النموذج، يستمر العميل في التقدم عبر قائمة الانتظار التي لديه بالفعل بينما يحسب الخادم الجزء التالي. هذا هو تقسيم الإجراءات إلى أجزاء، وهو ما تم تطويره بشكل أكبر، المكدس غير المتزامن الذي تم تقديمه مع SmolVLA. وهو يعمل أيضًا مع نقطة تحقق GR00T.

# GPU machine
pip install -e ".[async]"
python -m lerobot.async_inference.policy_server \
     --host=127.0.0.1 \
     --port=8080

# robot machine, after tunnelling 8080
python -m lerobot.async_inference.robot_client \
    --server_address=127.0.0.1:8080 \
    --robot.type=so100_follower \
    --robot.port=/dev/ttyACM0 \
    --robot.id=follower_so100 \
    --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 1, width: 640, height: 480, fps: 30}}" \
    --task="pick up the red block and put it in the bin" \
    --policy_type=groot \
    --pretrained_name_or_path=<user>/my_groot_finetune \
    --policy_device=cuda \
    --actions_per_chunk=50 \
    --chunk_size_threshold=0.5 \
    --debug_visualize_queue_size=True

يبدأ الخادم فارغًا: لا يعرف أي سياسة يقدمها حتى تخبره أول مصافحة من العميل، وهو أمر مناسب على خادم مستأجر. المقبضان اللذان يحددان ما إذا كان الذراع يتحرك بسلاسة هما actions_per_chunk و chunk_size_threshold (تسمي وثائق lerobot الثاني g، نسبةً إلى ورقة SmolVLA)، والقيم الموثقة والقيم المشحونة لا تتفق.

الحساب الذي يقرر ما إذا كان اتصالك سريعًا بما يكفي

يتجاهل الناس هذا ثم يقضون يومًا في . يستغرق الأمر دقيقتين وهو حاسم دائمًا تقريبًا.

يصف قاموس الملاحظات المعلق في eval_so100.py من NVIDIA ما يتم إرساله عبر الشبكة: مصفوفتان بحجم (480, 640, 3) من نوع uint8، وستة أرقام عائمة للمفاصل، وسلسلة نصية للغة. هذا يعني 921,600 بايت لكل إطار، و1,843,200 بايت لكاميرتين، أي حوالي 14.7 ميجابت، ولا تقوم أي من المكدسات بضغطها بصيغة JPEG. الجزء الذي يعود هو بضع عشرات من الخطوات من 6 أرقام عائمة. سرعة الرفع لديك هي التي تحدد كل شيء، وليس سرعة التنزيل.

الميزانية التي يجب أن تلتزم بها

عميل GR00T SO-100 متزامن: يستدعي policy.get_action(obs)، وينفذ أول action_horizon خطوة من الكتلة بمعدل 30 إطارًا في الثانية، ثم يستدعي مرة أخرى. حجم الكتلة والأفق أرقام مختلفة: يوصي دليل نشر NVIDIA بحجم كتلة إجراء يبلغ 16، و32 على الأقل عند دمجه مع التقطيع في الوقت الفعلي، بينما يشحن eval_so100.py أفق تنفيذ يبلغ 8. ثماني خطوات بمعدل 30 إطارًا في الثانية تعادل 267 مللي ثانية من الحركة لكل استدعاء، ويجب أن يتناسب كل شيء آخر داخل ذلك.

observation upload   14.7 Mbit / 100 Mbit/s   = 147 ms
network round trip                            =  30 ms
model inference (AY-Robots figure, N1.7)      = 152 ms
action chunk return + deserialize             =  ~2 ms
                                                -------
total per call                                  331 ms

budget at action_horizon = 8   ->  267 ms   FAIL, arm pauses ~64 ms per chunk
budget at action_horizon = 16  ->  533 ms   fits, with headroom
budget at action_horizon = 32  -> 1067 ms   fits, observations now ~1 s stale

زيادة الأفق هو الحل المباشر وليس مجانيًا: يتصرف الذراع بناءً على ملاحظة أصبحت قديمة الآن. الحل المبدئي هو التقطيع في الوقت الفعلي (real-time chunking)، والذي يحسب الكتلة التالية بينما تعمل الكتلة الحالية، ويجمد الإجراءات المضمونة للتنفيذ ويكمل الباقي؛ يشير تقرير RTC إلى أنه قوي ضد تأخير الاستدلال بدون إعادة تدريب. تحقق من وضعه أولاً. تصنف NVIDIA تقنية RTC على أنها تجريبية، وهي بدائية نموذجية منخفضة المستوى يمكن الوصول إليها عبر action_head.get_action(..., options={"rtc_overlap_steps": ..., "rtc_frozen_steps": ...})، وليست موصولة بـ Gr00tPolicy أو مسار الخادم-العميل، حيث تكون options غير مستخدمة، وبدون اختبارات أو أمثلة. عبر خادم السياسة، تحصل على تنفيذ غير متزامن، وليس RTC.

قِسْهُ قبل أن تثق به

كل رقم أعلاه هو مجرد توقع. أربعة أوامر تحوله إلى قياس حقيقي، ويستحق تشغيلها قبل تخصيص ساعة من موارد البود لمهمة لم تكن لتنجح أبدًا.

1. 1
   احصل على زمن الذهاب والإياب الخام

   ضد البود، وليس شبكة توصيل المحتوى (CDN). راقب الانحراف بنفس دقة المتوسط: التذبذب (jitter) هو ما يجعل الذراع يتلعثم، وليس متوسط زمن الاستجابة.

   bash

   ping -c 50 <pod-host>
   # the mdev column is the number that predicts stutter

2. 2
   قِس سرعة الرفع المتوفرة لديك، لا تلك التي تدفع مقابلها

   سرعة الرفع السكنية عادة ما تكون جزءًا من سرعة التنزيل، وهي الرقم المذكور في جدول النطاق الترددي أعلاه.

   bash

   # on the pod
   iperf3 -s
   
   # on the robot machine, -R omitted so this measures upload
   iperf3 -c <pod-host> -t 30

3. 3
   اقرأ سجل زمن الاستجابة الخاص بالعميل

   يسجل عميل الروبوت lerobot زمن الاستجابة من الخادم إلى العميل ووقت إلغاء التسلسل لكل جزء. على المسار B، لا تحتاج إلى أي أدوات خارجية.

   text

   Received action chunk for step #240 | Latest action: #232 |
     Incoming actions: 240:289 |
     Network latency (server->client): 187.44ms |
     Deserialization time: 3.10ms

4. 4
   راقب استنزاف قائمة انتظار الإجراءات

   مرر --debug_visualize_queue_size=True وسيقوم العميل برسم حجم قائمة الانتظار في وقت التشغيل. إذا وصل إلى الصفر بشكل متكرر، فهذا يعني أنك تجاوزت الميزانية: قم بتخفيض معدل الإطارات (fps)، أو زيادة `actions_per_chunk`، أو زيادة `chunk_size_threshold` بحيث يتم إرسال الملاحظات بشكل متكرر.

   bash

   python -m lerobot.async_inference.robot_client \
       ... \
       --debug_visualize_queue_size=True

ما هي الفوائد الحقيقية للاستدلال عن بعد

إذا تعثر تشغيل عن بعد في نفس النقطة في كل حلقة، فمن المحتمل أن الشبكة ليست السبب. السياسة التي تتردد عند نفس زاوية المفصل في كل مرة عادة ما تكون مشكلة بيانات؛ راجع صفحات أوضاع الفشل، على وجه الخصوص سياسة تعمل فقط في إعداد واحد و الخسارة تنخفض لكن السياسة لا تفعل شيئًا.

القيام بذلك بنفسك مقابل القيام بذلك على AY-Robots

تكلفة جلسة الاستدلال عن بعد

رقمان يهمان: السعر بالساعة للبطاقة، ومدة تركها تعمل. الأول منشور؛ والثاني يفاجئ الناس.

تم قراءة هذه الأسعار من صفحة تسعير Runpod في 23 أغسطس 2026، وتتغير أسعار الأسواق الفورية. تقدم AY-Robots سعرًا لتشغيل كامل بدلاً من ذلك: من 3 إلى 6 ساعات بسعر 1.20 إلى 2.00 دولار أمريكي للساعة على فئة A100 أو H100، حوالي 4 إلى 12 دولارًا أمريكيًا لتشغيل GR00T أو Pi0.5؛ من 2 إلى 5 ساعات بسعر 0.30 إلى 0.60 دولار أمريكي للساعة على فئة 24 جيجابايت، من 1 إلى 3 دولارات أمريكية لـ SmolVLA أو ACT. تتفوق جلسة الاستدلال على تشغيل التدريب من حيث التكلفة فقط إذا أوقفتها، وهذا هو الغرض من مراقب الخمول. انظر وثائق الفوترة و صفحة التسعير.

إذا كنت تفضل عدم وجود الشبكة في الحلقة

يحل الاستدلال عن بعد مشكلة في الأجهزة ويخلق مشكلة زمن انتقال. أحيانًا يكون الحل الأفضل هو سياسة تتناسب مع الأجهزة المتوفرة لديك.

• ACT، حوالي 80 مليون معلمة و20 مللي ثانية لكل خطوة إجراء، 50 حلقة كحد أدنى، أي بطاقة 24 جيجابايت. في إعداد مهمة واحدة متكررة، غالبًا ما يتفوق على نموذج 3 مليار معلمة عن بعد، لأنه لا ينتظر حزمة أبدًا.
• SmolVLA، حوالي 450 مليون معلمة و245 مللي ثانية لكل خطوة إجراء، 30 حلقة كحد أدنى. يحتفظ بتكييف اللغة الذي يفتقر إليه ACT، وتضعه وثائق lerobot عند حوالي 2 جيجابايت في وقت الاستدلال مقابل حوالي 14 جيجابايت لـ PI0.
• ACT vs GR00T N1.7 للنصف المتعلق بالدقة من المقايضة.

هناك أيضًا مسار وسطي: التدريب في السحابة، والتقييم محليًا. الضبط الدقيق يحتاج إلى بطاقة 80 جيجابايت ولا يهتم بزمن الانتقال، لذا فإن تدريب GR00T N1.7 على SO-100 عن بعد أمر غير مثير للجدل. حلقة التقييم فقط هي التي لديها قيد زمني حقيقي؛ وثائق التدريب ومصفوفة النموذج والذراع تغطي هذا النصف.

الأسئلة الشائعة

النسخة المختصرة

الاستدلال عن بعد لـ 3 B سياسة هي مشكلة هندسية محلولة مع مشكلة فيزيائية لم تُحل بعد. الهندسة تتطلب أمرين ونفق SSH. أما الفيزياء فتتمثل في أن ملاحظة بحجم 1.8 MB يجب أن تصل إلى وحدة معالجة رسوميات (GPU) في بلد آخر وتعود قبل أن ينفد الروبوت من الإجراءات. قم بالحسابات قبل استئجار أي شيء، واختر مهمة تتحمل ملاحظة قديمة، وارفع أفق التنفيذ بدلاً من الأمل في تحسن الاتصال.

إذا لم تكن قد سجلت مجموعة بيانات بعد، و يأتي أولاً، و يشرح ما يكتبه المسجل. الخلفية موجودة في و؛ الـ يربط كل رقم مرجعي بمصدر.