كيفية تدريب SmolVLA على وحدة معالجة رسوميات (GPU) بسعة 24 جيجابايت (lerobot 0.6.1)

معظم الأشخاص الذين يريدون نموذج رؤية لغة عمل على ذراع حقيقية يتوقفون عند خط الأجهزة. GR00T N1.7 و Pi0.5 تبلغ حوالي ثلاثة مليارات معلمة لكل منها وتريد A100 80 جيجابايت أو H100. إذا كان ما تملكه هو جهاز كمبيوتر للألعاب مزود بـ RTX 4090، فهذه هي نهاية المطاف. SmolVLA هو الاستثناء: 450 مليون معلمة، داخل LeRobot، مصمم للضبط الدقيق على بطاقة مستهلك واحدة والخدمة من وحدة المعالجة المركزية.

المسار اليدوي أولاً: قم بتثبيت lerobot، اسحب lerobot/smolvla_base نقطة التحقق، قم بتشغيل الأمر الحقيقي، اقرأ التشغيل أثناء حدوثه. ثم مسار المنصة، وحيث لا يساعد.

ما هو SmolVLA، بالأرقام التي يمكنك التحقق منها

SmolVLA هو مطابقة التدفق سياسة مدمجة في نموذج لغوي بصري صغير. العمود الفقري هو SmolVLM2-500M-Video-Instruct؛ تحتفظ الورقة البحثية بأول 16 طبقة فقط من نموذجها اللغوي، وتحد كل إطار كاميرا بـ 64 رمزًا بصريًا باستخدام تبديل البكسل بدلاً من تجزئة الصورة، وتدمج الانتباه المتقاطع مع طبقة انتباه ذاتي كل كتلة ثانية. كانت تكلفة الاستدلال قيدًا تصميميًا، وليست فكرة لاحقة.

المعايير هي السبب وراء اهتمام الناس بنموذج بحجم 450 مليون. في LIBERO، يبلغ متوسطه 87.3 بالمائة مقابل 76.5 لـ OpenVLA بحجم 7 مليار و 86.0 لـ Pi0 المدرب مسبقًا للروبوتات بحجم 3.3 مليار؛ في Meta-World، 57.3 مقابل 47.9. على أجهزة SO-100 الحقيقية، يوفر التدريب متعدد المهام 75 بالمائة في مهام الالتقاط والوضع، و 90 في التكديس، و 70 في الفرز، بمتوسط 78.3، حيث ACT المدرب لكل مهمة بلغ متوسطه 48.3. توجد نفس الصفوف بجانب كل VLA منشور في مدخل ساحة SmolVLA و مقارنة ACT بـ SmolVLA.

لماذا تعد بطاقة 24 جيجابايت هي الخيار الصحيح للتشغيل الأول

LeRobot يقدم دليلًا لتحديد حجم الحوسبة، وهو الصفحة الأكثر فائدة في المستودع لهذا الغرض. يقوم بتجميع السياسات حسب حجم العمود الفقري ويعطي مظروف VRAM واحدًا لكل مجموعة، تم قياسه بحجم دفعة 8 مع AdamW، وهو الإعداد الافتراضي لـ lerobot. تضيف حالة المُحسِّن وحدها من 30 إلى 100 بالمائة فوق تمريرة أمامية وخلفية مجردة، لذا فهذه ليست أرقامًا تعتمد على الأوزان فقط.

عشرة إلى ستة عشر جيجابايت بحجم دفعة 8 هو الحجة: بطاقة 24 جيجابايت تناسب ذلك بالإضافة إلى محمل البيانات. AY-Robots يضع SmolVLA على RTX 4090 أو أي بطاقة 24 جيجابايت، بحد أدنى 30 حلقات، LeRobot v3.0 بيانات، 245 مللي ثانية لكل خطوة عمل. مستأجرة، أي من 2 إلى 5 ساعات بسعر 0.30 إلى 0.60 دولار أمريكي في الساعة، حوالي 1 إلى 3 دولارات أمريكية لكل ضبط دقيق تشغيل، مقابل 4 إلى 12 دولارًا أمريكيًا على مستوى 80 جيجابايت الذي يحتاجه GR00T و Pi0.5 (التسعير). تشغيل SmolVLA فاشل هو بمثابة قهوة؛ تشغيل GR00T فاشل هو بمثابة غداء.

الخطوة 0: مجموعة البيانات هي التي تحدد التشغيل، وليس العلامات

لا شيء مما يلي يهم إذا كان التسجيل سيئًا. صفحة LeRobot SmolVLA صريحة: كانت مجموعة البيانات المرجعية 50 حلقة عبر 5 مواضع مكعبات، 10 لكل موضع، ونفس المهمة في 25 حلقة أدت بشكل سيء. التكرار لكل اختلاف يعمم، عدد الحلقات الخام لا يعمم. لم تسجل واحدة من قبل؟ ابدأ من تسجيل مجموعة بياناتك الأولى، باستخدام عميل سطح المكتب، والذي يكتب تنسيق LeRobot من جلسة التحكم عن بعد، أو استعر واحدة من دليل مجموعات البيانات.

• ما لا يقل عن 30 حلقة على AY-Robots، وحوالي 50 لوصفة LeRobot المرجعية.
• كل اختلاف تتوقعه عند النشر، مكررًا عدة مرات.
• سلسلة مهام واحدة، مكتوبة بشكل متطابق وقت التسجيل والنشر. يتم تهيئة النموذج بناءً على هذا النص.
• كاميرات ثابتة. الكاميرا التي تتحرك بين التسجيل والنشر هي السبب الأكثر شيوعًا وراء منح منحنى خسارة نظيف ذراعًا بلا حركة.
• تنوع محجوز لم تتدرب عليه أبدًا، بحيث يكون لديك شيء صادق للاختبار مقابله.

# v2.1 -> v3.0: aggregates per-episode files into shards and writes the episode offsets
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=${HF_USER}/so100_pick_place

المزيد حول هذا في كيفية جمع بيانات تدريب VLA عالية الجودة لمعالجة الروبوتات. النسخة المختصرة: 30 إلى 50 حلقة نظيفة لمهمة واحدة مع تنوع متعمد تتفوق على 200 حلقة غير دقيقة لثلاث مهام، بهامش لا يمكن لأي معلمة فائقة أن تسده.

تثبيت lerobot 0.6.1

# LeRobot needs Python 3.12 or newer as of 0.6.x
conda create -y -n lerobot python=3.12
conda activate lerobot

# TorchCodec decodes the dataset videos and wants ffmpeg
conda install ffmpeg -c conda-forge

# Base package is deliberately thin; extras pull the rest
pip install 'lerobot[smolvla,training,core_scripts]'

# Sanity check: prints the lerobot version, the GPU torch sees, and the console scripts you got
lerobot-info

تثبيت lerobot الأساسي نحيف ويحجب التبعيات الثقيلة خلف الإضافات (extras): smolvla يضيف transformers و num2words و accelerate، training مكدس البيانات (dataset stack) و wandb، core_scripts تبعيات الأجهزة والتصور (hardware and visualisation deps). على Linux، يحدد مسار التثبيت أيضًا عجلة CUDA الخاصة بك: الإعداد الافتراضي لـ PyPI هو عجلة cu130 بحد أدنى للمشغل (driver floor) يبلغ 580.65، لذا على مشغل أقدم، قم بتثبيت torch من فهرس cu128 أولاً، ثم lerobot.

تشغيل التدريب، أمرًا بأمر

1. 1
   المصادقة ضد Hub

   نقطة التحقق الأساسية تأتي من Hub، ومن المحتمل أن تكون مجموعة بياناتك كذلك.

   bash

   hf auth login

2. 2
   اقرأ الخيارات مرة واحدة

   كل حقل في إعدادات المسار والسياسة هو علامة (flag). قم بإلقاء نظرة سريعة عليه قبل التعمق في المصدر.

   bash

   lerobot-train --help

3. 3
   ابدأ الضبط الدقيق

   مثال الوثائق يشغل دفعة بحجم 64 على A100 واحد؛ مرجع دليل الحوسبة الخاص بـ A100 40 جيجابايت هو دفعة بحجم 16، و8 هو المكافئ لـ 24 جيجابايت. لا توجد علامة جدولة هنا عن قصد، انظر أدناه.

   bash

   lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/so100_pick_place \
     --batch_size=8 \
     --steps=20000 \
     --save_freq=2000 \
     --log_freq=200 \
     --seed=1000 \
     --output_dir=outputs/train/smolvla_pick_place \
     --job_name=smolvla_pick_place \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   اقرأ سطر السجل، وليس فقط الخسارة

   كل --log_freq خطوة، يطبع lerobot قيم loss, grdn, lr, updt_s, data_s, smp/s، وعلى CUDA، mem_gb. تشير mem_gb إلى ما إذا كانت الدفعة مناسبة، وlr إلى ما إذا كان الجدول يتناقص، واقتراب data_s من updt_s يعني أن محمل البيانات هو عنق الزجاجة، وليس وحدة معالجة الرسوميات (GPU).

   bash

   # if data_s creeps toward updt_s
   lerobot-train ... --num_workers=8

5. 5
   اجمع نقاط التحقق التي يمكنك مقارنتها

   القيمة الافتراضية لـ save_freq هي 20000، لذا فإن تشغيل 20000 خطوة يترك نقطة تحقق واحدة ولا شيء لمقارنتها بها. اضبطها على 2000. يتطلب الدفع إلى Hub استخدام --policy.repo_id.

   bash

   --save_freq=2000 \
   --policy.repo_id=${HF_USER}/smolvla_pick_place \
   --save_checkpoint_to_hub=true

6. 6
   استأنف إذا تعطل الجهاز

   وجه --config_path إلى train_config.json بجانب نقطة التحقق. يرفض lerobot البدء في output_dir موجود ما لم تكن تستأنف، لذلك لا يمكنك الكتابة فوق تشغيل عن طريق الخطأ.

   bash

   lerobot-train \
     --config_path=<path to the saved train_config.json> \
     --resume=true

العلامات التي تغير النتيجة بالفعل

الإعدادات الافتراضية التي ترثها إذا لم تقم بأي تغيير

إعداد في lerobot يحمل إعدادات المحسّن (optimizer) والجدول الزمني (scheduler) المسبقة الخاصة به، وما لم تقم بتعيين use_policy_training_preset=false فإن تلك الإعدادات المسبقة هي التي تسود. نصف الأسئلة التي يطرحها الناس حول تدريب SmolVLA يجيب عليها إعداد افتراضي لم يكونوا يعلمون بوجوده.

السطران اللذان يفاجئان الناس هما freeze_vision_encoder و train_expert_only، وكلاهما صحيح. بشكل افتراضي، تقوم بتدريب ما يقرب من 100 مليون معلمة، وليس 450 مليونًا، وهذا هو السبب في أنها تتناسب مع 24 جيجابايت. تشغيل LeRobot المرجعي الخاص على مجموعة H100 بأربع وحدات معالجة رسومية يقلب كلاهما إلى خطأ؛ على بطاقة واحدة بسعة 24 جيجابايت، يتحول التشغيل الناجح إلى .

كم يستغرق التشغيل، وكم عدد الخطوات الكافية

ينشر LeRobot نقاط ارتكاز زمنية لخمسة عصور على مجموعة بيانات تتكون من حوالي 50 حلقة، حوالي 45000 إطار بمعدل 30 إطارًا في الثانية. أرقام تقريبية، كما تقول الوثائق، لكنها تمثل الفرق بين توقع ساعة ويوم.

تشغيل السياسة المضبوطة بدقة على الذراع

lerobot-rollout \
  --strategy.type=base \
  --robot.type=so100_follower \
  --robot.port=/dev/ttyACM0 \
  --robot.id=my_follower_arm \
  --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}}" \
  --task="Grasp the cube and put it in the box." \
  --policy.path=${HF_USER}/smolvla_pick_place

من السهل إساءة فهم 245 مللي ثانية لكل خطوة إجراء: تُصدر السياسة chunk_size = 50 إجراءً لكل تمريرة أمامية وتنفذ n_action_steps = 50 منها، لذا فإن عدد مرات دفع هذه التكلفة تحدده هذه المقابض، وليس عدد مرات تلقي المحركات المؤازرة للأوامر. هذا ما توفره تجزئة الإجراءات، ولماذا يمكن لنموذج 245 مللي ثانية أن يدير ذراعًا بتردد 30 هرتز. ما يتبقى هو زمن انتقال الاستدلال في نهاية الكتلة.

هذا الصف الثالث هو ما تتجاهله معظم الكتابات. الاستدلال غير المتزامن أسرع بنحو 30 بالمائة ويضاعف الإنتاجية تقريبًا في نافذة ثابتة، وتصف الورقة معدلات النجاح بأنها قابلة للمقارنة، وهو ما ينطبق عليها في المتوسط. تحت ذلك، انخفض الفرز من 70 إلى 50 بالمائة بينما زاد الالتقاط والوضع بنسبة 5. يحمل lerobot 0.6.1 الرافعة الأخرى في نفس الملف الثنائي: --inference.type=rtc يحول التنفيذ إلى تجزئة في الوقت الفعلي، وهو ما يوصي به قسم الاستخدام الخاص بالبرنامج النصي لشبكات VLA البطيئة، Pi0، Pi0.5 و SmolVLA.

مساران لنفس نقطة التفتيش

pip install 'lerobot[smolvla,training,core_scripts]'
hf auth login

lerobot-train \
  --policy.path=lerobot/smolvla_base \
  --dataset.repo_id=${HF_USER}/so100_pick_place \
  --batch_size=8 --steps=20000 \
  --save_freq=2000 --seed=1000 \
  --output_dir=outputs/train/smolvla_pick_place \
  --job_name=smolvla_pick_place \
  --policy.device=cuda --wandb.enable=true

متى يكون SmolVLA الخيار الخاطئ

إن الاختبار لما إذا كان SmolVLA هو التشغيل الأول الصحيح ليس ما إذا كان قد نجح، بل ما إذا كان الفشل قد أخبرك بشيء. إذا وصلت إلى 60 أو 70 بالمائة، فإن نموذجًا أكبر يعد استثمارًا معقولًا تاليًا: البيانات تحمل إشارة. إذا وصلت إلى 10 بالمائة، فمن المرجح أن يصل نموذج 3 B أيضًا إلى 10 بالمائة، وهو ما تعلمته للتو بثلاثة دولارات بدلاً من اثني عشر.

يستحق القراءة قبل إنفاق المزيد: Pi0.5 مقابل SmolVLA لسعة أكبر بنفس الفكرة، وGR00T N1.7 مقابل SmolVLA لمسار NVIDIA، وكلاهما من فئة 80 GB بتكلفة تتراوح من 4 إلى 12 USD لكل تشغيل. أما الطريقة الأخرى، ACT هي الأساس الأرخص: 80 M معلمة، 20 ms لكل خطوة إجراء، بدون تكييف لغوي. جميع الخمسة موجودة على صفحة السياسات؛ الساحة تحتوي على 85 نموذجًا و 332 نتيجة معيارية.

قائمة التحقق قبل توسيع أي شيء

1. هل وصل lr إلى حده الأدنى 2.5e-6؟ أقل من 30000 خطوة، يقوم lerobot بإعادة ضبط التضاؤل ويذكر ذلك عند بدء التشغيل؛ فوق ذلك، اضبط --policy.scheduler_decay_steps بنفسك.
2. أكثر من نقطة حفظ واحدة، وحلقات محجوزة باستخدام --dataset.eval_split لكي يكون لخسارة التقييم معنى.
3. هل تتحرك السياسة على الإطلاق؟ انخفاض الخسارة مع ذراع ثابت له أسباب محددة: الخسارة تنخفض، والسياسة لا تفعل شيئًا.
4. هل تصمد أمام تغيير المشهد؟ إذا لم يكن كذلك: السياسة تعمل فقط في إعداد واحد.
5. هل قمت بتدوين البذرة (seed)؟ lerobot يستخدم القيمة الافتراضية 1000، لذا تبقى عمليتان لم يتم المساس بهما قابلتين للمقارنة.
6. بعد ذلك فقط: المزيد من الحلقات، المزيد من التنوع، أو نموذج أكبر. بهذا الترتيب.

لفهم سبب وجود هذه النماذج وما تفعله بمدخلات اللغة، هو الخلفية؛ يشرح التجميع من خلال إلى أول تشغيل. لنقطة الحفظ النهائية، ؛ إذا لم تظهر الذراع أبدًا، .