SmolVLA کو 24 GB GPU پر کیسے تربیت دیں (lerobot 0.6.1)

زیادہ تر لوگ جو ایک ویژن لینگویج ایکشن ماڈل کو ایک حقیقی بازو پر چاہتے ہیں وہ ہارڈویئر کی حد پر رک جاتے ہیں۔ GR00T N1.7 اور Pi0.5 ہر ایک تقریباً تین ارب پیرامیٹرز کے حامل ہیں اور انہیں A100 80 GB یا H100 کی ضرورت ہوتی ہے۔ اگر آپ کے پاس RTX 4090 کے ساتھ ایک گیمنگ پی سی ہے، تو یہ راستے کا اختتام ہے۔ SmolVLA ایک استثناء ہے: 450 M پیرامیٹرز، LeRobot کے اندر، جو ایک کنزیومر کارڈ پر فائن ٹیون کرنے اور CPU سے سروس فراہم کرنے کے لیے بنایا گیا ہے۔

پہلے دستی راستہ: lerobot انسٹال کریں، lerobot/smolvla_base چیک پوائنٹ کھینچیں، اصلی کمانڈ چلائیں، اور چلتے ہوئے رن کو پڑھیں۔ پھر پلیٹ فارم کا راستہ، اور جہاں یہ مدد نہیں کرتا۔

SmolVLA کیا ہے، ان اعداد میں جنہیں آپ چیک کر سکتے ہیں

SmolVLA ایک فلو میچنگ پالیسی ہے جو ایک چھوٹے ویژن لینگویج ماڈل پر نصب ہے۔ اس کا بنیادی ڈھانچہ SmolVLM2-500M-Video-Instruct ہے؛ مقالے میں اس کے لینگویج ماڈل کی صرف پہلی 16 تہوں کو رکھا گیا ہے، ہر کیمرہ فریم کو امیج ٹائلنگ کے بجائے پکسل شفل کے ساتھ 64 بصری ٹوکنز تک محدود کیا گیا ہے، اور ہر دوسرے بلاک میں کراس اٹینشن کو سیلف اٹینشن لیئر کے ساتھ ملایا گیا ہے۔ انفرنس کی لاگت ایک ڈیزائن کی رکاوٹ تھی، نہ کہ بعد کی سوچ۔

بینچ مارکس ہی وہ وجہ ہیں کہ لوگ 450 ملین ماڈل پر کیوں توجہ دیتے ہیں۔ LIBERO پر یہ 7 B کے OpenVLA کے 76.5 کے مقابلے میں اوسطاً 87.3 فیصد اور 3.3 B کے روبوٹکس پری ٹرینڈ Pi0 کے 86.0 کے مقابلے میں اوسطاً 87.3 فیصد حاصل کرتا ہے؛ Meta-World پر، 47.9 کے مقابلے میں 57.3۔ حقیقی SO-100 ہارڈویئر پر، ملٹی ٹاسک ٹریننگ پک اینڈ پلیس پر 75 فیصد، اسٹیکنگ پر 90، سارٹنگ پر 70، اوسطاً 78.3 دیتی ہے، جہاں ACT فی ٹاسک تربیت یافتہ اوسطاً 48.3 حاصل کرتا ہے۔ یہی قطاریں ہر شائع شدہ VLA کے ساتھ موجود ہیں SmolVLA ایرینا انٹری اور ACT بمقابلہ SmolVLA موازنہ۔

24 GB کارڈ پہلی بار چلانے کے لیے صحیح انتخاب کیوں ہے

LeRobot ایک کمپیوٹ سائزنگ گائیڈ فراہم کرتا ہے، جو اس کے لیے ریپو میں سب سے مفید صفحہ ہے۔ یہ پالیسیوں کو بیک بون سائز کے لحاظ سے گروپ کرتا ہے اور ہر گروپ کے لیے ایک VRAM انویلپ دیتا ہے، جسے بیچ سائز 8 پر AdamW کے ساتھ ماپا جاتا ہے، جو lerobot کا ڈیفالٹ ہے۔ آپٹیمائزر کی حالت اکیلے ایک سادہ فارورڈ اور بیکورڈ پاس پر 30 سے 100 فیصد کا اضافہ کرتی ہے، لہذا یہ صرف وزن کے اعداد و شمار نہیں ہیں۔

بیچ 8 پر دس سے سولہ گیگا بائٹس کا دلیل یہ ہے: ایک 24 GB کارڈ اس کے علاوہ ڈیٹا لوڈر کو بھی فٹ کرتا ہے۔ AY-Robots SmolVLA کو RTX 4090 یا کسی بھی 24 GB کارڈ پر رکھتا ہے، کم از کم 30 ایپیسوڈز، LeRobot v3.0 ڈیٹا، 245 ms فی ایکشن سٹیپ۔ کرائے پر، یہ 0.30 سے 0.60 USD فی گھنٹہ کے حساب سے 2 سے 5 گھنٹے بنتے ہیں، تقریباً 1 سے 3 USD فی فائن ٹیوننگ رن، 80 GB ٹیر پر GR00T اور Pi0.5 کو درکار 4 سے 12 USD کے مقابلے میں (قیمتوں کا تعین)۔ ایک ناکام SmolVLA رن ایک کافی ہے؛ ایک ناکام GR00T رن، دوپہر کا کھانا ہے۔

مرحلہ 0: ڈیٹا سیٹ رن کا فیصلہ کرتا ہے، نہ کہ فلیگز

اگر ریکارڈنگ خراب ہے تو نیچے کچھ بھی اہمیت نہیں رکھتا۔ LeRobot SmolVLA صفحہ واضح ہے: حوالہ ڈیٹا سیٹ 5 کیوب پوزیشنز پر 50 ایپی سوڈز پر مشتمل تھا، ہر پوزیشن پر 10، اور 25 ایپی سوڈز پر وہی کام بری طرح انجام دیا گیا۔ ہر تغیر کی تکرار عمومی بناتی ہے، خام ایپی سوڈ کی گنتی نہیں۔ کبھی ریکارڈ نہیں کیا؟ یہاں سے شروع کریں اپنا پہلا ڈیٹا سیٹ ریکارڈ کریں کے ساتھ ڈیسک ٹاپ کلائنٹ، جو ایک ٹیلی آپریشن سیشن سے LeRobot فارمیٹ لکھتا ہے، یا ڈیٹا سیٹ ڈائریکٹری سے ایک ادھار لیں۔

• AY-Robots پر کم از کم 30 ایپی سوڈز، LeRobot ریفرنس ریسیپی کے لیے تقریباً 50۔
• ہر وہ تغیر جو آپ رول آؤٹ پر توقع کرتے ہیں، کئی بار دہرایا جائے۔
• ایک ٹاسک سٹرنگ، ریکارڈ اور رول آؤٹ کے وقت یکساں طور پر لکھی جائے۔ ماڈل اس متن پر مشروط ہے۔
• مستقل کیمرے۔ ریکارڈنگ اور رول آؤٹ کے درمیان منتقل کیا گیا کیمرہ سب سے عام وجہ ہے کہ ایک صاف لاس کرو ایک بے حرکت بازو دیتا ہے۔
• ایک ایسا تغیر جسے آپ نے کبھی تربیت نہیں دی، تاکہ آپ کے پاس جانچنے کے لیے کچھ ایماندارانہ ہو۔

# v2.1 -> v3.0: aggregates per-episode files into shards and writes the episode offsets
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=${HF_USER}/so100_pick_place

اس بارے میں مزید یہاں ہے اعلیٰ معیار کا VLA تربیتی ڈیٹا کیسے جمع کیا جائے۔ مختصر ورژن: ایک کام کے 30 سے 50 صاف ایپی سوڈز، جان بوجھ کر تغیر کے ساتھ، تین کے 200 لاپرواہ ایپی سوڈز کو اس فرق سے ہرا دیتے ہیں جسے کوئی ہائپر پیرامیٹر بند نہیں کر سکتا۔

lerobot 0.6.1 انسٹال کریں

# LeRobot needs Python 3.12 or newer as of 0.6.x
conda create -y -n lerobot python=3.12
conda activate lerobot

# TorchCodec decodes the dataset videos and wants ffmpeg
conda install ffmpeg -c conda-forge

# Base package is deliberately thin; extras pull the rest
pip install 'lerobot[smolvla,training,core_scripts]'

# Sanity check: prints the lerobot version, the GPU torch sees, and the console scripts you got
lerobot-info

بنیادی lerobot انسٹال پتلا ہے اور بھاری انحصار کو اضافی پیکجز کے پیچھے رکھتا ہے: smolvla ٹرانسفارمرز، num2words اور accelerate شامل کرتا ہے، training ڈیٹا سیٹ اسٹیک اور wandb، core_scripts ہارڈویئر اور ویژولائزیشن کے انحصار۔ لینکس پر انسٹالیشن کا راستہ آپ کے CUDA وہیل کا بھی تعین کرتا ہے: PyPI کا ڈیفالٹ cu130 وہیل ہے جس میں ڈرائیور کی کم از کم حد 580.65 ہے، لہذا پرانے ڈرائیور پر پہلے cu128 انڈیکس سے ٹارچ انسٹال کریں، پھر lerobot۔

ٹریننگ رن، کمانڈ بہ کمانڈ

1. 1
   ہب کے خلاف تصدیق کریں

   بیس چیک پوائنٹ ہب سے آتا ہے، اور آپ کا ڈیٹا سیٹ بھی شاید وہیں سے آتا ہے۔

   bash

   hf auth login

2. 2
   آپشنز کو ایک بار پڑھیں

   پائپ لائن اور پالیسی کنفگ کا ہر فیلڈ ایک فلیگ ہے۔ سورس میں گہرائی میں جانے سے پہلے اسے سرسری طور پر دیکھ لیں۔

   bash

   lerobot-train --help

3. 3
   فائن ٹیون شروع کریں

   دستاویزات کی مثال ایک A100 پر بیچ 64 چلاتی ہے؛ کمپیوٹ گائیڈ کا اپنا A100 40 GB اینکر بیچ 16 ہے، اور 8، 24 GB کے برابر ہے۔ یہاں جان بوجھ کر کوئی شیڈیولر فلیگ نہیں ہے، نیچے دیکھیں۔

   bash

   lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/so100_pick_place \
     --batch_size=8 \
     --steps=20000 \
     --save_freq=2000 \
     --log_freq=200 \
     --seed=1000 \
     --output_dir=outputs/train/smolvla_pick_place \
     --job_name=smolvla_pick_place \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   صرف لاس نہیں، لاگ لائن پڑھیں

   ہر --log_freq سٹیپس پر lerobot loss, grdn, lr, updt_s, data_s, smp/s اور، CUDA پر، mem_gb پرنٹ کرتا ہے۔ mem_gb بتاتا ہے کہ آیا بیچ فٹ ہوتا ہے، lr بتاتا ہے کہ آیا شیڈیول کم ہو رہا ہے، اور data_s کا updt_s کے قریب آنا اس بات کا مطلب ہے کہ ڈیٹا لوڈر رکاوٹ ہے، نہ کہ GPU۔

   bash

   # if data_s creeps toward updt_s
   lerobot-train ... --num_workers=8

5. 5
   چیک پوائنٹس جمع کریں جن کا آپ موازنہ کر سکیں

   save_freq کا ڈیفالٹ 20000 ہے، لہذا 20000 سٹیپ کا رن ایک چیک پوائنٹ چھوڑتا ہے اور اس کے مقابلے کے لیے کچھ نہیں۔ اسے 2000 پر سیٹ کریں۔ ہب پر پش کرنے کے لیے --policy.repo_id کی ضرورت ہے۔

   bash

   --save_freq=2000 \
   --policy.repo_id=${HF_USER}/smolvla_pick_place \
   --save_checkpoint_to_hub=true

6. 6
   اگر مشین بند ہو جائے تو دوبارہ شروع کریں

   --config_path کو چیک پوائنٹ کے ساتھ موجود train_config.json کی طرف اشارہ کریں۔ lerobot کسی موجودہ output_dir میں شروع ہونے سے انکار کرتا ہے جب تک کہ آپ دوبارہ شروع نہ کر رہے ہوں، لہذا آپ غلطی سے کسی رن کو اوور رائٹ نہیں کر سکتے۔

   bash

   lerobot-train \
     --config_path=<path to the saved train_config.json> \
     --resume=true

وہ فلیگز جو دراصل نتائج کو تبدیل کرتے ہیں

وہ ڈیفالٹس جو آپ کو ورثے میں ملتے ہیں اگر آپ کچھ نہیں چھوتے

ایک کنفگ lerobot میں اپنا آپٹیمائزر اور شیڈولر پری سیٹ رکھتا ہے، اور جب تک آپ use_policy_training_preset=false سیٹ نہیں کرتے، وہ پری سیٹس غالب رہتے ہیں۔ SmolVLA ٹریننگ کے بارے میں لوگ جو آدھے سوال پوچھتے ہیں ان کا جواب ایک ایسے ڈیفالٹ سے ملتا ہے جس کے بارے میں انہیں معلوم نہیں تھا۔

وہ دو لائنیں جو لوگوں کو حیران کرتی ہیں وہ ہیں freeze_vision_encoder اور train_expert_only، دونوں درست۔ باکس سے باہر آپ تقریباً 100 M پیرامیٹرز کو تربیت دیتے ہیں، 450 M کو نہیں، یہی وجہ ہے کہ یہ 24 GB پر فٹ ہو جاتا ہے۔ LeRobot کا اپنا ریفرنس رن چار-GPU H100 کلسٹر پر دونوں کو غلط کر دیتا ہے؛ ایک 24 GB کارڈ پر یہ ایک ورکنگ رن کو میں بدل دیتا ہے۔

رن میں کتنا وقت لگتا ہے، اور کتنے مراحل کافی ہیں

LeRobot تقریباً 50 ایپیسوڈ ڈیٹا سیٹ پر پانچ ای پوکس کے لیے وال-کلاک اینکرز شائع کرتا ہے، تقریباً 45000 فریمز 30 fps پر۔ دستاویزات کے مطابق، یہ اعداد و شمار صرف اندازے کے لیے ہیں، لیکن یہ ایک گھنٹے اور ایک دن کی توقع کے درمیان فرق ہیں۔

فائن ٹیونڈ پالیسی کو بازو پر دوبارہ چلانا

lerobot-rollout \
  --strategy.type=base \
  --robot.type=so100_follower \
  --robot.port=/dev/ttyACM0 \
  --robot.id=my_follower_arm \
  --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}}" \
  --task="Grasp the cube and put it in the box." \
  --policy.path=${HF_USER}/smolvla_pick_place

فی ایکشن سٹیپ 245 ملی سیکنڈ کو غلط سمجھنا آسان ہے: پالیسی chunk_size = 50 ایکشنز فی فارورڈ پاس خارج کرتی ہے اور ان میں سے n_action_steps = 50 کو انجام دیتی ہے، لہٰذا، آپ اس لاگت کو کتنی بار ادا کرتے ہیں، یہ ان کنٹرولز سے طے ہوتا ہے، نہ کہ سروس کو کتنی بار کمانڈ ملتی ہے۔ یہی وہ ہے جو ایکشن چنکنگ فراہم کرتا ہے، اور یہی وجہ ہے کہ 245 ملی سیکنڈ کا ماڈل 30 ہرٹز بازو کو چلا سکتا ہے۔ جو باقی بچتا ہے وہ چنک کے آخر میں انفرنس لیٹنسی ہے۔

تیسری قطار وہ ہے جسے زیادہ تر تحریریں نظر انداز کر دیتی ہیں۔ غیر ہم وقت انفرنس تقریباً 30 فیصد تیز ہے اور ایک مقررہ ونڈو میں تھرو پٹ کو تقریباً دوگنا کر دیتی ہے، اور مقالہ کامیابی کی شرحوں کو موازنہ کے قابل قرار دیتا ہے، جو اوسطاً ایسا ہی ہے۔ اس کے نیچے، چھانٹنا 70 سے 50 فیصد تک گر گیا جبکہ پک اینڈ پلیس میں 5 کا اضافہ ہوا۔ lerobot 0.6.1 اسی بائنری میں دوسرا لیور رکھتا ہے: --inference.type=rtc رول آؤٹ کو ریئل ٹائم چنکنگ میں تبدیل کرتا ہے، جس کی اسکرپٹ کا اپنا استعمال بلاک سست VLAs، Pi0، Pi0.5 اور SmolVLA کے لیے تجویز کرتا ہے۔

ایک ہی چیک پوائنٹ تک دو راستے

pip install 'lerobot[smolvla,training,core_scripts]'
hf auth login

lerobot-train \
  --policy.path=lerobot/smolvla_base \
  --dataset.repo_id=${HF_USER}/so100_pick_place \
  --batch_size=8 --steps=20000 \
  --save_freq=2000 --seed=1000 \
  --output_dir=outputs/train/smolvla_pick_place \
  --job_name=smolvla_pick_place \
  --policy.device=cuda --wandb.enable=true

جب SmolVLA غلط انتخاب ہو

اس بات کا امتحان کہ آیا SmolVLA پہلی صحیح رن تھی، یہ نہیں کہ آیا اس نے کام کیا، بلکہ یہ کہ آیا ناکامی نے آپ کو کچھ بتایا۔ 60 یا 70 فیصد تک پہنچیں اور ایک بڑا ماڈل اگلا معقول خرچ ہے: ڈیٹا میں سگنل ہوتا ہے۔ 10 فیصد تک پہنچیں اور ایک 3 B ماڈل بھی غالباً 10 فیصد تک پہنچ جائے گا، جو آپ نے بارہ کے بجائے تین ڈالر میں سیکھا۔

مزید خرچ کرنے سے پہلے پڑھنے کے قابل: Pi0.5 بمقابلہ SmolVLA اسی خیال پر مزید صلاحیت کے لیے، اور GR00T N1.7 بمقابلہ SmolVLA NVIDIA کے راستے کے لیے، دونوں 80 GB ٹیر پر 4 سے 12 USD فی رن۔ دوسرا طریقہ، ACT سستا بیس لائن ہے: 80 M پیرامیٹرز، 20 ms فی ایکشن سٹیپ، کوئی زبان کی کنڈیشنگ نہیں۔ یہ پانچوں موجود ہیں پالیسیوں کے صفحے؛ ارینا میں 85 ماڈلز اور 332 بینچ مارک نتائج ہیں۔

کسی بھی چیز کو پیمانے سے پہلے کی چیک لسٹ

1. کیا lr اپنی 2.5e-6 کی نچلی حد تک پہنچ گیا؟ 30000 مراحل سے نیچے lerobot زوال کو دوبارہ پیمانہ کرتا ہے اور سٹارٹ اپ پر ایسا کہتا ہے؛ اس سے اوپر، --policy.scheduler_decay_steps خود سیٹ کریں۔
2. ایک سے زیادہ چیک پوائنٹ، اور --dataset.eval_split کے ساتھ روکے گئے ایپی سوڈز تاکہ ایول لاس کا کوئی مطلب ہو۔
3. کیا پالیسی بالکل حرکت کرتی ہے؟ ایک بے حرکت بازو کے ساتھ گرتے ہوئے نقصان کی مخصوص وجوہات ہیں: نقصان گرتا ہے، پالیسی کچھ نہیں کرتی۔
4. کیا یہ منظر کی تبدیلی سے بچ پاتی ہے؟ اگر نہیں: پالیسی صرف ایک سیٹ اپ میں کام کرتی ہے۔
5. کیا آپ نے سیڈ لکھا تھا؟ lerobot کا ڈیفالٹ 1000 ہے، لہذا دو غیر چھوئے ہوئے رن موازنہ کے قابل رہتے ہیں۔
6. تب ہی: مزید ایپی سوڈز، مزید تغیر، یا ایک بڑا ماڈل۔ اسی ترتیب میں۔

یہ ماڈلز کیوں موجود ہیں اور زبان کے ان پٹ کے ساتھ کیا کرتے ہیں، اس کے لیے، پس منظر ہے؛ اسمبلی کو کے ذریعے چلاتا ہے سے پہلے رن تک۔ مکمل چیک پوائنٹ کے لیے، ؛ اگر بازو کبھی ظاہر نہ ہو، ۔