सानो VLA मोडेलहरू: TinyVLA, SmolVLA र सब-1B केस

लगभग हरेक भिजन-ल्याङ्ग्वेज-एक्शन मोडेल जसको बारेमा लेखिन्छ, त्यसले डेटासेन्टर कार्डको आवश्यकता मान्छ। OpenVLA ७ अर्ब प्यारामिटरको छ। GR00T N1.7 र Pi0.5 करिब ३ अर्ब प्यारामिटरका छन् र फाइन-ट्युन गर्न A100 80 GB चाहिन्छ। यदि तपाईंको डेस्कमा भएको कार्ड 4090 हो भने, त्यो वर्गको मोडेल पहुँच बाहिर छ।

दुईवटा पेपरले यसको आवश्यकता नभएको तर्क गर्छन्। TinyVLA (arXiv 2409.12514, फेब्रुअरी २०२५ मा IEEE Robotics and Automation Letters द्वारा स्वीकृत) ले ४०० M देखि १.३ B ब्याकबोन र डिफ्युजन एक्शन हेडबाट VLA बनाउँछ। SmolVLA (arXiv 2506.01844, २ जुन २०२५ मा पेश गरिएको) ले खुला वजन, खुला डेटा र एउटा उपभोक्ता कार्डमा चल्ने स्क्रिप्टसहित ४५० M प्यारामिटरहरू प्रदान गर्छ। यहाँ दुवैले के मापन गरे, र जहाँ १ अर्ब भन्दा कमको तर्क टिक्न छोड्छ।

वास्तवमा सानो VLA केलाई मानिन्छ

मोडेल कार्डमा प्यारामिटर गणना एउटा मात्र संख्या होइन। यसको अर्थ कुल तौल, अनुमानको समयमा लोड गरिएका तौल, वा ग्रेडियन्ट प्राप्त गर्ने तौल हुन सक्छ । TinyVLA ले दुवै रिपोर्ट गर्छ, र भिन्नता ठूलो छ: TinyVLA-H कुल 1.3 B छ तर 143 M तालिम योग्य छ, किनभने भिजन टावर र धेरैजसो भाषा मोडेल स्थिर रहन्छन् जबकि LoRA एडाप्टरहरू र कार्य हेड चल्छन्। पेपरले तालिम योग्य हिस्सा लगभग 5 प्रतिशतमा राखेको छ।

दुई पङ्क्तिहरूमा बहस गर्न लायक छ। लगभग 80 M मा यहाँका अन्य सबै भन्दा सानो छ तर यसमा कुनै भाषा मोडेल छैन, त्यसैले यो VLA होइन: यसले एउटा कार्य सिक्छ र अर्को गर्न भन्न सकिँदैन। 27 M मा T5-Base टेक्स्ट एन्कोडर मार्फत कन्डिसन गरिएको छ, LLM ब्याकबोन मार्फत होइन। राम्रो आधारभूत, दुवैले लेबलले संकेत गरेको निर्देशन पालना दिँदैन।

TinyVLA: गति हेडबाट आउँछ, ब्याकबोनबाट होइन

स्पष्ट पढाइ यो हो कि उनीहरूले भाषा मोडेललाई सानो बनाए, त्यसैले यो छिटो भयो। पेपरको एब्लेसनले अन्यथा भन्छ। OpenVLA को 7 B ब्याकबोनलाई लगभग 1 B ब्याकबोनले बदल्दा प्रति-कार्य भविष्यवाणी 292 ms बाट 140 ms मा घट्यो, जुन 2x को लाभ हो। TinyVLA-H, समान प्यारामिटर गणनामा, उही कार्डमा 14 ms मा चल्छ। बाँकी 10x कार्य हेड हो।

OpenVLA ले भाषा मोडेल हेड मार्फत, प्रति कार्य आयाम एक, स्वतः-पुनरावर्ती रूपमा कार्यहरूलाई विच्छेदीकृत टोकनको रूपमा उत्सर्जन गर्दछ। TinyVLA ले एक डिफ्युजन डिकोडर जोड्छ जसले सम्पूर्ण खण्डलाई एकै पटक उत्पादन गर्दछ। तालिका V ले TinyVLA-H मा वास्तुकला राख्छ र उही पाँच वास्तविक-रोबोट कार्यहरूमा हेड मात्र साट्छ। यो तर्कको लागि दुवै पेपरमा सबैभन्दा स्पष्ट प्रमाण हो फ्लो म्याचिङ नीतिहरूले बनाउँछन्, र कारण Pi0 टोकन डिकोडिङबाट टाढा हट्यो.

TinyVLA ले के स्कोर गर्यो

द्वि-म्यानुअल पङ्क्तिमा पेपरले आफैंले दिएको एक नीरस व्याख्या छ: OpenVLA Open X-Embodiment मा पूर्व-प्रशिक्षित छ, जसमा पूर्ण रूपमा एकल-हात डेटा समावेश छ, त्यसैले दुई-हात कार्य स्थान वितरण बाहिर छ र यसले शून्य स्कोर गर्छ। डिफ्युजन नीति बेसलाइनले ती तीन कार्यहरू मध्ये दुईमा TinyVLA-H लाई हराउँछ। पृष्ठभूमि Open X-Embodiment को लेख.

TinyVLA रेपो, अगस्ट 2026 सम्म

पेपर राम्रो छ। कोड एक अनुसन्धान ड्रप हो। भण्डार github.com/liyaxuanliyaxuan/TinyVLA हो; यसको README ले कोड रिलीज मिति 17 फेब्रुअरी 2025 र अन्तिम कमिट 11 मार्च 2025 देखाउँछ। पेपर पुनरुत्पादन गर्नका लागि ठीक छ, तर यदि तपाईंलाई एक मर्मत गरिएको पुस्तकालय चाहिएको भए यो समस्या हो।

git clone https://github.com/liyaxuanliyaxuan/TinyVLA
conda create -n tinyvla python=3.10 -y
conda activate tinyvla
pip install --upgrade pip
pip install -r requirements.txt
cd policy_heads && pip install -e .
cd ../llava-pythia && pip install -e .

TinyVLA ले LeRobot डेटासेटहरू पनि पढ्दैन। यसको ढाँचा ACT-शैली HDF5 हो: action, language_raw, र multi-view images, joint_positions, qpos र qvel सहितको एउटा observations समूह। भण्डारले RLDS इनपुटको लागि data_utils/rlds_to_h5py.py समावेश गर्दछ, र प्रत्येक कार्यलाई aloha_scripts/constants.py मा यसको dataset_dir, episode_len र camera_names सहित म्यानुअल रूपमा दर्ता गरिएको छ। यदि तपाईंको एपिसोडहरू lerobot वा डेस्कटप क्लाइन्ट बाट आएका हुन् भने, रूपान्तरणको जिम्मेवारी तपाईंको हो।

# scripts/train.sh, the real flags from the repository
ACTION_HEAD=droid_diffusion

deepspeed --master_port 29600 --num_gpus=8 --num_nodes=1 ./train_tinyvla.py \
  --deepspeed scripts/zero2.json \
  --lora_enable True \
  --lora_module 'vit llm' \
  --lora_r 64 \
  --lora_alpha 256 \
  --non_lora_lr 2e-5 \
  --task_name "example_task_config" \
  --model_name_or_path /path/to/pretrained_vlm \
  --freeze_vision_tower True \
  --freeze_backbone True \
  --bf16 True \
  --max_steps 10000 \
  --per_device_train_batch_size 32 \
  --gradient_accumulation_steps 1 \
  --learning_rate 2e-4 \
  --lr_scheduler_type "cosine" \
  --warmup_ratio 0.005 \
  --save_steps 1000 \
  --action_head_type $ACTION_HEAD \
  --use_state True \
  --window_size 6

• --num_gpus=8 ले आठ-कार्ड नोड मान्छ। यसलाई 1 मा सेट गर्नुहोस् र ब्याच साइजलाई 32 भन्दा तल झार्नुहोस्। कुनै पनि एकल-GPU भेरियन्ट अपस्ट्रिममा पठाइएको छैन, त्यसैले यो कमाण्ड 4090 मा जस्ताको तस्तै चलाउन सकिँदैन।
• --deepspeed scripts/zero2.json ले शीर्ष-स्तरको स्क्रिप्ट डाइरेक्टरीमा नभएको फाइललाई देखाउँछ। DeepSpeed कन्फिगहरू llava-pythia/scripts/zero2.json मा पठाइन्छ। तपाईंको पहिलो रन गर्नु अघि पथ ठीक गर्नुहोस्।
• README ले आउटपुट डाइरेक्टरीको नाममा llava_pythia समावेश गर्नुपर्नेछ, साथै lora यदि LoRA सक्षम छ भने।
• ब्याकबोन छुट्टै डाउनलोड हो: lesjie/Llava-Pythia-400M, -700M वा -1.3B। lerobot/smolvla_base मा देखाएजस्तै तपाईंले नीति देखाउने कुनै एकल आधार चेकपोइन्ट छैन।

SmolVLA: उप-1 B मोडेल जुन तपाईं आज दिउँसो चलाउन सक्नुहुन्छ

SmolVLA ले मर्मत गरिएको पुस्तकालय भित्र उही तर्क गर्दछ। यो SmolVLM2-500M-Video-Instruct ब्याकबोनमा 450 M प्यारामिटरहरू हो, र दक्षता configuration_smolvla.py बाट पढ्न सकिने सेटिङहरूबाट आउँछ, सानो भएको दाबीबाट होइन।

प्रिट्रेनिङले 481 सामुदायिक LeRobot डेटासेट, 22.9 K एपिसोड र 10.6 M फ्रेमहरू 4 GPU मा, 256 को ग्लोबल ब्याचमा 200000 स्टेपहरू प्रयोग गर्‍यो; पेपरले सम्पूर्ण परियोजनालाई लगभग 30 K GPU घण्टामा राखेको छ। एउटा संख्या हेर्नुहोस्: Hugging Face लन्च ब्लगले 487 क्युरेट गरिएका डेटासेटहरू भन्छ जहाँ पेपरको तालिकाले 481 भन्छ। हामी पेपरको अंक प्रयोग गर्छौं र असहमतिलाई झण्डा लगाउँछौं।

एउटा संयोगले मद्दत गर्छ: SmolVLA पेपरको Meta-World तालिकाले TinyVLA को आफ्नै प्रकाशित संख्याहरूलाई आधारभूत रूपमा बोक्छ, त्यसैले एक पटक दुवै मोडेलहरू एउटै तालिकामा छन्, SmolVLA-0.45B 57.3 मा TinyVLA-H 31.6 को विरुद्धमा। यसले SmolVLA को प्रशिक्षण Pi0 भन्दा लगभग 40 प्रतिशत छिटो र 6 गुणा कम मेमोरीमा भएको पनि रिपोर्ट गर्छ। यो सबै SmolVLA लेखकहरूबाट आएको हो; एरेना प्रविष्टि प्रत्येक मानलाई यसको स्रोतमा जोड्छ।

SmolVLA ले आफ्नो समय कहाँ खर्च गर्छ

AY-Robots ले SmolVLA लाई प्रति कार्य चरण 245 ms मा र ACT लाई 20 ms मा नीति सूची मा सूचीबद्ध गर्दछ। TinyVLA ले प्रति कार्य भविष्यवाणी 14 ms रिपोर्ट गर्छ। यी संख्याहरू तुलनायोग्य छैनन्, र तिनीहरूलाई तुलनायोग्य मानेर व्यवहार गर्नु यस विषयमा सबैभन्दा सामान्य गल्ती हो: कसैले एक फर्वार्ड पासको समय लिन्छन्, कसैले त्यो पासलाई एक खण्डमा विभाजन गर्छन् जब कार्य चंकिङ ले यसलाई अमोर्टाइज गर्छ।

• SmolVLA ले प्रति फर्वार्ड पास 50 कार्यहरू उत्सर्जन गर्छ र सबै 50 लाई कार्यान्वयन गर्छ। वास्तविक रोबोटहरूमा पेपरले प्रयोग गर्ने 30 fps मा, एक अनुमानले लगभग 1.7 सेकेन्डको गति समेट्छ।
• एसिन्क्रोनस अनुमानले अर्को खण्ड गणना गर्छ जबकि हालको खण्ड अझै कार्यान्वयन भइरहेको हुन्छ: 9.7 s औसत कार्य सम्पन्नता 13.75 s सिन्क्रोनसको तुलनामा, लगभग 30 प्रतिशत छिटो, र निश्चित 60-सेकेन्डको विन्डोमा 9 को तुलनामा 19 पिक-एन्ड-प्लेस चक्र।
• सफलता दरहरू राम्रो हुनुको सट्टा तुलनायोग्य थिए, 78.3 सिन्क्रोनस 73.3 एसिन्क्रोनसको तुलनामा। एसिन्कले थ्रुपुट किन्छ, शुद्धता होइन।
• चंकिङले कम्प्युट विलम्बता लुकाउँछ, नेटवर्क विलम्बता होइन, र यसले नीतिलाई कम प्रतिक्रियाशील बनाउँछ किनभने यो 50 कार्यहरूमा प्रतिबद्ध छ।

एउटा उपभोक्ता कार्डमा SmolVLA को फाइन-ट्यूनिङ

म्यानुअल मार्ग, lerobot 0.6.1 मा, २३ अगस्ट २०२६ सम्मको हालको PyPI रिलीज। तलका सबै कुरा Hugging Face lerobot SmolVLA डकुमेन्टेसनबाट आएका हुन्, जुन सोही दिन प्राप्त गरिएको थियो; निर्देशित संस्करण अझ सरल छ।

1. 1
   smolvla अतिरिक्तको साथ lerobot स्थापना गर्नुहोस्

   SmolVLA निर्भरताहरू ऐच्छिक अतिरिक्त हुन्, आधारभूत स्थापनाको अंश होइनन्। यसलाई स्थापना नगरी नीति प्रकार किन अज्ञात छ भनेर सोच्नु सामान्य आधा घण्टाको बर्बादी हो।

   bash

   git clone https://github.com/huggingface/lerobot.git
   cd lerobot
   pip install -e ".[smolvla]"

2. 2
   पर्याप्त एपिसोडहरू भएको डेटासेट प्राप्त गर्नुहोस्

   कागजातहरूले लगभग ५० एपिसोडहरू सिफारिस गर्छन् र २५ एपिसोडको साथ उही कार्य पर्याप्त नभएको बताउँछन्। AY-Robots ले न्यूनतम ३० मा सेट गर्छ। आफ्नो रेकर्ड गर्नुहोस्, वा डेटासेट डाइरेक्टरी बाट सुरु गर्नुहोस्।

   bash

   # any LeRobotDataset on the Hub works as --dataset.repo_id
   # lerobot/svla_so100_pickplace is the paper's own 50-episode set:
   # 5 cube positions, 10 episodes each

3. 3
   फाइन-ट्यून सुरु गर्नुहोस्

   lerobot गाइडबाट कमाण्ड, अपरिवर्तित। कागजातहरूले २०००० चरणहरू एक A100 मा लगभग ४ घण्टा लाग्ने बताउँछन्। २४ GB कार्डमा, लामो समय लाग्ने अपेक्षा गर्नुहोस् र यसलाई मापन गर्नुहोस्।

   bash

   cd lerobot && lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/mydataset \
     --batch_size=64 \
     --steps=20000 \
     --output_dir=outputs/train/my_smolvla \
     --job_name=my_smolvla_training \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   फिट नभएसम्म ब्याच साइज घटाउनुहोस्

   batch_size=64 एउटा दस्तावेज गरिएको उदाहरण हो, तपाईंको कार्डको बारेमा प्रतिज्ञा होइन। कागजातहरूले लोडिङ समय छोटो रहँदासम्म सानोबाट सुरु गर्न र बढाउन सल्लाह दिन्छन्।

   bash

   lerobot-train --help

5. 5
   आर्ममा चेकपोइन्ट रोल आउट गर्नुहोस्

   उही लाइब्रेरी, एउटा कमाण्ड। वास्तविक-समय चंकिङ फ्ल्यागहरू कागजातहरूमा टिप्पणी गरिएको छ र कम-शक्ति हार्डवेयरमा प्रयोग गर्नका लागि उपयुक्त छन्।

   bash

   lerobot-rollout \
     --strategy.type=base \
     --robot.type=so101_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=my_blue_follower_arm \
     --robot.cameras="{ front: {type: opencv, index_or_path: 8, width: 640, height: 480, fps: 30}}" \
     --task="Grasp a lego block and put it in the bin." \
     --policy.path=HF_USER/FINETUNE_MODEL_NAME

सानो VLA लाई आर्ममा राख्ने दुई तरिकाहरू

जब सानो मोडेल गलत विकल्प हुन्छ

दुवै पेपरहरू सारांशहरू भन्दा यहाँ बढी सतर्क छन्। TinyVLA को असफलता विश्लेषण विशिष्ट छ: 0.4 B भेरियन्टले निर्देशन गलत पढेर तीन पटक असफल भयो, जसलाई लेखकहरूले सानो VLM मा सीमित भाषा बुझाइको कारण मानेका छन्, र त्यो मोड 1.3 B मा हरायो। SmolVLA ले अर्को छेउबाट उही वक्र देखाउँछ: समान वास्तुकलाको 2.25 B संस्करणले LIBERO मा 88.75 र Meta-World मा 68.24 अंक प्राप्त गर्छ, जबकि 0.45 B मोडेलले 87.3 र 57.3 प्राप्त गर्छ।

चलाउन लायक तुलना TinyVLA विरुद्ध SmolVLA होइन। यो SmolVLA विरुद्ध ACT तपाईंको आफ्नै कार्यमा, र SmolVLA पेपर किन भन्ने तर्क हो। कुनै रोबोटिक्स पूर्व-प्रशिक्षण बिना एकल-कार्यमा प्रशिक्षित, SmolVLA ले तीन SO-100 कार्यहरूमा औसत 40.0 अंक प्राप्त गर्यो जहाँ एकल-कार्य ACT ले 48.3 प्राप्त गर्यो। यसलाई 78.3 मा पुर्‍याउने कुरा सामुदायिक पूर्व-प्रशिक्षण र बहु-कार्य प्रशिक्षण हो, वास्तुकला मात्र होइन। SO-101 लेगो कार्यमा, दुवै एकल-कार्यमा, SmolVLA ले जित्छ: वितरणमा 70 विरुद्ध 90। त्यसपछि SmolVLA विरुद्ध Pi0.5 यदि बजेटले अनुमति दिन्छ।

तपाईंले कार्य गर्न सक्ने निर्णय तालिका

अन्तिम पङ्क्तिको लागि, लाइभ आर्म एउटा भौतिक SO-100 स्ट्रिम गर्छ जसलाई तपाईं खाता बिना ब्राउजरबाट चलाउन सक्नुहुन्छ, र सुरु गर्ने तीन तरिकाहरू बाँकीलाई समेट्छ। SO-100 यहाँ सन्दर्भ आर्म हो, जसको पार्टपुर्जामा लगभग 110 देखि 150 EUR लाग्छ, साथमा एउटा पूर्ण सेटअप गाइड।

सब-1 B मोडेलहरू पछि के आउँछ

प्यारामिटर गणना घटाउनु VLA लाई सस्तो बनाउने एउटा तरिका हो र यो स्पष्ट रूपमा जित्ने तरिका होइन। OpenVLA-OFT (arXiv 2502.19645) ले 7 B ब्याकबोन राख्छ र कार्यहरू कसरी डिकोड गरिन्छ भन्नेमा मात्र परिवर्तन गर्छ, जसले कार्य उत्पादन थ्रुपुटमा 26 गुणा वृद्धि र LIBERO 76.5 बाट 97.1 प्रतिशतमा बढेको रिपोर्ट गर्छ। BitVLA (arXiv 2506.07530) ले 1-बिट BitNet b1.58 2B4T ब्याकबोनको प्रत्येक वजनलाई टर्नरी बनाउँछ, जसले 11.0 गुणा कम मेमोरी र 4.4 गुणा कम एन्ड-टु-एन्ड विलम्बता रिपोर्ट गर्छ जबकि पूर्ण-परिशुद्धता OpenVLA-OFT सँग मेल खान्छ। X-VLA-0.9B (arXiv 2510.10274) फ्लो म्याचिङको साथ 1 B लाइनमा बस्छ।

सामान्य कुरा: कार्य डिकोडर, भाषा मोडेल होइन, जहाँ विलम्बता रहन्छ। नीतिले कति प्यारामिटरहरू छन् भनेर सोध्नु अघि यसले कसरी कार्यहरू उत्सर्जन गर्छ भनेर सोध्नुहोस्। एरेना मा 85 मोडेल र 332 परिणामहरू छन्, प्रत्येक यसको स्रोतसँग जोडिएको छ; यसको विस्तृत सिंहावलोकन हाम्रो VLA परिचय मा छ।