Kichik VLA Modellar: TinyVLA, SmolVLA va 1 milliarddan kam holat

Deyarli har bir ko'rish-til-harakat modeli haqida yoziladiganlar ma'lumot markazi kartasini talab qiladi. OpenVLA 7 milliard parametrdan iborat. GR00T N1.7 va Pi0.5 taxminan 3 milliard parametrdan iborat bo'lib, nozik sozlash uchun A100 80 GB talab qiladi. Agar stolingizdagi karta 4090 bo'lsa, bu turdagi modelga erishish imkonsiz.

Ikki maqola buni talab qilmasligingizni ta'kidlaydi. TinyVLA (arXiv 2409.12514, 2025-yil fevral oyida IEEE Robotics and Automation Letters tomonidan qabul qilingan) 400 milliondan 1.3 milliardgacha bo'lgan tayanch va diffuziya harakat boshidan VLA yaratadi. SmolVLA (arXiv 2506.01844, 2025-yil 2-iyun kuni taqdim etilgan) ochiq og'irliklar, ochiq ma'lumotlar va bitta iste'molchi kartasida ishlaydigan skript bilan 450 million parametrni taqdim etadi. Mana ikkalasi ham nimani o'lchaganligi va 1 milliarddan kam argumentning o'z kuchini yo'qotadigan joyi.

Kichik VLA deb nimani hisoblash mumkin

Model kartasidagi parametrlar soni bitta raqam emas. Bu umumiy vaznlar, inferensiya vaqtida yuklangan vaznlar yoki gradientlarni qabul qiladigan vaznlarni anglatishi mumkin . TinyVLA ikkalasini ham hisobot qiladi va farq katta: TinyVLA-H jami 1.3 B, ammo 143 M o'qitilishi mumkin, chunki ko'rish minorasi va til modelining ko'p qismi muzlatilgan holda qoladi, LoRA adapterlari va harakat boshi esa harakatlanadi. Maqolada o'qitilishi mumkin bo'lgan ulush taxminan 5 foizni tashkil etadi.

Ikki qator bahslashishga arziydi. taxminan 80 M bilan bu yerdagi boshqa hamma narsadan kichikroq, ammo til modeli yo'q, shuning uchun u VLA emas: u bitta vazifani o'rganadi va unga boshqa vazifani bajarish buyurilmaydi. 27 M bilan T5-Base matn kodlovchi orqali shartlangan, LLM tayanchi orqali emas. Yaxshi bazaviy modellar, ammo ikkalasi ham yorliqda nazarda tutilgan ko'rsatmalarga rioya qilishni ta'minlamaydi.

TinyVLA: tezlik orqa miya (backbone) dan emas, balki bosh (head) dan keladi

Ochiq-oydin tushuncha shuki, ular til modelini kichikroq qilib, uni tezlashtirishgan. Maqolaning ablasyon tahlili boshqacha deydi. OpenVLA ning 7 B orqa miyasini taxminan 1 B ga almashtirish har bir harakatni bashorat qilishni 292 ms dan 140 ms ga qisqartirdi, bu 2 barobar tezlashishdir. TinyVLA-H, shunga o'xshash parametrlar soniga ega bo'lib, xuddi shu kartada 14 ms da ishlaydi. Qolgan 10 barobar tezlik harakat boshidan (action head) keladi.

OpenVLA harakatlarni til modeli boshi orqali diskretlashtirilgan tokenlar sifatida, har bir harakat o'lchami uchun bittadan, avtoregressiv tarzda chiqaradi. TinyVLA butun qismni bir martada ishlab chiqaradigan diffuziya dekoderini biriktiradi. V jadvali TinyVLA-H dagi arxitekturani ko'rsatadi va xuddi shu beshta haqiqiy robot vazifasida faqat boshni almashtiradi. Bu har ikkala maqoladagi dalil uchun eng aniq dalildir oqim moslashuvi siyosatlari yaratadi va buning sababi Pi0 token dekodlashdan voz kechdi.

TinyVLA qanday natija ko'rsatdi

Ikki qo'lli qatorning zerikarli tushuntirishi maqolaning o'zida berilgan: OpenVLA Open X-Embodimentda oldindan o'qitilgan bo'lib, u butunlay bir qo'lli ma'lumotlardan iborat, shuning uchun ikki qo'lli harakat maydoni taqsimotdan tashqarida va u nol ball oladi. Diffuziya siyosati bazasi TinyVLA-H ni ushbu uchta vazifaning ikkitasida mag'lub etadi. Qo'shimcha ma'lumotlar Open X-Embodiment haqidagi maqolada.

TinyVLA repozitoriysi, 2026-yil avgust holatiga ko'ra

Maqola yaxshi. Kod tadqiqot uchun chiqarilgan. Repozitoriy github.com/liyaxuanliyaxuan/TinyVLA; uning README faylida kodning chiqarilish sanasi 2025-yil 17-fevral va oxirgi kommit 2025-yil 11-mart deb ko'rsatilgan. Maqolani qayta ishlab chiqarish uchun yaxshi, ammo agar siz doimiy qo'llab-quvvatlanadigan kutubxona istasangiz, bu muammo bo'lishi mumkin.

git clone https://github.com/liyaxuanliyaxuan/TinyVLA
conda create -n tinyvla python=3.10 -y
conda activate tinyvla
pip install --upgrade pip
pip install -r requirements.txt
cd policy_heads && pip install -e .
cd ../llava-pythia && pip install -e .

TinyVLA shuningdek o'qimaydi LeRobot ma'lumotlar to'plamlari. Uning formati ACT-uslubidagi HDF5: action, language_raw va ko'p ko'rinishli tasvirlar, joint_positions, qpos va qvel bilan observations guruhi. Repozitoriy RLDS kiritish uchun data_utils/rlds_to_h5py.py ni o'z ichiga oladi va har bir vazifa aloha_scripts/constants.py faylida dataset_dir, episode_len va camera_names bilan qo'lda ro'yxatdan o'tkaziladi. Agar sizning epizodlaringiz lerobotdan yoki ish stoli mijozidan kelgan bo'lsa, konvertatsiya qilish sizning zimmangizda.

# scripts/train.sh, the real flags from the repository
ACTION_HEAD=droid_diffusion

deepspeed --master_port 29600 --num_gpus=8 --num_nodes=1 ./train_tinyvla.py \
  --deepspeed scripts/zero2.json \
  --lora_enable True \
  --lora_module 'vit llm' \
  --lora_r 64 \
  --lora_alpha 256 \
  --non_lora_lr 2e-5 \
  --task_name "example_task_config" \
  --model_name_or_path /path/to/pretrained_vlm \
  --freeze_vision_tower True \
  --freeze_backbone True \
  --bf16 True \
  --max_steps 10000 \
  --per_device_train_batch_size 32 \
  --gradient_accumulation_steps 1 \
  --learning_rate 2e-4 \
  --lr_scheduler_type "cosine" \
  --warmup_ratio 0.005 \
  --save_steps 1000 \
  --action_head_type $ACTION_HEAD \
  --use_state True \
  --window_size 6

• --num_gpus=8 sakkiz kartali tugunni nazarda tutadi. Uni 1 ga o'rnating va paket hajmini 32 dan ancha pastga tushiring. Yuqori oqimda bitta GPU varianti mavjud emas, shuning uchun buyruqni 4090 da so'zma-so'z ishga tushirib bo'lmaydi.
• --deepspeed scripts/zero2.json yuqori darajadagi scripts katalogida bo'lmagan faylga ishora qiladi. DeepSpeed konfiguratsiyalari llava-pythia/scripts/zero2.json manzilida joylashgan. Birinchi ishga tushirishdan oldin yo'lni to'g'rilang.
• README chiqish katalogi nomida llava_pythia ni, agar LoRA yoqilgan bo'lsa, lora ni o'z ichiga olishini talab qiladi.
• Tayanch alohida yuklab olinadi: lesjie/Llava-Pythia-400M, -700M or -1.3B. Siz lerobot/smolvla_base ga ishora qilganingizdek, siyosatni yo'naltiradigan yagona tayanch nazorat nuqtasi yo'q.

SmolVLA: siz bugun tushdan keyin ishga tushirishingiz mumkin bo'lgan 1 B dan kichik model

SmolVLA xuddi shu argumentni saqlanib turgan kutubxona ichida keltiradi. U SmolVLM2-500M-Video-Instruct tayanchida 450 M parametrga ega va samaradorlik kichik bo'lish haqidagi da'vodan ko'ra, configuration_smolvla.py dan o'qishingiz mumkin bo'lgan sozlamalardan kelib chiqadi.

Oldindan o'qitish uchun 481 ta jamoaviy LeRobot ma'lumotlar to'plami, 22.9 K epizod va 10.6 M kadrlar 4 ta GPUda, 256 global paketda 200000 qadam ishlatilgan; maqolada butun loyiha taxminan 30 K GPU soat deb ko'rsatilgan. E'tibor berish kerak bo'lgan bir raqam: Hugging Face ishga tushirish blogida 487 ta tanlangan ma'lumotlar to'plami haqida aytilgan, holbuki maqolaning jadvalida 481 ta deyilgan. Biz maqoladagi raqamdan foydalanamiz va kelishmovchilikni qayd etamiz.

Bir tasodif yordam beradi: SmolVLA maqolasining Meta-World jadvali TinyVLA'ning o'z nashr etilgan raqamlarini asos sifatida olib boradi, shuning uchun bir marta ikkala model ham bitta jadvalda joylashgan, SmolVLA-0.45B 57.3 da TinyVLA-H ga qarshi 31.6 da. Shuningdek, u SmolVLA o'qitishini Pi0 ga qaraganda taxminan 40 foiz tezroq va 6 barobar kamroq xotirada amalga oshirilganligini xabar qiladi. Bularning barchasi SmolVLA mualliflaridan keladi; arena yozuvi har bir qiymatni o'z manbasiga bog'laydi.

SmolVLA vaqtini qayerda sarflaydi

AY-Robots SmolVLA'ni har bir harakat bosqichi uchun 245 ms va ACT ni 20 ms da siyosat katalogida. TinyVLA har bir harakat bashorati uchun 14 ms ni xabar qiladi. Bu raqamlar solishtirib bo'lmaydi va ularni shunday deb hisoblash bu mavzudagi eng keng tarqalgan xatodir: ba'zilar bir marta oldinga o'tishni hisoblaydi, ba'zilar esa uni bir bo'lakka bo'lib, harakatni bo'laklarga bo'lish uni amortizatsiya qilgandan so'ng.

• SmolVLA har bir oldinga o'tishda 50 ta harakatni chiqaradi va barcha 50 tasini bajaradi. Maqolada haqiqiy robotlarda ishlatiladigan 30 kadr/sek tezlikda, bitta xulosa taxminan 1.7 soniya harakatni qamrab oladi.
• Asinxron xulosa joriy bo'lak hali bajarilayotgan paytda keyingi bo'lakni hisoblaydi: o'rtacha vazifa bajarilishi 9.7 s sinxron 13.75 s ga qarshi, taxminan 30 foiz tezroq, va belgilangan 60 soniyalik oynada 19 ta olish-qo'yish sikli 9 taga qarshi.
• Muvaffaqiyat darajalari yaxshiroq emas, balki solishtirish mumkin edi, 78.3 sinxron 73.3 asinxron ga qarshi. Asinxronlik aniqlikni emas, balki o'tkazuvchanlikni oshiradi.
• Bo'laklarga bo'lish hisoblash kechikishini yashiradi, tarmoq kechikishini emas, va u siyosatni kamroq reaktiv qiladi, chunki u 50 ta harakatga sodiqdir.

SmolVLA ni bitta iste'molchi kartasida nozik sozlash

Qo'lda yo'l, lerobot 0.6.1 da, 2026-yil 23-avgust holatiga ko'ra joriy PyPI relizi. Quyidagi barcha ma'lumotlar Hugging Face lerobot SmolVLA hujjatlaridan, xuddi shu kuni olingan; yo'naltirilgan versiya yumshoqroqdir.

1. 1
   lerobot'ni smolvla qo'shimchasi bilan o'rnating

   SmolVLA bog'liqliklari ixtiyoriy qo'shimcha bo'lib, asosiy o'rnatishning bir qismi emas. Ularsiz o'rnatish va keyin siyosat turi nima uchun noma'lum ekanligini o'ylab o'tirish odatiy yarim soatlik yo'qotishdir.

   bash

   git clone https://github.com/huggingface/lerobot.git
   cd lerobot
   pip install -e ".[smolvla]"

2. 2
   Yetarli epizodlarga ega ma'lumotlar to'plamini oling

   Hujjatlarda 50 ga yaqin epizod tavsiya etiladi va xuddi shu vazifa 25 ta epizod bilan yetarli emasligi aytiladi. AY-Robots minimal miqdorni 30 ga belgilaydi. O'zingiznikini yozib oling yoki ma'lumotlar to'plami katalogidan boshlang.

   bash

   # any LeRobotDataset on the Hub works as --dataset.repo_id
   # lerobot/svla_so100_pickplace is the paper's own 50-episode set:
   # 5 cube positions, 10 episodes each

3. 3
   Nozik sozlashni boshlang

   lerobot qo'llanmasidagi buyruq, o'zgartirilmagan. Hujjatlarda 20000 qadam bitta A100 da taxminan 4 soatni tashkil etishi aytilgan. 24 GB kartada uzoqroq vaqt kutishingiz va uni o'lchashingiz kerak.

   bash

   cd lerobot && lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/mydataset \
     --batch_size=64 \
     --steps=20000 \
     --output_dir=outputs/train/my_smolvla \
     --job_name=my_smolvla_training \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   Mos kelguncha batch hajmini kamaytiring

   batch_size=64 hujjatlashtirilgan misol bo'lib, kartangiz haqida va'da emas. Hujjatlarda kichikdan boshlash va yuklash vaqtlari qisqa bo'lib qolguncha oshirib borish tavsiya etiladi.

   bash

   lerobot-train --help

5. 5
   Nazorat nuqtasini robot qo'liga joylashtiring

   Xuddi shu kutubxona, bitta buyruq. Real vaqt rejimida bo'laklarga bo'lish flaglari hujjatlarda izoh qilingan va ular kam quvvatli apparatda foydalanish uchun mo'ljallangan.

   bash

   lerobot-rollout \
     --strategy.type=base \
     --robot.type=so101_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=my_blue_follower_arm \
     --robot.cameras="{ front: {type: opencv, index_or_path: 8, width: 640, height: 480, fps: 30}}" \
     --task="Grasp a lego block and put it in the bin." \
     --policy.path=HF_USER/FINETUNE_MODEL_NAME

Kichik VLA'ni robot qo'liga o'rnatishning ikki yo'li

Kichik model notoʻgʻri tanlov boʻlganda

Ikkala maqola ham bu yerda xulosalardan koʻra ehtiyotkorroq. TinyVLA'ning nosozlik tahlili aniq: 0.4 B varianti koʻrsatmani notoʻgʻri oʻqish orqali uch marta muvaffaqiyatsizlikka uchradi, mualliflar buni kichikroq VLM'dagi cheklangan tilni tushunish bilan bogʻlashadi va bu rejim 1.3 B'da yoʻqoldi. SmolVLA xuddi shu egri chiziqni boshqa tomondan koʻrsatadi: bir xil arxitekturaning 2.25 B versiyasi LIBERO'da 88.75 va Meta-World'da 68.24 ball toʻplaydi, 0.45 B model uchun esa 87.3 va 57.3 ball.

Oʻtkazishga arziydigan taqqoslash TinyVLA'ni SmolVLA'ga qarshi emas. Bu SmolVLA'ni ACT sizning oʻz vazifangizda, va SmolVLA maqolasi buning sababini tushuntiradi. Robototexnika boʻyicha oldindan oʻqitishsiz yagona vazifada oʻqitilgan SmolVLA uchta SO-100 vazifasida oʻrtacha 40.0 ball toʻpladi, yagona vazifali ACT esa 48.3 ballga erishdi. Uni 78.3 ga koʻtaradigan narsa faqat arxitektura emas, balki jamoaviy oldindan oʻqitish va koʻp vazifali oʻqitishdir. SO-101 lego vazifasida, ikkalasi ham yagona vazifali boʻlib, SmolVLA gʻalaba qozonadi: tarqatishda 70 ga qarshi 90. Keyin SmolVLA'ni Pi0.5 agar byudjet imkon bersa.

Siz harakat qilishingiz mumkin bo'lgan qarorlar jadvali

Oxirgi qator uchun, jonli qo'l brauzerdan hisobsiz boshqarishingiz mumkin bo'lgan jismoniy SO-100 ni uzatadi va boshlashning uchta usuli qolganini qamrab oladi. SO-100 bu yerda mos yozuv qo'li bo'lib, qismlari taxminan 110 dan 150 Yevrogacha, to'liq sozlash qo'llanmasi.

1 milliarddan kichik modellardan keyin nima keladi

Parametrlar sonini kamaytirish VLA ni arzon qilishning bir usuli bo'lib, bu aniq g'olibona usul emas. OpenVLA-OFT (arXiv 2502.19645) 7 milliardlik asosni saqlab qoladi va faqat harakatlar qanday dekodlanishini o'zgartiradi, harakatlarni yaratish samaradorligining 26 barobar oshganini va LIBERO ning 76.5 dan 97.1 foizgacha ko'tarilganini xabar qiladi. BitVLA (arXiv 2506.07530) 1-bitli BitNet b1.58 2B4T asosining har bir og'irligini uchlikka aylantiradi, 11.0 barobar kam xotira va 4.4 barobar past yakuniy kechikishni xabar qiladi, shu bilan birga to'liq aniqlikdagi OpenVLA-OFT ga mos keladi. X-VLA-0.9B (arXiv 2510.10274) oqim moslashuvi bilan 1 milliardlik chiziqda joylashgan.

Umumiy mavzu: kechikish til modelida emas, balki harakat dekoderida yashaydi. Qancha parametrga ega ekanligini so'rashdan oldin, siyosat harakatlarni qanday chiqarishini so'rang. arena 85 ta model va 332 ta natijaga ega, ularning har biri o'z manbasiga bog'langan; kengroq umumiy ko'rinish bizning VLA ga kirishimiz.