小規模VLAモデル: TinyVLA、SmolVLA、および10億パラメータ未満のケース

ほとんどのビジョン言語行動モデルについて書かれているものは、データセンターカードを前提としています。OpenVLAは70億パラメータです。GR00T N1.7とPi0.5は約30億パラメータで、ファインチューニングにはA100 80 GBが必要です。もしあなたのデスクにあるカードが4090であれば、そのクラスのモデルは手の届かないものです。

2つの論文は、それが必要ないことを主張しています。TinyVLA (arXiv 2409.12514、2025年2月にIEEE Robotics and Automation Lettersに採択) は、4億から13億のバックボーンと拡散行動ヘッドからVLAを構築します。SmolVLA (arXiv 2506.01844、2025年6月2日提出) は、オープンウェイト、オープンデータ、および1枚のコンシューマーカードで実行できるスクリプトとともに4億5000万パラメータを提供します。ここに両者が測定した結果と、10億未満という主張が成り立たなくなる点を示します。

実際に「小型VLA」と見なされるものとは

モデルカードのパラメータ数は、単一の数値ではありません。これは、総ウェイト、推論時にロードされるウェイト、または勾配を受け取るウェイトを意味する場合があります。。TinyVLAは両方を報告しており、その差は大きいです。TinyVLA-Hは合計1.3 Bですが、学習可能なのは143 Mです。これは、ビジョンタワーとほとんどの言語モデルが凍結されたままで、LoRAアダプターとアクションヘッドが動くためです。論文では、学習可能な割合は約5パーセントとされています。

議論すべき行が2つあります。は、約80 Mで、ここにある他のすべてよりも小さいですが、言語モデルがないためVLAではありません。これは1つのタスクを学習し、別のタスクを実行するように指示することはできません。は27 Mで、LLMバックボーンではなくT5-Baseテキストエンコーダーを介して条件付けされています。良いベースラインですが、どちらもラベルが示唆するような指示追従性を提供しません。

TinyVLA: 速度はバックボーンではなくヘッドから生まれる

一見すると、言語モデルを小型化したことで高速化されたように思えます。しかし、論文のアブレーション研究は異なる結果を示しています。OpenVLAの7Bバックボーンを約1Bのものに交換すると、アクションごとの予測時間が292msから140msに短縮され、2倍の高速化が実現しました。同程度のパラメータ数を持つTinyVLA-Hは、同じカードで14msで動作します。残りの10倍の高速化はアクションヘッドによるものです。

OpenVLAは、言語モデルヘッドを介して、アクション次元ごとに1つずつ、自己回帰的に離散化されたトークンとしてアクションを出力します。TinyVLAは、拡散デコーダを接続し、チャンク全体を一度に生成します。表VはTinyVLA-Hのアーキテクチャを示しており、同じ5つの実ロボットタスクでヘッドのみを交換しています。これは、どちらの論文においても、フローマッチングポリシーが主張する最も明確な証拠であり、Pi0がトークンデコーディングから移行した理由です。

TinyVLAのスコア

両手操作の行には、論文自体が与える退屈な説明があります。OpenVLAはOpen X-Embodimentで事前学習されており、これは完全に単腕データで構成されているため、両腕のアクションスペースは分布外であり、スコアはゼロです。拡散ポリシーのベースラインは、これら3つのタスクのうち2つでTinyVLA-Hを上回っています。背景はOpen X-Embodimentの解説記事で確認できます。

TinyVLAリポジトリ（2026年8月現在）

論文は優れています。コードは研究成果の公開版です。リポジトリはgithub.com/liyaxuanliyaxuan/TinyVLAで、READMEによるとコードのリリース日は2025年2月17日、最終コミットは2025年3月11日です。論文を再現するには問題ありませんが、メンテナンスされたライブラリを求める場合は問題があります。

git clone https://github.com/liyaxuanliyaxuan/TinyVLA
conda create -n tinyvla python=3.10 -y
conda activate tinyvla
pip install --upgrade pip
pip install -r requirements.txt
cd policy_heads && pip install -e .
cd ../llava-pythia && pip install -e .

TinyVLAはLeRobotデータセットも読み込みません。そのフォーマットはACTスタイルのHDF5で、action、language_raw、およびマルチビュー画像、joint_positions、qpos、qvelを含むobservationsグループで構成されます。リポジトリにはRLDS入力用のdata_utils/rlds_to_h5py.pyが同梱されており、各タスクはaloha_scripts/constants.pyでdataset_dir、episode_len、camera_namesと共に手動で登録されます。もしあなたのエピソードがlerobotまたはデスクトップクライアントから来た場合、変換はあなた自身で行う必要があります。

# scripts/train.sh, the real flags from the repository
ACTION_HEAD=droid_diffusion

deepspeed --master_port 29600 --num_gpus=8 --num_nodes=1 ./train_tinyvla.py \
  --deepspeed scripts/zero2.json \
  --lora_enable True \
  --lora_module 'vit llm' \
  --lora_r 64 \
  --lora_alpha 256 \
  --non_lora_lr 2e-5 \
  --task_name "example_task_config" \
  --model_name_or_path /path/to/pretrained_vlm \
  --freeze_vision_tower True \
  --freeze_backbone True \
  --bf16 True \
  --max_steps 10000 \
  --per_device_train_batch_size 32 \
  --gradient_accumulation_steps 1 \
  --learning_rate 2e-4 \
  --lr_scheduler_type "cosine" \
  --warmup_ratio 0.005 \
  --save_steps 1000 \
  --action_head_type $ACTION_HEAD \
  --use_state True \
  --window_size 6

• --num_gpus=8 は8枚のカードを持つノードを想定しています。これを1に設定し、バッチサイズを32より大幅に下げてください。シングルGPUバリアントはアップストリームで提供されていないため、このコマンドは4090でそのまま実行することはできません。
• --deepspeed scripts/zero2.json は、トップレベルの scripts ディレクトリにはないファイルを指しています。DeepSpeed の設定ファイルは llava-pythia/scripts/zero2.json にあります。最初の実行前にパスを修正してください。
• README では、出力ディレクトリ名に llava_pythia を含めること、LoRA が有効な場合は lora を含めることが求められています。
• バックボーンは別途ダウンロードが必要です: lesjie/Llava-Pythia-400M, -700M または -1.3B。lerobot/smolvla_base を指すように、ポリシーを指す単一のベースチェックポイントはありません。

SmolVLA: 今日の午後に実行できる10億未満のモデル

SmolVLA は、メンテナンスされているライブラリ内で同様の議論を展開しています。これは SmolVLM2-500M-Video-Instruct バックボーン上で450Mパラメータを持ち、その効率性は、小さいという主張からではなく、configuration_smolvla.py から読み取れる設定から来ています。

事前学習には、481のコミュニティLeRobotデータセット、22.9Kエピソード、10.6Mフレームが使用され、4つのGPUで200,000ステップ、グローバルバッチサイズ256で行われました。論文では、プロジェクト全体で約30K GPU時間を要したとされています。注目すべき数字が1つあります。Hugging Faceのローンチブログでは487のキュレーションされたデータセットと記載されていますが、論文の表では481となっています。我々は論文の数字を使用し、この相違を指摘します。

偶然にも、SmolVLA論文のMeta-WorldテーブルにはTinyVLA自身の公開された数値がベースラインとして記載されており、今回初めて両モデルが1つのテーブルに並びました。SmolVLA-0.45Bは57.3、TinyVLA-Hは31.6です。また、SmolVLAのトレーニングはPi0よりも約40パーセント高速で、メモリ使用量は6分の1であると報告されています。これらすべてはSmolVLAの著者によるものであり、アリーナエントリは各値の情報源にリンクされています。

SmolVLAの処理時間

AY-Robotsは、SmolVLAのアクションステップあたり245 ms、ACTは20 msと、ポリシーカタログに記載しています。TinyVLAは、アクション予測あたり14 msと報告しています。これらの数値は比較可能ではなく、比較できるものとして扱うことは、この分野で最もよくある間違いです。あるものは1回の順伝播にかかる時間を計測し、またあるものは、アクションチャンキングによって償却された後、その順伝播をチャンク全体に分割します。

• SmolVLAは1回の順伝播で50個のアクションを出力し、そのすべてを実行します。論文で実ロボットに使用されている30 fpsでは、1回の推論で約1.7秒の動作をカバーします。
• 非同期推論は、現在のチャンクがまだ実行されている間に次のチャンクを計算します。これにより、平均タスク完了時間は同期の13.75秒に対し9.7秒となり、約30パーセント高速化されます。また、固定された60秒のウィンドウ内でのピックアンドプレースサイクルは、同期の9回に対し19回となります。
• 成功率は向上したというよりも同程度であり、同期の78.3に対し非同期は73.3でした。非同期はスループットを向上させますが、精度は向上させません。
• チャンキングは計算レイテンシを隠蔽しますが、ネットワークレイテンシは隠蔽しません。また、50個のアクションにコミットするため、ポリシーの反応性を低下させます。

1枚のコンシューマーカードでのSmolVLAのファインチューニング

lerobot 0.6.1（2026年8月23日時点の現在のPyPIリリース）での手動パス。以下はすべて、同日に取得したHugging Face lerobot SmolVLAドキュメントからのものです。ガイド付きバージョンはより簡単です。

1. 1
   smolvlaエクストラ付きでlerobotをインストールする

   SmolVLAの依存関係はオプションの追加機能であり、基本インストールの一部ではありません。これをインストールせずに、ポリシータイプが不明であることに疑問を抱くのは、よくある30分の無駄です。

   bash

   git clone https://github.com/huggingface/lerobot.git
   cd lerobot
   pip install -e ".[smolvla]"

2. 2
   十分なエピソード数のデータセットを入手する

   ドキュメントでは約50エピソードを推奨しており、同じタスクで25エピソードでは不十分であったと述べています。AY-Robotsは最小値を30に設定しています。ご自身で記録するか、データセットディレクトリから始めてください。

   bash

   # any LeRobotDataset on the Hub works as --dataset.repo_id
   # lerobot/svla_so100_pickplace is the paper's own 50-episode set:
   # 5 cube positions, 10 episodes each

3. 3
   ファインチューニングを開始する

   lerobotガイドからのコマンドで、変更されていません。ドキュメントでは、A100 1台で20000ステップは約4時間とされています。24GBのカードでは、より長くかかると予想し、測定してください。

   bash

   cd lerobot && lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/mydataset \
     --batch_size=64 \
     --steps=20000 \
     --output_dir=outputs/train/my_smolvla \
     --job_name=my_smolvla_training \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   適合するまでバッチサイズを減らす

   batch_size=64は文書化された例であり、お使いのカードでの動作を保証するものではありません。ドキュメントでは、小さな値から始めて、ロード時間が短い間は増やしていくことを推奨しています。

   bash

   lerobot-train --help

5. 5
   アームでチェックポイントを展開する

   同じライブラリで、1つのコマンドです。リアルタイムチャンキングのフラグはドキュメントでコメントアウトされており、低電力ハードウェアで利用すべきものです。

   bash

   lerobot-rollout \
     --strategy.type=base \
     --robot.type=so101_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=my_blue_follower_arm \
     --robot.cameras="{ front: {type: opencv, index_or_path: 8, width: 640, height: 480, fps: 30}}" \
     --task="Grasp a lego block and put it in the bin." \
     --policy.path=HF_USER/FINETUNE_MODEL_NAME

小型VLAをアームに搭載する2つの方法

小規模モデルが不適切な選択である場合

両方の論文は、要約よりもこの点に関して慎重です。TinyVLAの失敗分析は具体的です。0.4 Bのバリアントは、指示を誤読することで3回失敗しました。著者らはこれを、より小さなVLMにおける言語理解の限界に起因するとし、このモードは1.3 Bで消失しました。SmolVLAは反対側から同じ曲線を示しています。同一アーキテクチャの2.25 Bバージョンは、LIBEROで88.75、Meta-Worldで68.24を記録しましたが、0.45 Bモデルではそれぞれ87.3と57.3でした。

実行する価値のある比較は、TinyVLA対SmolVLAではありません。それはSmolVLA対ACTを自身のタスクで比較することであり、SmolVLAの論文がその理由を説明しています。ロボティクス事前学習なしでシングルタスクで訓練されたSmolVLAは、3つのSO-100タスクで平均40.0を記録しましたが、シングルタスクのACTは48.3でした。これを78.3に引き上げたのは、アーキテクチャ単独ではなく、コミュニティ事前学習とマルチタスク訓練です。SO-101レゴタスクでは、両方ともシングルタスクで、SmolVLAが分布内で90対70で勝利しています。次に、予算が許せばSmolVLA対Pi0.5です。

実行可能な意思決定表

最後の行では、ライブアームは、アカウントなしでブラウザから操作できる物理的なSO-100をストリーミングし、3つの開始方法が残りをカバーします。このSO-100は、ここでのリファレンスアームであり、部品代でおよそ110から150ユーロで、完全なセットアップガイドが付属しています。

10億未満のモデルの次に来るもの

パラメータ数を削減することは、VLAを安価にするための一つの方法ですが、それが明らかに最善策とは限りません。OpenVLA-OFT (arXiv 2502.19645) は、70億のバックボーンを維持し、アクションのデコード方法のみを変更することで、アクション生成スループットが26倍向上し、LIBEROが76.5%から97.1%に上昇したと報告しています。BitVLA (arXiv 2506.07530) は、1ビットのBitNet b1.58 2B4Tバックボーンのすべての重みを三値化し、メモリを11.0倍削減し、エンドツーエンドのレイテンシを4.4倍低減しながら、フルプレシジョンのOpenVLA-OFTと同等の性能を達成したと報告しています。X-VLA-0.9B (arXiv 2510.10274) は、フローマッチングにより10億のラインに位置しています。

共通のテーマは、レイテンシが存在するのは言語モデルではなく、アクションデコーダであるということです。ポリシーがどれだけ多くのパラメータを持つかを問う前に、どのようにアクションを出力するかを問いましょう。このアリーナには85のモデルと332の結果があり、それぞれがそのソースにリンクされています。より広範な概要はVLAの紹介にあります。