小型VLA模型：TinyVLA、SmolVLA以及10亿参数以下的情况

几乎所有视觉-语言-动作模型在文献中提及的都假设使用数据中心显卡。OpenVLA 拥有 70 亿参数。GR00T N1.7和Pi0.5大约有 30 亿参数，需要 A100 80 GB 显卡进行微调。如果你的桌面显卡是 4090，那么这类模型就遥不可及了。

有两篇论文指出你可能不需要它。TinyVLA (arXiv 2409.12514，于 2025 年 2 月被 IEEE Robotics and Automation Letters 接受) 通过 4 亿至 13 亿参数的主干网络加上一个扩散动作头构建了一个 VLA。SmolVLA (arXiv 2506.01844，于 2025 年 6 月 2 日提交) 拥有 4.5 亿参数，并提供开放权重、开放数据以及一个可在单张消费级显卡上运行的脚本。以下是两者测量的结果，以及低于 10 亿参数的论点不再成立的地方。

什么才算真正的小型 VLA

模型卡上的参数数量并非单一数字。它可以指总权重、推理时加载的权重，或在期间接收梯度的权重。TinyVLA 同时报告了这两者，并且差距很大：TinyVLA-H 总参数为 1.3 B，但可训练参数为 143 M，因为视觉塔和大部分语言模型保持冻结，而 LoRA 适配器和动作头则会移动。该论文指出可训练部分的占比约为 5%。

有两行值得讨论。大约 80 M，比这里的所有其他模型都小，但它没有语言模型，因此它不是 VLA：它学习一个任务，不能被告知执行另一个任务。27 M，通过 T5-Base 文本编码器进行条件化，而不是 LLM 骨干网络。它们都是很好的基线模型，但都无法提供标签所暗示的指令遵循能力。

TinyVLA：速度源于头部，而非骨干网络

显而易见的解读是，他们将语言模型做得更小，从而使其更快。但论文的消融实验结果却并非如此。将OpenVLA的7B骨干网络替换为大约1B的骨干网络，每次动作预测时间从292毫秒缩短到140毫秒，提升了2倍。TinyVLA-H在参数量相当的情况下，在同一张显卡上运行时间为14毫秒。另外10倍的提升则来自动作头部。

OpenVLA通过语言模型头部，以自回归方式，为每个动作维度生成离散化的动作token。TinyVLA则附加了一个扩散解码器，可以一次性生成整个动作块。表V展示了TinyVLA-H的架构，并在相同的五个真实机器人任务上仅替换了头部。这是两篇论文中关于流匹配策略所提出的论点最清晰的证据，也是Pi0放弃token解码的原因。

TinyVLA 的得分

双臂行有一个论文本身给出的无聊解释：OpenVLA 在 Open X-Embodiment 上进行了预训练，该数据集完全由单臂数据组成，因此双臂动作空间超出了分布范围，得分也为零。扩散策略基线在三项任务中的两项上击败了 TinyVLA-H。背景信息请参见Open X-Embodiment 综述.

TinyVLA 仓库，截至 2026 年 8 月

这篇论文写得很好。代码是一个研究成果的发布。该仓库是 github.com/liyaxuanliyaxuan/TinyVLA；其 README 显示代码发布日期为 2025 年 2 月 17 日，最后一次提交是 2025 年 3 月 11 日。对于重现论文来说没问题，但如果您想要一个维护良好的库，那就有问题了。

git clone https://github.com/liyaxuanliyaxuan/TinyVLA
conda create -n tinyvla python=3.10 -y
conda activate tinyvla
pip install --upgrade pip
pip install -r requirements.txt
cd policy_heads && pip install -e .
cd ../llava-pythia && pip install -e .

TinyVLA 也不读取 LeRobot 数据集。其格式是 ACT 风格的 HDF5：action、language_raw，以及一个包含多视角图像、joint_positions、qpos 和 qvel 的 observations 组。该仓库提供了用于 RLDS 输入的 data_utils/rlds_to_h5py.py，并且每个任务都在 aloha_scripts/constants.py 中手动注册，包含其 dataset_dir、episode_len 和 camera_names。如果您的 剧集 来自 lerobot 或 桌面客户端，则您需要自行完成转换。

# scripts/train.sh, the real flags from the repository
ACTION_HEAD=droid_diffusion

deepspeed --master_port 29600 --num_gpus=8 --num_nodes=1 ./train_tinyvla.py \
  --deepspeed scripts/zero2.json \
  --lora_enable True \
  --lora_module 'vit llm' \
  --lora_r 64 \
  --lora_alpha 256 \
  --non_lora_lr 2e-5 \
  --task_name "example_task_config" \
  --model_name_or_path /path/to/pretrained_vlm \
  --freeze_vision_tower True \
  --freeze_backbone True \
  --bf16 True \
  --max_steps 10000 \
  --per_device_train_batch_size 32 \
  --gradient_accumulation_steps 1 \
  --learning_rate 2e-4 \
  --lr_scheduler_type "cosine" \
  --warmup_ratio 0.005 \
  --save_steps 1000 \
  --action_head_type $ACTION_HEAD \
  --use_state True \
  --window_size 6

• --num_gpus=8 假定一个八卡节点。将其设置为 1 并将批处理大小远低于 32。上游不提供单 GPU 变体，因此该命令无法在 4090 上原样运行。
• --deepspeed scripts/zero2.json 指向一个不在顶级 scripts 目录中的文件。DeepSpeed 配置位于 llava-pythia/scripts/zero2.json。在首次运行前修正路径。
• README 要求输出目录名称包含 llava_pythia，如果启用了 LoRA，则还需包含 lora。
• 骨干网络需要单独下载：lesjie/Llava-Pythia-400M、-700M 或 -1.3B。没有一个单一的基础检查点可以像指向 lerobot/smolvla_base 那样指向 一个策略。

SmolVLA：今天下午即可运行的亚十亿参数模型

SmolVLA 在一个维护的库中提出了相同的论点。它基于 SmolVLM2-500M-Video-Instruct 骨干网络，拥有 450 M 参数，其效率来源于可以从 configuration_smolvla.py 中读取的设置，而非其“小巧”的宣称。

预训练使用了 481 个社区 LeRobot 数据集，22.9 K 幕和 10.6 M 帧，在 4 块 GPU 上运行，200000 步，全局批次大小为 256；论文指出整个项目大约耗费 30 K GPU 小时。一个值得注意的数字是：Hugging Face 的发布博客称有 487 个精选数据集，而论文的表格则显示 481 个。我们采用论文中的数字并指出这一差异。

一个巧合有所帮助：SmolVLA 论文的 Meta-World 表格将 TinyVLA 自己的发布数据作为基线，因此两个模型首次出现在同一张表格中，SmolVLA-0.45B 为 57.3，而 TinyVLA-H 为 31.6。它还报告 SmolVLA 的训练速度比 Pi0 快约 40%，且内存使用量减少 6 倍。所有这些都来自 SmolVLA 的作者；竞技场条目将每个值链接到其来源。

SmolVLA 的时间开销

AY-Robots 在策略目录中列出 SmolVLA 的每个动作步骤为 245 毫秒，而 ACT 为 20 毫秒。TinyVLA 报告每个动作预测为 14 毫秒。这些数字不可比较，将它们视为可比较是此主题中最常见的错误：有些是单次前向传播的时间，有些则在动作分块摊销后将该传播时间分摊到块中。

• SmolVLA 每次前向传播发出 50 个动作并执行所有 50 个。在论文中用于真实机器人的 30 fps 下，一次推理大约覆盖 1.7 秒的运动。
• 异步推理在当前块仍在执行时计算下一个块：平均任务完成时间为 9.7 秒，而同步为 13.75 秒，大约快 30%，并且在固定的 60 秒窗口内完成 19 次抓取放置循环，而同步为 9 次。
• 成功率是可比的，而不是更好，同步为 78.3%，异步为 73.3%。异步提高了吞吐量，而不是准确性。
• 分块隐藏了计算延迟，而不是网络延迟，并且它使策略的反应性降低，因为它已提交执行 50 个动作。

在单张消费级显卡上微调SmolVLA

手动路径，基于lerobot 0.6.1，截至2026年8月23日的当前PyPI版本。以下所有内容均来自Hugging Face lerobot SmolVLA文档，于同日获取；引导版本更易上手。

1. 1
   安装带有 SmolVLA 附加项的 lerobot

   SmolVLA 依赖项是可选的附加项，不属于基本安装。不安装它然后疑惑策略类型未知是常见的半小时浪费。

   bash

   git clone https://github.com/huggingface/lerobot.git
   cd lerobot
   pip install -e ".[smolvla]"

2. 2
   获取足够 episode 的数据集

   文档建议大约 50 个 episode，并指出相同任务的 25 个 episode 不够。AY-Robots 将最低数量设置为 30。记录您自己的，或者从数据集目录开始。

   bash

   # any LeRobotDataset on the Hub works as --dataset.repo_id
   # lerobot/svla_so100_pickplace is the paper's own 50-episode set:
   # 5 cube positions, 10 episodes each

3. 3
   开始微调

   来自 lerobot 指南的命令，未修改。文档指出在单个 A100 上，20000 步大约需要 4 小时。在 24 GB 显卡上，预计时间会更长，请自行测量。

   bash

   cd lerobot && lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/mydataset \
     --batch_size=64 \
     --steps=20000 \
     --output_dir=outputs/train/my_smolvla \
     --job_name=my_smolvla_training \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   减小批量大小直到适应

   batch_size=64 是一个文档示例，并非对您的显卡的承诺。文档建议从小批量开始，并在加载时间保持较短的情况下逐渐增加。

   bash

   lerobot-train --help

5. 5
   在机械臂上部署检查点

   相同的库，一个命令。实时分块标志在文档中被注释掉，它们是低功耗硬件的首选。

   bash

   lerobot-rollout \
     --strategy.type=base \
     --robot.type=so101_follower \
     --robot.port=/dev/ttyACM0 \
     --robot.id=my_blue_follower_arm \
     --robot.cameras="{ front: {type: opencv, index_or_path: 8, width: 640, height: 480, fps: 30}}" \
     --task="Grasp a lego block and put it in the bin." \
     --policy.path=HF_USER/FINETUNE_MODEL_NAME

将小型 VLA 部署到机械臂上的两种方法

小型模型何时是错误的选择

两篇论文在此处都比摘要更为谨慎。TinyVLA 的故障分析很具体：0.4 B 变体因误读指令而失败了三次，作者将其归因于较小 VLM 的语言理解能力有限，并且该模式在 1.3 B 版本中消失了。SmolVLA 从另一方面展示了相同的曲线：相同架构的 2.25 B 版本在 LIBERO 上得分 88.75，在 Meta-World 上得分 68.24，而 0.45 B 模型则分别为 87.3 和 57.3。

值得进行的比较不是 TinyVLA 与 SmolVLA 之间的比较。而是 SmolVLA 与 ACT 在你自己的任务上进行比较，SmolVLA 论文解释了原因。在没有机器人预训练的情况下进行单任务训练，SmolVLA 在三个 SO-100 任务中平均得分为 40.0，而单任务 ACT 取得了 48.3。将其提升到 78.3 的是社区预训练加上多任务训练，而不仅仅是架构本身。在 SO-101 乐高任务中，两者都是单任务，SmolVLA 确实获胜：分布内得分为 90 对 70。然后是 SmolVLA 与 Pi0.5 如果预算允许。

一份可供您采取行动的决策表

对于最后一行，实时机械臂 流式传输一个物理SO-100，您无需账户即可从浏览器驱动它，并且三种启动方式 涵盖了其余部分。此SO-100 是这里的参考机械臂，零件成本大约在110到150欧元之间，并附有完整的设置指南。

10亿参数以下模型之后的发展

缩小参数数量是使VLA变得廉价的一种方式，但这并非是显而易见的制胜法宝。OpenVLA-OFT (arXiv 2502.19645) 保留了70亿参数的主干网络，仅改变了动作的解码方式，报告称动作生成吞吐量增加了26倍，LIBERO从76.5%上升到97.1%。BitVLA (arXiv 2506.07530) 将1比特BitNet b1.58 2B4T主干网络的每个权重都变为三元，报告称内存减少了11.0倍，端到端延迟降低了4.4倍，同时与全精度OpenVLA-OFT性能相当。X-VLA-0.9B (arXiv 2510.10274) 通过流匹配技术，处于10亿参数的水平。

共同点是：延迟存在于动作解码器而非语言模型中。在询问策略有多少参数之前，请先了解它是如何发出动作的。此竞技场 拥有85个模型和332个结果，每个都链接到其来源；在我们的VLA介绍中可以找到更广泛的概述。