Jinsi ya Kufunza SmolVLA kwenye GPU ya GB 24 (lerobot 0.6.1)

Watu wengi wanaotaka mfumo wa lugha ya kuona na vitendo kwenye mkono halisi huishia kwenye mstari wa maunzi. GR00T N1.7 na Pi0.5 zina takriban vigezo bilioni tatu kila moja na zinahitaji A100 80 GB au H100. Ikiwa unachomiliki ni Kompyuta ya michezo ya kubahatisha yenye RTX 4090, basi huo ndio mwisho wa safari. SmolVLA ni ubaguzi: vigezo milioni 450, ndani ya LeRobot, iliyojengwa kwa ajili ya kurekebisha vizuri kwenye kadi moja ya mtumiaji na kuhudumia kutoka kwa CPU.

Njia ya mwongozo kwanza: sakinisha lerobot, vuta lerobot/smolvla_base kituo cha ukaguzi, endesha amri halisi, soma uendeshaji wakati unafanyika. Kisha njia ya jukwaa, na pale ambapo haisaidii.

SmolVLA ni nini, kwa namba unazoweza kuzithibitisha

SmolVLA ni ulinganifu wa mtiririko sera iliyounganishwa kwenye modeli ndogo ya lugha ya kuona. Utu wake mkuu ni SmolVLM2-500M-Video-Instruct; karatasi hiyo inatumia tu tabaka 16 za kwanza za modeli yake ya lugha, inaweka kikomo kila fremu ya kamera kwa tokeni 64 za kuona kwa kutumia mpangilio wa pikseli badala ya kuweka vigae vya picha, na inachanganya umakini mtambuka na tabaka la umakini binafsi kila kizuizi cha pili. Gharama ya utambuzi ilikuwa kizuizi cha muundo, si wazo la baadaye.

Vigezo vya utendaji ndio sababu watu wanajishughulisha na modeli ya 450 M. Kwenye LIBERO ina wastani wa asilimia 87.3 dhidi ya 76.5 kwa OpenVLA ya 7 B na 86.0 kwa Pi0 iliyefunzwa awali kwa roboti ya 3.3 B; kwenye Meta-World, 57.3 dhidi ya 47.9. Kwenye maunzi halisi ya SO-100, mafunzo ya kazi nyingi hutoa asilimia 75 kwenye kuchukua na kuweka, 90 kwenye kupanga, 70 kwenye kupanga, wastani wa 78.3, ambapo ACT iliyefunzwa kwa kila kazi ilikuwa na wastani wa 48.3. Safu hizo hizo zipo kando ya kila VLA iliyochapishwa kwenye kiingilio cha uwanja wa SmolVLA na ulinganisho wa ACT dhidi ya SmolVLA.

Kwa nini kadi ya 24 GB ndiyo chaguo sahihi kwa mara ya kwanza

LeRobot inatoa mwongozo wa ukubwa wa kompyuta, ukurasa muhimu zaidi katika hazina kwa hili. Inapanga sera kulingana na ukubwa wa uti wa mgongo na inatoa bahasha moja ya VRAM kwa kila kikundi, iliyopimwa kwa ukubwa wa kundi 8 na AdamW, chaguo-msingi la lerobot. Hali ya kiboreshaji pekee huongeza asilimia 30 hadi 100 zaidi ya upitishaji wa mbele na nyuma, kwa hivyo hizi si takwimu za uzito pekee.

Gigabaiti kumi hadi kumi na sita kwa kundi 8 ndio hoja: kadi ya 24 GB inatosha hiyo pamoja na kipakiaji data. AY-Robots huweka SmolVLA kwenye RTX 4090 au kadi yoyote ya 24 GB, kiwango cha chini 30 vipindi, LeRobot v3.0 data, 245 ms kwa hatua ya kitendo. Ikikodishwa, hiyo ni saa 2 hadi 5 kwa 0.30 hadi 0.60 USD kwa saa, kama 1 hadi 3 USD kwa urekebishaji mzuri uendeshaji, dhidi ya 4 hadi 12 USD kwenye kiwango cha 80 GB ambacho GR00T na Pi0.5 zinahitaji (bei). Uendeshaji wa SmolVLA ulioshindwa ni kahawa; uendeshaji wa GR00T ulioshindwa, chakula cha mchana.

Hatua ya 0: seti ya data huamua uendeshaji, si bendera

Hakuna chochote hapa chini kinachofaa ikiwa rekodi ni mbaya. Ukurasa wa LeRobot SmolVLA uko wazi: seti ya data ya marejeleo ilikuwa vipindi 50 katika nafasi 5 za mchemraba, 10 kwa kila nafasi, na kazi hiyo hiyo kwa vipindi 25 ilifanya vibaya. Marudio kwa kila tofauti huleta ujumlishaji, idadi ghafi ya vipindi haifanyi hivyo. Hujawahi kurekodi? Anza kwa rekodi seti yako ya kwanza ya data na programu ya kompyuta, ambayo huandika umbizo la LeRobot kutoka kwa uendeshaji wa mbali kipindi, au azima moja kutoka saraka ya seti za data.

• Angalau vipindi 30 kwenye AY-Robots, takriban 50 kwa mapishi ya marejeleo ya LeRobot.
• Kila tofauti unayotarajia wakati wa utekelezaji, ikirudiwa mara kadhaa.
• Mfuatano mmoja wa kazi, uliotamkwa sawasawa wakati wa kurekodi na utekelezaji. Mfumo unategemea maandishi hayo.
• Kamera zisizohamishika. Kamera iliyohamishwa kati ya kurekodi na utekelezaji ndiyo sababu ya kawaida inayofanya mkondo safi wa hasara kutoa mkono usio na mwendo.
• Tofauti iliyowekwa kando ambayo haujawahi kufundisha, ili uwe na kitu cha kweli cha kujaribu dhidi yake.

# v2.1 -> v3.0: aggregates per-episode files into shards and writes the episode offsets
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=${HF_USER}/so100_pick_place

Zaidi kuhusu hili katika jinsi ya kukusanya data ya mafunzo ya VLA yenye ubora wa juu. Kwa kifupi: vipindi 30 hadi 50 safi vya kazi moja na tofauti za makusudi hupita vipindi 200 visivyo makini vya tatu, kwa tofauti ambayo hakuna kipimo cha ziada kinachoweza kufunga.

Sakinisha lerobot 0.6.1

# LeRobot needs Python 3.12 or newer as of 0.6.x
conda create -y -n lerobot python=3.12
conda activate lerobot

# TorchCodec decodes the dataset videos and wants ffmpeg
conda install ffmpeg -c conda-forge

# Base package is deliberately thin; extras pull the rest
pip install 'lerobot[smolvla,training,core_scripts]'

# Sanity check: prints the lerobot version, the GPU torch sees, and the console scripts you got
lerobot-info

Usakinishaji wa msingi wa lerobot ni mwepesi na huzuia vitegemezi vizito nyuma ya nyongeza: smolvla huongeza transformers, num2words na accelerate, training safu ya data na wandb, core_scripts vitegemezi vya maunzi na taswira. Kwenye Linux, njia ya usakinishaji pia huamua gurudumu lako la CUDA: chaguo-msingi la PyPI ni gurudumu la cu130 lenye kiwango cha chini cha kiendeshi cha 580.65, kwa hivyo kwenye kiendeshi cha zamani sakinisha torch kutoka kwenye faharisi ya cu128 kwanza, kisha lerobot.

Mchakato wa mafunzo, amri kwa amri

1. 1
   Thibitisha utambulisho dhidi ya Hub

   Kituo cha ukaguzi cha msingi kinatoka kwenye Hub, na huenda seti yako ya data pia.

   bash

   hf auth login

2. 2
   Soma chaguzi mara moja

   Kila sehemu ya usanidi wa bomba na sera ni bendera. Ipitie haraka kabla ya kuchunguza chanzo.

   bash

   lerobot-train --help

3. 3
   Anzisha urekebishaji mzuri

   Mfano wa nyaraka unaendesha kundi 64 kwenye A100 moja; nanga ya A100 40 GB ya mwongozo wa kompyuta ni kundi 16, na 8 ni sawa na 24 GB. Hakuna bendera ya kipanga ratiba hapa kwa makusudi, angalia hapa chini.

   bash

   lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/so100_pick_place \
     --batch_size=8 \
     --steps=20000 \
     --save_freq=2000 \
     --log_freq=200 \
     --seed=1000 \
     --output_dir=outputs/train/smolvla_pick_place \
     --job_name=smolvla_pick_place \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   Soma mstari wa logi, sio hasara tu

   Kila hatua za --log_freq lerobot huchapisha hasara, grdn, lr, updt_s, data_s, smp/s na, kwenye CUDA, mem_gb. mem_gb inasema kama kundi linafaa, lr kama ratiba inapungua, na data_s ikikaribia updt_s inamaanisha kuwa dataloader ndio kikwazo, sio GPU.

   bash

   # if data_s creeps toward updt_s
   lerobot-train ... --num_workers=8

5. 5
   Kusanya vituo vya ukaguzi unavyoweza kulinganisha

   save_freq inatokana na 20000, kwa hivyo mchakato wa hatua 20000 huacha kituo kimoja cha ukaguzi na hakuna cha kulinganisha nacho. Weka 2000. Kusukuma kwenye Hub kunahitaji --policy.repo_id.

   bash

   --save_freq=2000 \
   --policy.repo_id=${HF_USER}/smolvla_pick_place \
   --save_checkpoint_to_hub=true

6. 6
   Endelea ikiwa mashine itakufa

   Elekeza --config_path kwenye train_config.json karibu na kituo cha ukaguzi. lerobot inakataa kuanza kwenye output_dir iliyopo isipokuwa kama unaendelea, kwa hivyo huwezi kufuta mchakato kimakosa.

   bash

   lerobot-train \
     --config_path=<path to the saved train_config.json> \
     --resume=true

Bendera zinazobadilisha matokeo

Mipangilio chaguomsingi unayorithi usipogusa chochote

Usanidi wa katika lerobot hubeba mipangilio yake ya kipekee ya optimizer na scheduler, na isipokuwa ukiweka use_policy_training_preset=false mipangilio hiyo chaguomsingi hushinda. Nusu ya maswali ambayo watu huuliza kuhusu mafunzo ya SmolVLA hujibiwa na mipangilio chaguomsingi ambayo hawakujua ilikuwepo.

Mistari miwili inayowashangaza watu ni freeze_vision_encoder na train_expert_only, zote zikiwa kweli. Bila marekebisho, unafunza takriban vigezo milioni 100, si milioni 450, ndiyo maana inatosha kwenye GB 24. Jaribio la LeRobot lenyewe kwenye kundi la H100 lenye GPU nne hubadilisha zote kuwa 'false'; kwenye kadi moja ya GB 24 hiyo hubadilisha jaribio linalofanya kazi kuwa .

Muda wa jaribio, na hatua ngapi zinatosha

LeRobot huchapisha viashiria vya muda halisi kwa vipindi vitano (epochs) juu ya seti ya data ya takriban vipindi 50, takriban fremu 45000 kwa 30 fps. Takwimu za ukubwa wa agizo, nyaraka zinasema, lakini ndizo tofauti kati ya kutarajia saa moja na siku nzima.

Kuendesha sera iliyoboreshwa kwenye mkono

lerobot-rollout \
  --strategy.type=base \
  --robot.type=so100_follower \
  --robot.port=/dev/ttyACM0 \
  --robot.id=my_follower_arm \
  --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}}" \
  --task="Grasp the cube and put it in the box." \
  --policy.path=${HF_USER}/smolvla_pick_place

Muda wa 245 ms kwa kila hatua ya kitendo ni rahisi kukosea: sera hutoa chunk_size = 50 vitendo kwa kila pasi ya mbele na kutekeleza n_action_steps = 50 kati yake, hivyo ni mara ngapi unalipa gharama hiyo huwekwa na vidhibiti hivyo, si kwa jinsi servos zinavyopokea amri mara kwa mara. Hiyo ndiyo faida ya ugawaji vitendo, na kwa nini modeli ya 245 ms inaweza kuendesha mkono wa 30 Hz. Kinachobaki ni kuchelewa kwa utambuzi mwishoni mwa kipande.

Safu hiyo ya tatu ndiyo ambayo maandishi mengi huruka. Utambuzi usiosawazisha ni takriban asilimia 30 haraka zaidi na huongeza mara mbili uwezo wa kupitisha data katika dirisha maalum, na karatasi inasema viwango vya mafanikio vinafanana, ambavyo kwa wastani ndivyo. Chini yake, upangaji ulipungua kutoka asilimia 70 hadi 50 wakati kuchukua na kuweka kuliongezeka kwa 5. lerobot 0.6.1 hubeba kigezo kingine katika binary hiyo hiyo: --inference.type=rtc hubadilisha utekelezaji kuwa ugawaji wa muda halisi, ambao kizuizi cha matumizi cha skripti kinapendekeza kwa VLAs polepole, Pi0, Pi0.5 na SmolVLA.

Njia mbili za kufikia kituo kimoja cha ukaguzi

pip install 'lerobot[smolvla,training,core_scripts]'
hf auth login

lerobot-train \
  --policy.path=lerobot/smolvla_base \
  --dataset.repo_id=${HF_USER}/so100_pick_place \
  --batch_size=8 --steps=20000 \
  --save_freq=2000 --seed=1000 \
  --output_dir=outputs/train/smolvla_pick_place \
  --job_name=smolvla_pick_place \
  --policy.device=cuda --wandb.enable=true

Wakati SmolVLA si chaguo sahihi

Jaribio la kama SmolVLA ilikuwa jaribio sahihi la kwanza si kama ilifanya kazi, bali kama kushindwa kulikufundisha kitu. Fikia asilimia 60 au 70 na modeli kubwa zaidi ni matumizi yanayofaa yanayofuata: data hubeba ishara. Fikia asilimia 10 na modeli ya 3 B kuna uwezekano mkubwa pia itafikia asilimia 10, jambo ambalo umejifunza kwa dola tatu badala ya kumi na mbili.

Inafaa kusoma kabla ya kutumia zaidi: Pi0.5 against SmolVLA kwa uwezo zaidi juu ya wazo lilelile, na GR00T N1.7 against SmolVLA kwa njia ya NVIDIA, zote zikiwa katika kiwango cha 80 GB kwa 4 hadi 12 USD kwa kila jaribio. Njia nyingine, ACT ndio msingi wa bei nafuu: vigezo 80 M, 20 ms kwa kila hatua ya kitendo, hakuna masharti ya lugha. Zote tano zinapatikana kwenye ukurasa wa sera; uwanja ina modeli 85 na matokeo 332 ya vigezo.

Orodha ya kukagulia kabla ya kuongeza ukubwa wa kitu chochote

1. Je, lr ilifikia kiwango chake cha chini cha 2.5e-6? Chini ya hatua 30000, lerobot hurekebisha upya upungufu na kusema hivyo wakati wa kuanza; juu yake, weka --policy.scheduler_decay_steps mwenyewe.
2. Zaidi ya sehemu moja ya kukagulia (checkpoint), na vipindi vilivyotengwa na --dataset.eval_split ili upotevu wa tathmini uwe na maana.
3. Je, sera inasonga hata kidogo? Upotevu unaoanguka na mkono usiosonga una sababu maalum: upotevu unaanguka, sera haifanyi chochote.
4. Je, inastahimili mabadiliko ya eneo? Ikiwa sivyo: sera inafanya kazi katika usanidi mmoja tu.
5. Uliandika nambari ya mbegu (seed)? lerobot huweka chaguo-msingi kuwa 1000, kwa hivyo majaribio mawili yasiyoguswa yanabaki kulinganishwa.
6. Ndipo tu: vipindi zaidi, tofauti zaidi, au modeli kubwa zaidi. Kwa mpangilio huo.

Kwa nini modeli hizi zipo na zinafanya nini na pembejeo ya lugha, ndio msingi; huendesha mkusanyiko kupitia hadi kwenye jaribio. Kwa sehemu ya kukagulia iliyokamilika, ; ikiwa mkono haujawahi kuonekana, .