SmolVLAን በ24 ጂቢ ጂፒዩ ላይ እንዴት ማሰልጠን እንደሚቻል (lerobot 0.6.1)

አብዛኛዎቹ ሰዎች የእይታ ቋንቋ ተግባር ሞዴል በእውነተኛ ክንድ ላይ የሚፈልጉት በሃርድዌር ገደብ ይቆማሉ። GR00T N1.7 እና Pi0.5 እያንዳንዳቸው ወደ ሶስት ቢሊዮን ፓራሜትሮች የሚጠጉ ሲሆኑ A100 80 ጊባ ወይም H100 ይፈልጋሉ። የእርስዎ ንብረት RTX 4090 ያለው የጨዋታ ፒሲ ከሆነ፣ ያ የመንገዱ መጨረሻ ነው። SmolVLA ልዩ ነው፡ 450 M ፓራሜትሮች ያሉት፣ በLeRobot ውስጥ፣ በአንድ የሸማች ካርድ ላይ ለማስተካከል እና ከሲፒዩ ለማገልገል የተሰራ።

በመጀመሪያ በእጅ የሚሰራው መንገድ፡ ሌሮቦትን ይጫኑ፣ lerobot/smolvla_base ቼክፖይንቱን ይጎትቱ፣ ትክክለኛውን ትዕዛዝ ያሂዱ፣ በሚሰራበት ጊዜ ሩጫውን ያንብቡ። ከዚያም የፕላትፎርም መንገዱ፣ እና በማይረዳበት ቦታ።

SmolVLA ምንድን ነው፣ በሚያረጋግጧቸው ቁጥሮች

SmolVLA የፍሎው ማችንግ ፖሊሲ ሲሆን ከትንሽ ቪዥን ላንጉዌጅ ሞዴል ጋር የተያያዘ ነው። የጀርባ አጥንቱ SmolVLM2-500M-Video-Instruct ነው። ጥናቱ የቋንቋ ሞዴሉን የመጀመሪያዎቹን 16 ንብርብሮች ብቻ የሚጠቀም ሲሆን፣ እያንዳንዱን የካሜራ ፍሬም በ64 ቪዥዋል ቶከኖች በፒክሰል ሹፍል እንጂ በምስል ታይሊንግ አይገድበውም፣ እንዲሁም በየሁለተኛው ብሎክ ላይ ክሮስ አቴንሽንን ከሴልፍ አቴንሽን ንብርብር ጋር ያቀላቅላል። የኢንፈረንስ ወጪ የንድፍ ገደብ እንጂ በኋላ የታሰበ ነገር አልነበረም።

የ450 M ሞዴልን ሰዎች የሚጠቀሙበት ምክንያት በቤንችማርኮቹ የተነሳ ነው። በLIBERO ላይ በአማካይ 87.3 በመቶ ሲሆን፣ OpenVLA በ7 B 76.5 እና ሮቦቲክስ-ቅድመ-ስልጠና የተደረገለት Pi0 በ3.3 B ደግሞ 86.0 ነው። በMeta-World ላይ ደግሞ 57.3 ከ47.9 ጋር። በእውነተኛ SO-100 ሃርድዌር ላይ፣ ባለብዙ ተግባር ስልጠና በፒክ ኤንድ ፕሌስ 75 በመቶ፣ በስታኪንግ 90፣ በሶርቲንግ 70 በመቶ ይሰጣል፣ በአማካይ 78.3 ሲሆን፣ ACT ለእያንዳንዱ ተግባር የሰለጠነው በአማካይ 48.3 ነበር። ተመሳሳይ ረድፎች በSmolVLA አሬና ግቤት እና በACT ከSmolVLA ጋር ንጽጽር ውስጥ ከእያንዳንዱ የታተመ VLA ጎን ይገኛሉ።

ለምን 24 ጊባ ካርድ ትክክለኛው የመጀመሪያ ሩጫ ነው

LeRobot የኮምፒዩት መጠን መመሪያን ያቀርባል፣ ለዚህም በሪፖው ውስጥ በጣም ጠቃሚው ገጽ ነው። ፖሊሲዎችን በአከርካሪ አጥንት መጠን ይመድባል እና ለእያንዳንዱ ቡድን አንድ የVRAM መጠን ይሰጣል፣ ይህም በባች መጠን 8 በ AdamW፣ የlerobot ነባሪ፣ ይለካል። የኦፕቲማይዘር ሁኔታ ብቻ ከባዶ ወደፊት እና ወደኋላ ማለፍ ከ30 እስከ 100 በመቶ ይጨምራል፣ ስለዚህ እነዚህ የክብደት-ብቻ አሃዞች አይደሉም።

በባች 8 አስር እስከ አስራ ስድስት ጊጋባይት የሚለው ክርክር ነው፡ 24 ጊባ ካርድ ያንን እና የዳታ ሎደርን ይይዛል። AY-Robots SmolVLAን በ RTX 4090 ወይም በማንኛውም 24 ጊባ ካርድ ላይ ያስቀምጣል፣ ዝቅተኛው 30 ክፍሎች፣ LeRobot v3.0 ዳታ፣ በአንድ የድርጊት ደረጃ 245 ms። ተከራይቶ፣ ያ በሰዓት ከ0.30 እስከ 0.60 ዶላር በ2 እስከ 5 ሰዓታት ውስጥ ነው፣ በአንድ ጥሩ ማስተካከያ ሩጫ፣ ከ80 ጊባ ደረጃ GR00T እና Pi0.5 ከሚያስፈልጋቸው ከ4 እስከ 12 ዶላር ጋር ሲነጻጸር (ዋጋ)። ያልተሳካ የSmolVLA ሩጫ ቡና ነው፤ ያልተሳካ የGR00T ሩጫ ምሳ ነው።

ደረጃ 0፡ ሩጫውን የሚወስነው ዳታሴቱ ነው እንጂ ፍላጎቹ አይደሉም

ቀረጻው መጥፎ ከሆነ ከዚህ በታች ያለው ምንም ነገር አይጠቅምም። የLeRobot SmolVLA ገጽ ግልጽ ነው፡ የማጣቀሻው ዳታሴት በ5 የኩብ አቀማመጦች ላይ 50 ክፍሎች፣ ለእያንዳንዱ አቀማመጥ 10 ክፍሎች ነበሩት፣ እና ተመሳሳይ ስራ በ25 ክፍሎች ላይ ደካማ አፈጻጸም አሳይቷል። ለእያንዳንዱ ልዩነት መደጋገም አጠቃላይ ያደርጋል፣ ጥሬ የክፍሎች ብዛት ግን አያደርግም። እስካሁን አንድም አልቀረጹም? ከዚህ ይጀምሩ የመጀመሪያውን ዳታሴትዎን ይመዝግቡ በ ዴስክቶፕ ክሊየንት፣ ይህም የLeRobot ቅርጸትን ከ ቴሌኦፕሬሽን ክፍለ ጊዜ ይጽፋል፣ ወይም ከ የዳታሴት ማውጫ ይውሰዱ።

• በAY-Robots ላይ ቢያንስ 30 ክፍሎች፣ ለLeRobot ማጣቀሻ የምግብ አሰራር ደግሞ ወደ 50 የሚጠጉ።
• በማስፈጸም ጊዜ የሚጠብቁት እያንዳንዱ ልዩነት፣ ብዙ ጊዜ ተደግሞ።
• አንድ የሥራ ሕብረቁምፊ፣ በመቅረጫ እና በማስፈጸሚያ ጊዜ ተመሳሳይ በሆነ መንገድ የተጻፈ። ሞዴሉ በዚያ ጽሑፍ ላይ የተመሠረተ ነው።
• የተስተካከሉ ካሜራዎች። በመቅረጫ እና በማስፈጸሚያ ጊዜ መካከል የተንቀሳቀሰ ካሜራ ንጹህ የኪሳራ ኩርባ የማይንቀሳቀስ ክንድ እንዲሰጥ በጣም የተለመደው ምክንያት ነው።
• በጭራሽ ያላሠለጠኑበት የተያዘ ልዩነት፣ ስለዚህ ለመሞከር የሚያስችል ታማኝ ነገር እንዲኖርዎት።

# v2.1 -> v3.0: aggregates per-episode files into shards and writes the episode offsets
python -m lerobot.scripts.convert_dataset_v21_to_v30 --repo-id=${HF_USER}/so100_pick_place

ስለዚህ ጉዳይ ተጨማሪ መረጃ እዚህ ያገኛሉ ከፍተኛ ጥራት ያለው የVLA ማሰልጠኛ ውሂብ ለሮቦት ማኒፑሌሽን እንዴት መሰብሰብ እንደሚቻል. አጭር ማብራሪያው፡ 30 እስከ 50 ንጹህ ክፍሎች የአንድ ተግባር ሆን ተብሎ በተደረገ ልዩነት፣ 200 የተዘበራረቁ የሶስት ክፍሎችን ያሸንፋል፣ ምንም አይነት ሃይፐርፓራሜትር ሊዘጋው በማይችል ልዩነት።

lerobot 0.6.1 ጫን

# LeRobot needs Python 3.12 or newer as of 0.6.x
conda create -y -n lerobot python=3.12
conda activate lerobot

# TorchCodec decodes the dataset videos and wants ffmpeg
conda install ffmpeg -c conda-forge

# Base package is deliberately thin; extras pull the rest
pip install 'lerobot[smolvla,training,core_scripts]'

# Sanity check: prints the lerobot version, the GPU torch sees, and the console scripts you got
lerobot-info

መሰረታዊው lerobot ጭነት ቀጭን ሲሆን ከባድ ጥገኞችን ከኋላ ተጨማሪዎች ይደብቃል (gates): smolvla ትራንስፎርመሮችን፣ num2words እና accelerateን ይጨምራል፣ training የዳታሴት ስታክን እና wandbን፣ core_scripts የሃርድዌር እና የእይታ ጥገኞችን ይጨምራል። በሊኑክስ ላይ የመጫኛ መንገዱ የCUDA ዊልዎን ይወስናል፡ የPyPI ነባሪው የ580.65 ሾፌር ወለል ያለው cu130 ዊል ነው፣ ስለዚህ በአሮጌ ሾፌር ላይ መጀመሪያ ቶርችን ከcu128 ኢንዴክስ ይጫኑ፣ ከዚያም lerobotን።

የስልጠናው ሂደት፣ ትዕዛዝ በትዕዛዝ

1. 1
   ከHub ጋር ማረጋገጥ

   መሰረታዊው ቼክፖይንት ከHub የሚመጣ ሲሆን፣ የእርስዎ የውሂብ ስብስብም ምናልባት ከዚያው ነው።

   bash

   hf auth login

2. 2
   አማራጮቹን አንድ ጊዜ ያንብቡ

   የፓይፕላይኑ እና የፖሊሲው ውቅር እያንዳንዱ መስክ ባንዲራ ነው። ምንጩን ከመመርመርዎ በፊት በአጭሩ ይመልከቱት።

   bash

   lerobot-train --help

3. 3
   ጥሩ ማስተካከያውን ይጀምሩ

   የሰነዶቹ ምሳሌ በአንድ A100 ላይ ባች 64ን ያካሂዳል፤ የኮምፒዩት መመሪያው የራሱ A100 40 ጂቢ መልህቅ ባች 16 ሲሆን፣ 8 ደግሞ የ24 ጂቢ ተመጣጣኝ ነው። እዚህ ምንም የጊዜ ሰሌዳ ባንዲራ ሆን ተብሎ የለም፣ ከታች ይመልከቱ።

   bash

   lerobot-train \
     --policy.path=lerobot/smolvla_base \
     --dataset.repo_id=${HF_USER}/so100_pick_place \
     --batch_size=8 \
     --steps=20000 \
     --save_freq=2000 \
     --log_freq=200 \
     --seed=1000 \
     --output_dir=outputs/train/smolvla_pick_place \
     --job_name=smolvla_pick_place \
     --policy.device=cuda \
     --wandb.enable=true

4. 4
   የምዝግብ ማስታወሻውን መስመር ያንብቡ፣ ኪሳራውን ብቻ አይደለም

   በየ --log_freq እርምጃዎች lerobot ኪሳራን (loss)፣ ግራዲየንትን (grdn)፣ የመማሪያ ፍጥነትን (lr)፣ የዝማኔ ፍጥነትን (updt_s)፣ የውሂብ ፍጥነትን (data_s)፣ ናሙናዎችን በሰከንድ (smp/s) እና በCUDA ላይ ደግሞ ሜም_ጂቢን (mem_gb) ያትማል። mem_gb ባቹ የሚመጥን መሆኑን፣ lr የጊዜ ሰሌዳው እየቀነሰ መሆኑን፣ እና data_s ወደ updt_s መቃረብ ደግሞ የውሂብ ጫኚው (dataloader) የአንገት ማነቂያ እንጂ ጂፒዩ አለመሆኑን ያሳያል።

   bash

   # if data_s creeps toward updt_s
   lerobot-train ... --num_workers=8

5. 5
   ሊያወዳድሯቸው የሚችሉ ቼክፖይንቶችን ይሰብስቡ

   save_freq በነባሪ 20000 ነው፣ ስለዚህ የ20000 እርምጃዎች ሂደት አንድ ቼክፖይንት ብቻ ይተዋል እና ከሱ ጋር የሚያወዳድር ምንም ነገር አይኖርም። 2000 ያድርጉት። ወደ Hub ለመግፋት --policy.repo_id ያስፈልጋል።

   bash

   --save_freq=2000 \
   --policy.repo_id=${HF_USER}/smolvla_pick_place \
   --save_checkpoint_to_hub=true

6. 6
   ማሽኑ ከሞተ ይቀጥሉ

   --config_pathን ከቼክፖይንቱ አጠገብ ወዳለው train_config.json ያመልክቱ። lerobot እርስዎ ካልቀጠሉ በስተቀር ወደ ነባር output_dir ለመጀመር እምቢ ይላል፣ ስለዚህ በድንገት አንድን ሂደት መፃፍ አይችሉም።

   bash

   lerobot-train \
     --config_path=<path to the saved train_config.json> \
     --resume=true

ውጤቱን በትክክል የሚቀይሩት ባንዲራዎች

ምንም ካልነኩ የሚወርሷቸው ነባሪዎች

አንድ ፖሊሲ ውቅር በ lerobot የራሱን አመቻች እና መርሐግብር ቅድመ-ቅንብር ይይዛል፣ እና use_policy_training_preset=false ካላደረጉ በስተቀር እነዚያ ቅድመ-ቅንብሮች ያሸንፋሉ። ሰዎች ስለ SmolVLA ስልጠና ከሚጠይቋቸው ጥያቄዎች ግማሹ ያልነበረ ነው ብለው በማያውቁት ነባሪ መልስ ያገኛሉ።

ሰዎችን የሚያስደንቁት ሁለቱ መስመሮች freeze_vision_encoder እና train_expert_only ሲሆኑ ሁለቱም እውነት ናቸው። ከመጀመሪያው ጀምሮ በግምት 100 M ፓራሜትሮችን ነው የሚያሰለጥኑት እንጂ 450 M አይደለም፣ ለዚህም ነው በ24 GB ላይ የሚገጥመው። የLeRobot የራሱ የማጣቀሻ ሩጫ በአራት-GPU H100 ክላስተር ላይ ሁለቱንም ወደ false ይቀይራቸዋል፤ በአንድ 24 GB ካርድ ላይ ደግሞ የሚሰራ ሩጫን ወደ የማስታወሻ እጥረት ብልሽት ይለውጠዋል።

ሩጫው ምን ያህል ጊዜ እንደሚወስድ እና ስንት እርምጃዎች በቂ እንደሆኑ

LeRobot ለአምስት ኢፖኮች በግምት 50 የትዕይንት ዳታሴት ላይ፣ በ30 fps ወደ 45000 ፍሬሞች የሚሆን የሰዓት መልህቆችን ያትማል። የሰነዶቹ አባባል እንደሚያሳየው እነዚህ ግምታዊ አሃዞች ናቸው፣ ነገር ግን በአንድ ሰዓት እና በአንድ ቀን መካከል ያለውን ልዩነት ይፈጥራሉ።

ጥሩ ማስተካከያ የተደረገበትን ፖሊሲ በእጁ ላይ ማስኬድ

lerobot-rollout \
  --strategy.type=base \
  --robot.type=so100_follower \
  --robot.port=/dev/ttyACM0 \
  --robot.id=my_follower_arm \
  --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}}" \
  --task="Grasp the cube and put it in the box." \
  --policy.path=${HF_USER}/smolvla_pick_place

በእያንዳንዱ የድርጊት ደረጃ 245 ሚሊሰከንድ በቀላሉ ሊሳሳት ይችላል: ፖሊሲው chunk_size = 50 ድርጊቶችን በአንድ የፊት ማለፊያ ያወጣል እና n_action_steps = 50 ያከናውናል፣ ስለዚህ ያንን ወጪ ምን ያህል ጊዜ እንደሚከፍሉ የሚወሰነው በእነዚያ መቆጣጠሪያዎች እንጂ ሰርቮዎች ትዕዛዝ በሚያገኙበት ድግግሞሽ አይደለም። ይህም የድርጊት ክፍፍል የሚያስገኘው ጥቅም ነው፣ እና 245 ሚሊሰከንድ ሞዴል 30 ኸርዝ ክንድ እንዲያንቀሳቅስ የሚያስችለው ለዚህ ነው። የሚቀረው ደግሞ የግምት መዘግየት በክፍሉ መጨረሻ ላይ ነው።

ያ ሶስተኛው ረድፍ አብዛኛዎቹ ጽሑፎች የሚዘሉት ነው። የተለያየ ጊዜ ግምት (Async inference) በግምት 30 በመቶ ፈጣን ሲሆን በተወሰነ የጊዜ መስኮት ውስጥ ምርታማነትን በእጥፍ ይጨምራል፣ እና ወረቀቱ የስኬት መጠኖችን ተመጣጣኝ ይላቸዋል፣ በአማካይ ደግሞ እንደዚያው ናቸው። ከዚህ በታች፣ መደርደር ከ70 ወደ 50 በመቶ ሲቀንስ ማንሳት እና ማስቀመጥ 5 ጨምሯል። lerobot 0.6.1 ሌላኛውን መቆጣጠሪያ በተመሳሳይ ሁለትዮሽ ይዟል: --inference.type=rtc የጥቅልል ሂደቱን ወደ እውነተኛ ጊዜ ክፍፍል ይቀይራል፣ ይህም የስክሪፕቱ የራሱ የአጠቃቀም ክፍል ለቀርፋፋ VLAs፣ Pi0፣ Pi0.5 እና SmolVLA ይመክራል።

ወደ አንድ የፍተሻ ነጥብ የሚወስዱ ሁለት መንገዶች

pip install 'lerobot[smolvla,training,core_scripts]'
hf auth login

lerobot-train \
  --policy.path=lerobot/smolvla_base \
  --dataset.repo_id=${HF_USER}/so100_pick_place \
  --batch_size=8 --steps=20000 \
  --save_freq=2000 --seed=1000 \
  --output_dir=outputs/train/smolvla_pick_place \
  --job_name=smolvla_pick_place \
  --policy.device=cuda --wandb.enable=true

SmolVLA የተሳሳተ ምርጫ ሲሆን

SmolVLA ትክክለኛው የመጀመሪያ ሙከራ መሆኑን የሚወስነው መስራቱ ሳይሆን ውድቀቱ አንድ ነገር ነግሮዎት እንደሆነ ነው። 60 ወይም 70 በመቶ ከደረሱ ትልቅ ሞዴል ምክንያታዊ ቀጣይ ወጪ ነው፡ ዳታው ምልክት ይይዛል። 10 በመቶ ከደረሱ 3 B ሞዴልም ምናልባት 10 በመቶ ይደርሳል፣ ይህም አሁን አስራ ሁለት ዶላር ከማውጣት ይልቅ በሶስት ዶላር ተምረዋል።

ተጨማሪ ከማውጣትዎ በፊት ማንበብ ተገቢ ነው፡ Pi0.5 ከ SmolVLA ጋር ሲነጻጸር ለተመሳሳይ ሀሳብ ተጨማሪ አቅም ለማግኘት፣ እና GR00T N1.7 ከ SmolVLA ጋር ሲነጻጸር ለNVIDIA መንገድ፣ ሁለቱም 80 GB ደረጃ በ4 እስከ 12 ዶላር በአንድ ሩጫ። በሌላ በኩል፣ ACT ርካሽ መነሻ ነው፡ 80 M ፓራሜትሮች፣ 20 ms በአንድ የድርጊት እርምጃ፣ የቋንቋ ሁኔታ የለም። አምስቱም የሚገኙት በየፖሊሲዎች ገጽ፤ አሬናው 85 ሞዴሎች እና 332 የቤንችማርክ ውጤቶች አሉት።

ማንኛውንም ነገር ከማስፋትዎ በፊት የሚያስፈልጉ ነገሮች ዝርዝር

1. `lr` 2.5e-6 ወለሉ ላይ ደርሷል? ከ30000 እርምጃዎች በታች lerobot መበስበሱን እንደገና ያስተካክላል እና ሲጀመር ይገልጻል፤ ከዚያ በላይ ከሆነ፣ `--policy.scheduler_decay_steps`ን እራስዎ ያዘጋጁ።
2. ከአንድ በላይ የፍተሻ ነጥብ (checkpoint)፣ እና `--dataset.eval_split`ን በመጠቀም የተለዩ ክፍሎች (episodes)፣ ስለዚህ የeval loss ትርጉም ይኖረዋል።
3. ፖሊሲው ምንም እንቅስቃሴ ያደርጋል? የማይንቀሳቀስ ክንድ ያለው እየቀነሰ የሚሄድ loss የተወሰኑ ምክንያቶች አሉት: loss ይቀንሳል፣ ፖሊሲው ምንም አያደርግም።
4. የቦታ ለውጥን ይቋቋማል? ካልሆነ: ፖሊሲው በአንድ አቀማመጥ ላይ ብቻ ይሰራል።
5. ዘሩን (seed) ጽፈውታል? lerobot በነባሪ 1000 ይጠቀማል፣ ስለዚህ ሁለት ያልተነኩ ሙከራዎች (runs) ተመጣጣኝ ሆነው ይቆያሉ።
6. ከዚያ በኋላ ብቻ: ተጨማሪ ክፍሎች (episodes)፣ ተጨማሪ ልዩነቶች (variation)፣ ወይም ትልቅ ሞዴል (model)። በዚያ ቅደም ተከተል።

እነዚህ ሞዴሎች ለምን እንደተፈጠሩ እና ከቋንቋ ግብዓት ጋር ምን እንደሚያደርጉ ለማወቅ፣ ዳራው ነው፤ ስብሰባን የሚያከናውነው በ በኩል እስከ መጀመሪያው ሙከራ (run) ድረስ ነው። ለተጠናቀቀው የፍተሻ ነጥብ (checkpoint)፣ ፤ ክንዱ በጭራሽ ካልታየ፣ ።