
உருவகப்படுத்துதல் ஒரு சில விளக்கங்களை ஆயிரங்களாகப் பெருக்கலாம். வெளியிடப்பட்ட எண்கள் உண்மையில் என்ன சொல்கின்றன, சிம்-டு-ரியல் இடைவெளி எங்கு சிக்கலை ஏற்படுத்துகிறது, மற்றும் இன்னும் என்ன பதிவு செய்யப்பட வேண்டும் என்பது இங்கே.
ஒவ்வொரு சில மாதங்களுக்கும் யாராவது ஐம்பது எபிசோடுகள் பதிவுகளைக் கையால் பதிவு செய்வது மெதுவாக இருப்பதை உணர்ந்து, அதற்குப் பதிலாக ஒரு சிமுலேட்டர் அவற்றை உருவாக்க முடியுமா என்று கேட்கிறார்கள். இது ஒரு நியாயமான கேள்வி. நேர்மையான பதில் மூன்று பகுதிகளைக் கொண்டது: உருவாக்கப்பட்ட தரவு உதவுகிறது, அது உண்மையான பதிவுகளை மாற்றாது, மேலும் இந்த இரண்டு உண்மைகளுக்கு இடையிலான விகிதம் நீங்கள் எந்த வகையான செயற்கை தரவை அர்த்தப்படுத்துகிறீர்கள் என்பதைப் பொறுத்தது.
இந்த பக்கம் வெளியிடப்பட்ட வேலை உண்மையில் எதை அளவிட்டது, குறைந்த விலை ரோபோ கையில் இன்று நீங்கள் எதை இயக்கலாம் என்பதை விளக்குகிறது, SO-100 போன்ற, மற்றும் சிம்-டு-ரியல் இடைவெளி எங்கு லாபத்தை விழுங்குகிறது என்பதையும் விளக்குகிறது. சுருக்கமான பதிப்பு, விவரங்களுக்கு முன்: மிகப்பெரிய பெருக்கிகளைக் கூறும் அமைப்புகள் ஒரு சிறிய அளவிலான உண்மையான மனித விளக்கக்காட்சிகளைப் பெருக்குகின்றன. அவை அவற்றின் தேவையை நீக்கவில்லை.
நீங்கள் தெரிந்து கொள்ள வேண்டியவை
- •செயற்கை தரவு என அழைக்கப்படும் நான்கு தொடர்பில்லாத நுட்பங்கள் கையாளுதலில் உள்ளன: பாதை பெருக்கம் (trajectory multiplication), இயற்பியல் உருவகப்படுத்துதல்கள் (physics rollouts), வீடியோ உலக மாதிரிகள் (video world models) மற்றும் பட-வெளி விரிவாக்கம் (image-space augmentation). இவை வெவ்வேறு வழிகளில் தோல்வியடைகின்றன மற்றும் வெவ்வேறு மதிப்புகளைக் கொண்டுள்ளன.
- •MimicGen, 200க்கும் குறைவான மனித விளக்கங்களை 18 பணிகளில் 50,000க்கும் அதிகமான உருவாக்கப்பட்ட விளக்கங்களாக மாற்றியது. அதன் Square D0 பணியில், 10 மனித விளக்கங்களிலிருந்து உருவாக்கப்பட்ட 200 விளக்கங்கள் 79 சதவீத வெற்றியை அளித்தன, அதேசமயம் 200 உண்மையான மனித விளக்கங்கள் 84 சதவீத வெற்றியை அளித்தன.
- •RoboCasa ஒரு எதிர் உதாரணம்: 72,000 உருவாக்கப்பட்ட விளக்கங்கள் 47.6 சதவீத மதிப்பெண் பெற்றன, அதேசமயம் 1,250 மனித விளக்கங்கள் 28.8 சதவீத மதிப்பெண் பெற்றன. இது 58 மடங்கு அளவு நன்மை, ஒத்த-ஒத்த வெற்றி அல்ல.
- •சிம்-மற்றும்-உண்மையான இணைப் பயிற்சி ஆய்வு, நிஜ உலகப் பணி செயல்திறனில் சராசரியாக 38 சதவீத மேம்பாட்டைப் புகாரளிக்கிறது. இதன் செய்முறை ஒரு கலவையில் இணைப் பயிற்சி செய்வது, சிம்-மட்டும் பரிமாற்றம் அல்ல.
- •GR00T N1, 780,000 உருவகப்படுத்துதல் பாதைகள் (6,500 மணிநேரத்திற்கு சமம், 11 மணிநேரத்தில் உருவாக்கப்பட்டது) மற்றும் 88 உண்மையான மணிநேரங்களிலிருந்து வளர்ந்த 827 மணிநேர நரம்பியல் பாதைகளைக் கொண்டுள்ளது. அந்த 88 உண்மையான மணிநேரங்கள் இன்னும் பிரமிட்டின் உச்சியில் உள்ளன.
- •ஒரு SO-101க்கு இன்று ஒரு செயல்படும் திறந்தநிலை பைப்லைன் உள்ளது: Isaac Lab இல் LeIsaac, இயற்பியல் லீடர் கையால் தொலைதூரத்தில் இயக்குதல், Isaac Lab Mimic உடன் பெருக்குதல், LeRobot வடிவத்திற்கு ஏற்றுமதி செய்தல், GR00T ஐ நன்றாகச் சரிசெய்தல்.
- •AY-Robots செயற்கை தரவை உருவாக்குவதில்லை. நீங்கள் வழங்கும் LeRobot தரவுத்தொகுப்பில் இது பயிற்சி பெறுகிறது, அந்த தரவுத்தொகுப்பு எந்த வழியில் தயாரிக்கப்பட்டிருந்தாலும், பயிற்சியாளர்களுக்கு மாதிரியைப் பொறுத்து குறைந்தபட்சம் 30 முதல் 50 எபிசோடுகள் தேவைப்படும்.
நான்கு வெவ்வேறு விஷயங்கள் செயற்கை தரவு என அழைக்கப்படுகின்றன
எண்களை ஒப்பிடுவதற்கு முன், குடும்பங்களைப் பிரிப்பது மதிப்புமிக்கது, ஏனெனில் 100x பெருக்கியைப் புகாரளிக்கும் ஒரு ஆய்வுக் கட்டுரையும், 5 புள்ளி வெற்றி அதிகரிப்பைப் புகாரளிக்கும் ஒரு ஆய்வுக் கட்டுரையும் பெரும்பாலும் ஒரே பைப்லைனை வெவ்வேறு கோணங்களில் இருந்து விவரிக்கின்றன. பொதுவான அம்சம் என்னவென்றால், LeRobot தரவுத்தொகுப்பு ஒரு இயந்திரத்தால் தயாரிக்கப்பட்டது, ஒரு இயற்பியல் கையிலிருந்து பதிவு செய்யப்படவில்லை. எது வேறுபடுகிறது என்பது எந்தப் பகுதி என்பதுதான்.
| வகை | உண்மையாக இருப்பது | உருவாக்கப்படுவது | அறிவிக்கப்பட்ட பெருக்கி | முக்கிய தோல்வி முறை |
|---|---|---|---|---|
| பாதை பெருக்கம் (MimicGen, DexMimicGen, Isaac Lab Mimic) | சில மனித டெமோக்கள், பொருள் மெஷ்கள், இயற்பியல் எஞ்சின் | புதிய பொருள் நிலைகள் மற்றும் காட்சி அமைப்புகளுக்கு ஏற்ற புதிய பாதைகள் | 10 மனித டெமோக்கள் முதல் ஒவ்வொரு மீட்டமைப்பு விநியோகத்திற்கும் 1,000; 60 முதல் 21,000; 200 க்கும் குறைவானது முதல் 50,000 க்கும் மேல் | உருவாக்கும் முயற்சிகள் தோல்வியடைகின்றன. எளிய சந்தர்ப்பங்களில் Isaac Lab ஆனது சாத்தியமான வெற்றி விகிதத்தை 70 சதவீதம் வரையிலும், கடினமான சந்தர்ப்பங்களில் 1 சதவீதத்திற்கும் குறைவாகவும் வைக்கிறது. |
| ஒரு பணி சிமுலேட்டரில் இயற்பியல் ரோல்அவுட்கள் (Isaac Lab, robosuite, RoboCasa) | இயற்பியல் எஞ்சின் மற்றும் சொத்து நூலகம் | முழு அத்தியாயங்கள், ஸ்கிரிப்ட் செய்யப்பட்ட கட்டுப்படுத்திகள், திட்டமிடுபவர்கள் அல்லது RL ஆல் இயக்கப்படுகின்றன | GPU மணிநேரங்களால் மட்டுமே கட்டுப்படுத்தப்படுகிறது | உருவகப்படுத்தப்பட்ட கை உங்கள் கை அல்ல. தொடர்பு மற்றும் சர்வோ இயக்கவியல் தோராயமானவை. |
| வீடியோ உலக மாதிரிகள் (DreamGen, Cosmos Transfer) | நிபந்தனையாகப் பயன்படுத்தப்படும் சில உண்மையான டெலிஆபரேஷன் அத்தியாயங்கள் | புதிய நடத்தைகளின் புகைப்பட யதார்த்தமான வீடியோ, மேலும் பின்னர் மீட்டெடுக்கப்பட்ட போலி-செயல்கள் | GR00T N1 இல் 88 மணிநேரம் முதல் 827 மணிநேரம் வரை, சுமார் 10x | செயல்கள் ஊகிக்கப்படுகின்றன, அளவிடப்படுவதில்லை. ஒரு நம்பத்தகுந்த வீடியோ நம்பத்தகாத செயலைக் கொண்டிருக்கலாம். |
| பட-இட விரிவாக்கம் (சீரற்ற செதுக்குதல், வண்ண நடுக்கம்) | பிக்சல்கள் தவிர அனைத்தும் | உங்களிடம் ஏற்கனவே உள்ள அத்தியாயங்களின் தொந்தரவு செய்யப்பட்ட காட்சிகள் | 1x, இது புதிய பாதையை உருவாக்காது | வடிவியல் விரிவாக்கம் படத்திற்கும் செயல் லேபிளுக்கும் இடையிலான தொடர்பை உடைக்கிறது. |
இந்தக் கட்டுரை குறிப்பிடும் அர்த்தத்தில் முதல் மூன்று மட்டுமே செயற்கை தரவு. நான்காவது குறிப்பிடத் தக்கது, ஏனெனில் இது அதே உரையாடலில் சேர்க்கப்பட்டு, பட்டியலில் உள்ளவற்றில் மிக மலிவானது. உங்கள் பயிற்சியாளர் வழங்கும் விரிவாக்கங்களை நீங்கள் இன்னும் இயக்கவில்லை என்றால், ஒரு சிமுலேட்டரை நிறுவும் முன் அதைச் செய்யுங்கள்.
NVIDIA ஆனது GR00T N1 பிந்தைய பயிற்சிக்கு பயன்படுத்தப்பட்ட உருவகப்படுத்தப்பட்ட பாதைகளை nvidia/PhysicalAI-Robotics-GR00T-X-Embodiment-Sim என Hugging Face இல் வெளியிட்டது, இது cc-by-4.0 இன் கீழ் சுமார் 1.87 TB ஆகும். இது 9,000 குறுக்கு-உருவாக்கப்பட்ட இருகைப் பாண்டா மற்றும் GR1 பாதைகள், 240,000 மனித உருவ மேசைப் பாதைகள், 72,000 ஒற்றை-பாண்டா சமையலறைப் பாதைகள் மற்றும் 102 Unitree G1 லோகோ-மேனிபுலேஷன் பாதைகளாகப் பிரிக்கப்பட்டுள்ளது. huggingface-cli download --include "gr1_arms_only.CanSort/**" ஐப் பயன்படுத்தி ஒரு துணைத்தொகுப்பைப் பதிவிறக்கம் செய்து சில அத்தியாயங்களைப் பார்ப்பது, உருவாக்கப்பட்ட பாதைகள் எப்படி இருக்கும் என்பதை அளவீடு செய்ய விரைவான வழியாகும், மேலும் இதற்கு அலைவரிசை தவிர வேறு எதுவும் செலவாகாது.
வெளியிடப்பட்ட எண்கள் உண்மையில் என்ன சொல்கின்றன
ஆதாரங்களின் அடிப்படையில் எண்கள் இங்கே கொடுக்கப்பட்டுள்ளன, பத்திரிகை வெளியீடுகள் சுருக்கமாகக் கூறுவதற்குப் பதிலாக, மூலங்கள் குறிப்பிடுவது போலவே அவை உள்ளன. கீழே உள்ள ஒவ்வொரு வரிசையும் 23 ஆகஸ்ட் 2026 அன்று படிக்கப்பட்ட ஒரு கட்டுரை அல்லது திட்டப் பக்கத்திலிருந்து எடுக்கப்பட்டது.
| கணினி | உள்ளீடு | உருவாக்கப்பட்டது | அறிவிக்கப்பட்ட முடிவு |
|---|---|---|---|
| MimicGen, CoRL 2023 | 200க்கும் குறைவான மனித டெமோக்கள்; நேருக்கு நேர் போட்டியில் 10 மனித டெமோக்கள் | 50,000க்கும் மேற்பட்ட டெமோக்கள், 18 பணிகள், நான்கு கைகள் (Panda, Sawyer, IIWA, UR5e) | Square D0: 10 மனித டெமோக்களிலிருந்து உருவாக்கப்பட்ட 200 டெமோக்களில் 79 சதவீதம், 200 மனித டெமோக்களிலிருந்து 84 சதவீதத்திற்கு எதிராக |
| DexMimicGen, 2024 | 60 மூல மனித டெமோக்கள் | இரு-கைப் பயன்பாட்டுத் திறனுள்ள ரோபோக்களுக்கான 21,000 டெமோக்கள் | சிமுலேஷனில் இரு-கைப் பயன்பாட்டுத் திறனுள்ள பணிகள், மேலும் ஒரு நிஜத்திலிருந்து-சிமுலேஷனுக்கு-நிஜ மனித உருவக் குப்பைகளை வரிசைப்படுத்தும் செயல்பாடு |
| RoboCasa, 2024 | 1,250 மனித டெமோக்கள் (25 அணுப் பணிகளில் ஒரு பணிக்கு 50), 100 மதிப்பீட்டுப் பணிகள், 150க்கும் மேற்பட்ட பொருள் வகைகள் | 100,000 MimicGen பாதைகள்; 72,000 டெமோக்களின் துணைத்தொகுப்பு முக்கிய ஒப்பீட்டை இயக்குகிறது | மனிதத் தொகுப்பில் ஒட்டுமொத்தமாக 28.8 சதவீதம், முழுமையாக உருவாக்கப்பட்ட தொகுப்பில் 47.6 சதவீதத்திற்கு எதிராக, காணப்படாத பொருள் நிகழ்வுகளில் மட்டுமே மதிப்பீடு செய்யப்பட்டது |
| சிம்-மற்றும்-நிஜ இணைப் பயிற்சி, 2025 | நிஜ டெமோக்கள் மற்றும் சிமுலேஷன் தரவுத்தொகுப்புகள், இரண்டு களங்கள் (ரோபோ கை மற்றும் மனித உருவம்) | ஒரு கலவை, மாற்றீடு அல்ல | சிமுலேஷன் தரவு நிஜ உலகப் பணி செயல்திறனை சராசரியாக 38 சதவீதம் மேம்படுத்தியது |
| DreamGen, 2025 | ஒரு சூழலில் ஒரு ஒற்றை எடுக்கும்-மற்றும்-வைக்கும் பணியிலிருந்து தொலை இயக்கத் தரவு | ஒரு மறைமுக செயல் மாதிரி அல்லது ஒரு தலைகீழ் இயக்கவியல் மாதிரியிலிருந்து செயற்கை வீடியோ மற்றும் போலி-செயல்கள் | மனித உருவத்தில் 22 புதிய நடத்தைகள், கண்ட மற்றும் காணப்படாத சூழல்களில் |
| GR00T N1 data pyramid, 2025 | 88 மணிநேர உள்-நிறுவன GR-1 தொலை இயக்கம் | 827 மணிநேர நரம்பியல் பாதைகள் (சுமார் 10x); 780,000 சிம் பாதைகள், 6,500 மணிநேரத்திற்கு சமம், 11 மணிநேரத்தில் தயாரிக்கப்பட்டது | நரம்பியல் பாதைகள் RoboCasa-வில் 30, 100 மற்றும் 300 டெமோக்கள்-ஒரு-பணி முறைகளில் 4.2, 8.8 மற்றும் 6.8 புள்ளிகளையும், 8 நிஜ GR-1 பணிகளில் சராசரியாக 5.8 புள்ளிகளையும் சேர்த்தன |
ஒரு பெருக்கி என்பது ஒரு வரிசை எண்ணிக்கை. MimicGen-ன் நேரடி ஒப்பீட்டில் உருவாக்கப்பட்ட தரவு மனிதத் தரவின் அதே எண்ணிக்கையை விட சற்று குறைவாகவே உள்ளது (84 சதவீதத்திற்கு எதிராக 79 சதவீதம்), மேலும் GR00T N1 நீக்கம் ஏற்கனவே நிஜ நேரங்களைக் கொண்டிருந்த ஒரு மாதிரியின் மேல் ஒற்றை இலக்க சதவீத புள்ளிகளைச் சேர்க்கிறது. RoboCasa மனிதத் தரவை வெல்கிறது, 28.8 சதவீதத்திற்கு எதிராக 47.6 சதவீதம், ஆனால் 1,250 மனித டெமோக்களுக்கு எதிராக 72,000 உருவாக்கப்பட்ட டெமோக்களுடன். அளவு கவரேஜை வாங்குகிறது. உங்கள் டெமோக்களில் ஒருபோதும் இல்லாத தகவலை அது வாங்காது.
ஒவ்வொரு நேர்மையான பகுப்பாய்விலும் உள்ள முறை ஒன்றுதான். செயற்கை தரவு குறைந்த செலவில் கவரேஜை விரிவுபடுத்துகிறது. உண்மையான செயல்விளக்கங்களில் இல்லாத உங்கள் கிரிப்பர், சர்வோ சாய்வு, விளக்கு அல்லது மேசை உயரம் பற்றிய தகவல்களை இது உருவாக்காது. உங்கள் கொள்கை தோல்வியடைகிறது ஏனெனில் இறுதி இயக்கி அரை வினாடி தாமதமாக மூடுவதால், எந்த அளவு உருவகப்படுத்தப்பட்ட மாறுபாடும் அதை சரிசெய்யாது. அது உண்மையான பதிவுகளில் உள்ள ஒரு கிரிப்பர் நேரப் பிரச்சனை.
MimicGen கண்டுபிடிப்புகளில் ஒன்று உங்கள் சொந்த பதிவு அமர்வுகளில் எடுத்துச் செல்லத்தக்கது, ஏனெனில் இது வழக்கமான ஆலோசனைகளுக்கு எதிரானது. இந்த திட்டம் Square D2 இல் இரண்டு தரவுத்தொகுப்புகளை உருவாக்கியது, ஒன்று சிறந்த தரமான மனித ஆபரேட்டரிடமிருந்து 10 டெமோக்களுடன் விதைக்கப்பட்டது, மற்றொன்று மோசமான தரமான ஆபரேட்டரிடமிருந்து 10 டெமோக்களுடன் விதைக்கப்பட்டது, இவை இரண்டும் robomimic multi-human Square தரவுத்தொகுப்பிலிருந்து எடுக்கப்பட்டவை. ஒவ்வொன்றிலும் பயிற்சி பெற்ற கொள்கைகள் ஒப்பிடக்கூடிய முடிவுகளை அடைந்தன, இதை ஆசிரியர்கள் பெரிய அளவிலான தரவு ஆட்சியில் தரவு தரம் அவ்வளவு முக்கியமில்லை என்பதற்கான அறிகுறியாகக் கருதினர். கவனமாகப் படியுங்கள், இது பத்து விதை டெமோக்களைப் பற்றிய ஒரு அறிக்கை, உங்கள் ஐம்பது உண்மையான எபிசோட்களைப் பற்றியது அல்ல. இதன் பொருள் சற்று ஒழுங்கற்ற விதை தொகுப்பு உங்களுக்கும் பயன்படுத்தக்கூடிய உருவாக்கப்பட்ட தரவுத்தொகுப்பிற்கும் இடையில் நிற்கும் விஷயம் அல்ல. நீங்கள் இணைந்து பயிற்சி செய்யும் உண்மையான எபிசோட்கள் ஒழுங்கற்றதாக இருக்கலாம் என்று அர்த்தமல்ல, ஏனெனில் அவை சிமுலேட்டரில் இல்லாத தகவல்களைக் கொண்டு செல்கின்றன.

சிம்-டு-ரியல் இடைவெளி, குறிப்பாக
இந்த இடைவெளி பொதுவாக ஒரு ஒற்றை அளவாக விவாதிக்கப்படுகிறது, இது உதவாது. இது குறைந்தபட்சம் ஐந்து தனித்தனி பொருந்தாத தன்மைகளைக் கொண்டுள்ளது, மேலும் அவை 110 முதல் 150 EUR வரையிலான பொழுதுபோக்கு ரோபோ கைகளில் ஒரு ஃபிராங்கா ரோபோவில் இருப்பதை விட வெவ்வேறு அளவுகளில் உள்ளன.
- தொடர்பு மற்றும் உராய்வு. ஒரே வன்பொருள் மற்றும் ஒரே ஐசக் சிம் மற்றும் பிசிக்ஸ் பதிப்பு கொடுக்கப்பட்டால், உருவகப்படுத்துதல் மீண்டும் உருவாக்கக்கூடியது என்று ஐசக் லேப் தெளிவாகக் கூறுகிறது, ஆனால் மிதக்கும் புள்ளி துல்லியம் மற்றும் வட்டமிடும் பிழைகள் காரணமாக வெவ்வேறு வன்பொருள் உள்ளமைவுகளில் முடிவுகள் மாறுபடும், மேலும் துணி அல்லது மென்மையான உடல்கள் போன்ற கடினமற்ற உடல்களைக் கொண்ட எந்தவொரு காட்சிக்கும் பிசிக்ஸ் நிர்ணயத்தன்மையை உத்தரவாதம் செய்யாது.
- செயல்பாடு. 7.4 V இல் இயங்கும் ஒரு Feetech STS3215 பஸ் சர்வோ சுமையின் கீழ் வளைகிறது, பின்னடைவைக் கொண்டுள்ளது, மேலும் அது சூடாகும் போது அதன் நடத்தை மாறுகிறது. SO-101 க்கான MJCF மாதிரி அதன் மோட்டார் அளவுருக்களை உங்கள் கையில் அடையாளம் காண்பதற்குப் பதிலாக ஒரு தொடர்பில்லாத திட்டத்திலிருந்து கடன் வாங்குகிறது.
- ரெண்டரிங். கேமரா இரைச்சல், ரோலிங் ஷட்டர், தானியங்கி வெளிப்பாடு மற்றும் உங்கள் மேசையின் சரியான நிறம் ரெண்டரில் இல்லை. இது Cosmos-Transfer1 மூட கட்டப்பட்ட இடைவெளியின் பாதி: அதன் ரோபோடிக்ஸ் விரிவாக்க பணிப்பாய்வு ஒரு ரோபோடிக்ஸ் செயற்கை உதாரணத்தை பிரித்தல், ஆழம் அல்லது விளிம்பு நிலைப்படுத்தலில் இருந்து பல யதார்த்தமான உதாரணங்களுக்கு வரைபடமாக்குகிறது.
- நேரம். ஒரு சிமுலேட்டர் ஒரு நிலையான விகிதத்தில் செயல்படுகிறது. ஒரு உண்மையான கட்டுப்பாட்டு சுழற்சி அவ்வாறு செய்யாது, மேலும் நீங்கள் தேர்ந்தெடுத்ததைப் பொறுத்து ஒரு செயல் படிக்கு மாதிரிக்கு 20 முதல் 485 ms வரை செலவாகும். inference latency ஐப் பார்க்கவும்.
- பொருள் புள்ளிவிவரங்கள். உருவகப்படுத்தப்பட்ட காட்சிகள் யாரோ ஒருவர் எழுதிய விநியோகத்திலிருந்து மாதிரி எடுக்கப்படுகின்றன. உங்கள் சமையலறை மேசை அவ்வாறு இல்லை.
உருவகப்படுத்தப்பட்ட SO-100 உங்கள் கையைப் பற்றி உண்மையில் என்ன அறிந்திருக்கிறது
மேலே உள்ள எதுவும் உங்கள் வார இறுதிக்கு மதிப்புள்ளதா என்பதை இது தீர்மானிக்கும் பகுதி, மேலும் முதல் ஆச்சரியம் என்னவென்றால், SO-100 மற்றும் SO-101 சமமாக சேவை செய்யப்படவில்லை. TheRobotStudio இன் SO-ARM100 களஞ்சியம் அதன் உருவகப்படுத்துதல் சொத்துக்களை Simulation/ இன் கீழ் வைத்திருக்கிறது. SO100 கோப்புறை ஒரு ஒற்றை URDF கோப்பை மட்டுமே கொண்டுள்ளது. SO101 கோப்புறை URDF மற்றும் MuJoCo கோப்புகள் இரண்டையும் கொண்டுள்ளது: scene.xml, so101_new_calib.xml, so101_old_calib.xml, பொருந்தும் URDFகள் மற்றும் ஒரு joints_properties.xml. நீங்கள் ஒரு இயக்கவியல் சங்கிலியை விட ஒரு இயற்பியல் மாதிரியை விரும்பினால், நீங்கள் SO-101 கோப்புகளை விரும்புகிறீர்கள்.
அவை Onshape இல் வடிவமைக்கப்பட்ட CAD மாதிரியிலிருந்து onshape-to-robot சொருகி மூலம் உருவாக்கப்பட்டன, அதாவது இயக்கவியல் மற்றும் காட்சி வலைகள் CAD ஐப் போலவே சிறப்பாக இருக்கும். இயக்கவியல் ஒரு வேறுபட்ட கதை, மேலும் களஞ்சியத்தின் README மூன்று விஷயங்களைப் பற்றி வெளிப்படையாகக் கூறுகிறது. உருவகப்படுத்துதல் மற்றும் திட்டமிடலின் போது சிக்கலான மோதல் நடத்தை காரணமாக அடிப்படை மோதல் வலைகள் அகற்றப்பட்டன. STS3215 மோட்டார் பண்புகள் SO-101 இல் அளவிடப்படுவதற்குப் பதிலாக Open Duck Mini திட்டத்திலிருந்து தழுவி எடுக்கப்பட்டுள்ளன. மேலும் LeRobot கிரிப்பர் மரபு, இதில் 0 முழுமையாக மூடப்பட்டதாகவும் 100 முழுமையாக திறந்ததாகவும் இருக்கும், இது URDF மற்றும் MuJoCo கோப்புகளில் இன்னும் வெளிப்படையாகப் பிரதிபலிக்கவில்லை. இவை ஒவ்வொன்றும், அந்த மாதிரியில் மட்டுமே பயிற்சி பெற்ற ஒரு கொள்கை உங்கள் மேசையில் வித்தியாசமாக செயல்படும் ஒரு இடமாகும்.
அனுப்பப்பட்ட MuJoCo கோப்புகளில் இரண்டு பூஜ்ஜிய மரபுகள் உள்ளன, மேலும் scene.xml எந்த ரோபோ கோப்பைச் சேர்க்கிறது என்பதன் மூலம் அவற்றுக்கிடையே தேர்ந்தெடுக்கிறது. so101_new_calib.xml இல், இயல்புநிலையாக, ஒவ்வொரு மூட்டின் மெய்நிகர் பூஜ்ஜியமும் அதன் மூட்டு வரம்பின் நடுவில் அமைகிறது. so101_old_calib.xml இல், ரோபோ கிடைமட்டமாக முழுமையாக நீட்டப்பட்டிருக்கும் உள்ளமைவு பூஜ்ஜியமாகும். உங்கள் உருவகப்படுத்தப்பட்ட அத்தியாயங்கள் ஒரு மரபையும், உங்கள் பதிவுசெய்யப்பட்ட உண்மையான அத்தியாயங்கள் மற்றொன்றையும் பயன்படுத்தினால், கலப்பு தரவுத்தொகுப்பில் உள்ள ஒவ்வொரு மூட்டு கோணமும் பல பத்து டிகிரி அளவுக்கு மாற்றப்படும், இழப்பு இன்னும் குறையும், மேலும் கொள்கை நம்பிக்கையுடன் தவறாகச் செயல்படும். நீங்கள் இணைந்து பயிற்சி செய்வதற்கு முன் இருபுறமும் உள்ள மரபைச் சரிபார்க்கவும், மேலும் முதலில் அளவுத்திருத்தம் மற்றும் இழப்பு குறைகிறது, கொள்கை எதுவும் செய்யவில்லை என்பதைப் படிக்கவும்.
டொமைன் ரேண்டமைசேஷன், மற்றும் அது சரிசெய்யாதவை
இந்த இடைவெளிக்கான நிலையான பதில், யதார்த்தத்துடன் பொருந்துவதை நிறுத்திவிட்டு, யதார்த்தம் அதற்குள் விழும் அளவுக்கு பரந்த விநியோகத்தில் பயிற்சி அளிப்பதாகும். டோபின் மற்றும் சகாக்கள் 2017 இல் இதன் வலுவான பதிப்பைக் காட்டினர்: யதார்த்தமற்ற சீரற்ற அமைப்புகளுடன் உருவகப்படுத்தப்பட்ட படங்களில் மட்டுமே பயிற்சி பெற்ற ஒரு பொருள் கண்டறிதல், உண்மையான படங்களில் எந்த முன் பயிற்சியும் இல்லாமல், உண்மையான பொருட்களை 1.5 செ.மீ துல்லியத்துடன் கண்டறிந்து, கவனச்சிதறல்கள் மற்றும் பகுதி மறைப்புகளுக்கு வலுவாக இருந்தது.
Isaac Lab ஆனது, நீங்கள் ஒரு சூழல் உள்ளமைவுடன் இணைக்கும் நிகழ்வுச் சொற்களைப் போன்ற அதே கருத்தை வெளிப்படுத்துகிறது. இவை, அவற்றின் உண்மையான செயல்பாட்டுப் பெயர்களால், isaaclab.envs.mdp இல் உள்ளன, எனவே நீங்கள் யூகிக்காமல் அவற்றைப் படித்துப் பார்க்கலாம்.
| நிகழ்வுச் செயல்பாடு | அது எதைச் சீர்குலைக்கிறது |
|---|---|
| randomize_rigid_body_material | தொடர்பு உராய்வு மற்றும் மீள்வு |
| randomize_rigid_body_mass, randomize_rigid_body_com | பொருள் மற்றும் இணைப்பு நிறை, நிறை மையத்தின் ஆஃப்செட்டுகள் |
| randomize_actuator_gains | மூட்டு கட்டுப்படுத்தி விறைப்பு மற்றும் தணிப்பு |
| randomize_joint_parameters, randomize_fixed_tendon_parameters | மூட்டு உராய்வு, ஆர்மச்சூர் மற்றும் வரம்புகள் |
| randomize_visual_texture_material, randomize_visual_color | தோற்றம், இடைவெளியின் ஒளி அளவீட்டு பாதி |
| randomize_physics_scene_gravity | ஈர்ப்பு திசையன் |
| apply_external_force_torque, push_by_setting_velocity | இயக்க நேர இடையூறுகள் |
| reset_root_state_uniform, reset_joints_by_offset | ஒவ்வொரு அத்தியாய மறுஅமைப்பிலும் ஆரம்ப நிலை பரவல் |
இதுதான் வரம்பு, மக்கள் தடுமாறும் ஒரு விஷயம் இதுதான். நீங்கள் உருவாக்கிய மாதிரியில் கொள்கை கண்ட விநியோகத்தை சீரற்றமயமாக்கல் விரிவுபடுத்துகிறது. சிமுலேட்டர் குறிப்பிடாத ஒரு இயற்பியல் விளைவை இது அறிமுகப்படுத்த முடியாது. உங்கள் STS3215 சர்வோக்களின் பின்னடைவு மற்றும் வெப்பச் சரிவை PhysX மாதிரியாக்கவில்லை என்றால், அவற்றின் விறைப்புத்தன்மையை சீரற்றமயமாக்குவது பின்னடைவு பற்றி கொள்கைக்கு எதையும் கற்றுக்கொடுக்காது. அதனால்தான் ஒரு கை ஒரு சிம்-பயிற்சி பெற்ற கொள்கையின் கீழ் சீரற்றமயமாக்கல்-பட்ஜெட் பிரச்சனை அல்ல. இது ஒரு மாதிரியாக்கல் பிரச்சனை.
கையேடு வழி: ஐசக் லேபில் தரவை உருவாக்குதல்
ஐசக் ஜிம் ஒரு மரபு மென்பொருள். NVIDIA-வின் சொந்தப் பக்கத்தில் "Isaac Gym - இப்போது கைவிடப்பட்டது" என்று தலைப்பிடப்பட்டுள்ளது, மேலும் டெவலப்பர்கள் அதை பதிவிறக்கம் செய்து தொடர்ந்து பயன்படுத்தலாம், ஆனால் அதற்கு ஆதரவு இல்லை என்றும், அதற்குப் பதிலாக ஐசக் லேப்-ஐப் பயன்படுத்தவும் என்று கூறுகிறது. வரலாற்றை அறிய விரும்பினால், நாங்கள் இரண்டையும் உள்ளடக்கியுள்ளோம்: மற்றும் . 2026-ல் புதிய பணிகளுக்கு, ஐசக் லேப்-ல் தொடங்கவும்.
- 1ஐசக் சிம் மற்றும் ஐசக் லேப்-ஐ நிறுவவும்
pip நிறுவல் பக்கம், இந்த வழிமுறைகள் Isaac Sim 5.X-க்கானவை என்றும், அதற்கு Python 3.11 தேவை என்றும் கூறுகிறது. மூல குறியீட்டை குளோன் செய்வது அடுத்த படிகளுக்குத் தேவையான ஸ்கிரிப்ட்களை உங்களுக்கு வழங்குகிறது.
bashpip install "isaacsim[all,extscache]==5.1.0" \ --extra-index-url https://pypi.nvidia.com git clone https://github.com/isaac-sim/IsaacLab.git --branch main cd IsaacLab sudo apt install cmake build-essential ./isaaclab.sh --install # smoke test ./isaaclab.sh -p scripts/tutorials/00_sim/create_empty.py - 2சுமார் பத்து மனித செயல்விளக்கங்களைப் பதிவு செய்யவும்
ஐசக் லேப் ஆவணங்கள் குறிப்பிட்டவை: பின்வரும் படிகள் வெற்றிபெற சுமார் 10 வெற்றிகரமான செயல்விளக்கங்கள் தேவை. அதன் குறிப்புகள் சமமாக குறிப்பிட்டவை. செயல்விளக்கங்களைச் சுருக்கமாக வைத்திருங்கள், தன்னிச்சையான அச்சுகளில் நகர்வதற்குப் பதிலாக நேரடிப் பாதையைத் தேர்ந்தெடுங்கள், மேலும் இடைநிறுத்த வேண்டாம், ஏனெனில் ஒரு கொள்கைக்கு ஏன், எப்போது இடைநிறுத்த வேண்டும் என்பது தெளிவாகத் தெரியாது.
bash./isaaclab.sh -p scripts/tools/record_demos.py \ --task Isaac-Stack-Cube-Franka-IK-Rel-v0 \ --device cpu \ --teleop_device spacemouse \ --dataset_file ./datasets/dataset.hdf5 \ --num_demos 10 - 3துணைப்பணி எல்லைகளைக் குறிக்கவும்
Mimic உள்ளீட்டு செயல்விளக்கங்களை துணைப் பணிகளாகப் பிரிக்கிறது, இதனால் அது பிரிவுகளை மீண்டும் நேரம் மற்றும் மீண்டும் இலக்கு வைக்க முடியும். --auto கொடி, தானியங்கி குறிப்பீட்டை வரையறுக்கும் பணிகளுக்கு மனித தலையீடு இல்லாமல் இதைச் செய்கிறது; அது இல்லாமல் நீங்கள் B உடன் இடைநிறுத்தலாம், N உடன் தொடரலாம் மற்றும் S உடன் ஒரு எல்லையைக் குறிக்கலாம். பணி ஐடிக்கு -Mimic பின்னொட்டு சேர்க்கப்படுவதைக் கவனிக்கவும்.
bash./isaaclab.sh -p scripts/imitation_learning/isaaclab_mimic/annotate_demos.py \ --device cpu \ --task Isaac-Stack-Cube-Franka-IK-Rel-Mimic-v0 \ --auto \ --input_file ./datasets/dataset.hdf5 \ --output_file ./datasets/annotated_dataset.hdf5 - 4பெருக்கப்பட்ட தரவுத்தொகுப்பை உருவாக்கவும்
இது 10-ஐ 1000 ஆக மாற்றும் படி. Mimic ஒவ்வொரு வேட்பாளருக்கும் ஒரு பூலியன் வெற்றி அளவுகோலைப் பயன்படுத்துகிறது மற்றும் பணியை முடித்தவற்றை மட்டுமே வைத்திருக்கிறது, எனவே வெளியீட்டு எண்ணிக்கை சோதனைகளின் எண்ணிக்கையை விட குறைவாக இருக்கும். ஆவணங்கள் அந்த வேட்பாளர் வெற்றி விகிதத்தை எளிய சந்தர்ப்பங்களில் 70 சதவீதம் வரையிலும், கடினமான பணிகள் மற்றும் சிக்கலான ரோபோக்களுக்கு 1 சதவீதத்திற்கும் குறைவாகவும் குறிப்பிடுகின்றன: Franka கியூப் ஸ்டேக்கிற்கு சுமார் 50 சதவீதம், மற்றும் GR1T2 பிக் அண்ட் பிளேஸிற்கு 65 முதல் 80 சதவீதம் வரை, அங்கு 1000 டெமோக்கள் 18 முதல் 40 நிமிடங்கள் ஆகும் (80 சதவீதத்தில் RTX ADA 6000 இல் 19 நிமிடங்கள்).
bash./isaaclab.sh -p scripts/imitation_learning/isaaclab_mimic/generate_dataset.py \ --device cpu \ --num_envs 10 \ --generation_num_trials 1000 \ --headless \ --input_file ./datasets/annotated_dataset.hdf5 \ --output_file ./datasets/generated_dataset.hdf5 - 5HDF5-ஐ ஒரு LeRobot தரவுத்தொகுப்பாக மாற்றவும்
மேலே உள்ள அனைத்தும் robomimic-சுவையுடைய HDF5-ஐ உருவாக்குகிறது, மேலும் ஐசக் லேப் கோர் அதன் சொந்த LeRobot மாற்றி எதையும் அனுப்பவில்லை: அதன் ஆவணங்கள் உருவாக்கப்பட்ட தரவுத்தொகுப்பை LeRobot வடிவத்திற்கு மாற்றலாம் என்று மட்டுமே கூறுகின்றன. இரண்டு திட்டங்கள் உண்மையான மாற்றியை வழங்குகின்றன. IsaacLab-Arena ஒரு YAML உள்ளமைவால் முழுமையாக இயக்கப்படும் GR00T-ஐ இலக்காகக் கொண்ட ஒன்றை வழங்குகிறது, மேலும் LeIsaac SO-101 வழித்தடத்திற்கான அதன் சொந்த ஜோடியை வழங்குகிறது (கீழே காண்க).
bash# IsaacLab-Arena, GR00T LeRobot format python isaaclab_arena_gr00t/lerobot/convert_hdf5_to_lerobot.py \ --yaml_file isaaclab_arena_gr00t/lerobot/config/gr1_manip_config.yaml
2026 ஆகஸ்ட் 23 அன்று, main-க்கான ஐசக் லேப் ஆவணங்கள் ஒரு ஐசக் சிம் 6.0.1 பேட்ஜைக் கொண்டுள்ளன மற்றும் v2.3.2 உடன் அதன் பதிப்பு மாற்றியில் release/3.0.0 மற்றும் v3.0.0-beta2 ஐ வழங்குகின்றன, அதே மரத்தில் உள்ள pip நிறுவல் பக்கம் இன்னும் isaacsim[all,extscache]==5.1.0 ஐப் பயன்படுத்துகிறது மற்றும் வழிமுறைகள் ஐசக் சிம் 5.X-க்கானவை என்று விவரிக்கிறது. NVIDIA synthetic-manipulation-motion-generation ப்ளூபிரிண்ட் கண்டெய்னர் மீண்டும் பழையது: ஐசக் சிம் 4.5.0 இல் ஐசக் லேப் 2.0.2. LeIsaac-ன் சொந்த இணக்கத்தன்மை அட்டவணை ஐசக் சிம் 5.1 ஐ ஐசக் லேப் v2.3.0 உடன் இணைக்கிறது. இந்த மரங்கள் ஆவணங்கள் இணங்குவதை விட வேகமாக நகர்கின்றன. ஒரு வெளியீட்டைத் தேர்ந்தெடுத்து, அதை எழுதி வைத்துக் கொள்ளுங்கள், மேலும் மூன்று மாதங்களுக்கு முன்பு எழுதப்பட்ட ஒரு பயிற்சியைப் பின்பற்றினால் ஸ்கிரிப்ட் பாதைகள் மற்றும் கொடி பெயர்கள் மாறியிருக்கலாம் என்று எதிர்பார்க்கலாம்.
உருவாக்கும் முயற்சிகள் ஏன் தோல்வியடைகின்றன, மற்றும் எதை மாற்ற வேண்டும்
70 சதவீதத்திற்கும் 1 சதவீதத்திற்கும் குறைவாகவும் ஊசலாடும் ஒரு வேட்பாளர் வெற்றி விகிதம் ஒரு மர்மம் அல்ல, மேலும் ஐசக் லேப் பொதுவான சிக்கல்களை நீங்கள் யூகிக்க விடாமல் ஆவணப்படுத்துகிறது. அவை ஒவ்வொன்றும் பதிவு செய்யும் நேரத்தில் நீங்கள் கட்டுப்படுத்தும் ஒன்று, அதனால்தான் முதல் ஏமாற்றமளிக்கும் தலைமுறை ஓட்டத்திற்குப் பிறகு அல்லாமல், பத்து விதை விளக்கக்காட்சிகளைப் பதிவு செய்வதற்கு முன் இந்த பட்டியலைப் படிப்பது பயனுள்ளது.
- விளக்கக்காட்சிகள் மிக நீளமாக உள்ளன. நீண்ட கால எல்லை ஒரு கொள்கைக்கு கற்றுக்கொள்வது கடினம். முதல் பொருளுக்கு அருகில் தொடங்கி இயக்கத்தைக் குறைக்கவும்.
- விளக்கக்காட்சிகள் சீராக இல்லை. ஒழுங்கற்ற இயக்கத்தை ஒரு கொள்கையால் புரிந்துகொள்வது கடினம், மேலும் சிறந்த டெலிஆபரேஷன் வன்பொருள் சிறந்த தரவை வழங்குகிறது: ஒரு SpaceMouse ஒரு விசைப்பலகையை விட சிறந்தது என்று ஆவணங்கள் தெளிவாகக் கூறுகின்றன.
- இடைநிறுத்தங்கள். இடைநிறுத்தங்களைக் கற்றுக்கொள்வது கடினம், ஏனெனில் ஒரு கொள்கைக்கு ஏன், எப்போது இடைநிறுத்த வேண்டும் என்பது தெளிவாகத் தெரியவில்லை. இயக்கத்தை சீராக வைத்திருங்கள்.
- அதிக துணைப்பணிகள். அதிக துணைப்பணிகள் என்பது பாதை பிரிவுகளுக்கு இடையில் அதிக இணைப்பைக் குறிக்கிறது, இது குறைவான சீரான இயக்கம் மற்றும் குறைந்த தலைமுறை வெற்றி விகிதத்தை அளிக்கிறது. கை எதனுடனும் மோத வாய்ப்பில்லாத எல்லைகளைக் குறிக்கவும்.
- செயல்பாட்டு இரைச்சல் இல்லை. செயல்பாட்டு இரைச்சல் விளைவாக வரும் கொள்கைகளை மிகவும் வலுவானதாக ஆக்குகிறது.
- பதிவு மிக இறுக்கமாக வெட்டப்பட்டது. வெற்றிச் சொல் தூண்டப்படும் சரியான சட்டகத்தில் பதிவு நிறுத்தப்பட்டால், அது மீண்டும் இயக்கத்தின் போது மீண்டும் தூண்டப்படாமல் போகலாம். இறுதியில் ஒரு இடையகத்தை விடவும்.
- நிர்ணயிக்க முடியாத மறுபயன்பாடு. ஐசக் லேபில் உள்ள இயற்பியல் env.reset முழுவதும் நிர்ணயிக்கப்பட்ட முறையில் மீண்டும் உருவாக்க முடியாது, எனவே சில மனித டெமோக்கள் மறுபயன்பாட்டில் தோல்வியடைகின்றன. உங்களுக்குத் தேவையானதை விட அதிகமாகச் சேகரித்து, குறிப்பீட்டில் தப்பிப்பிழைத்தவற்றை வைத்திருங்கள். Mimic-உருவாக்கப்பட்ட HDF5 கோப்பில் உள்ள அனைத்தும் ஒரு வெற்றிகரமான டெமோ ஆகும், மேலும் மறுபயன்பாடு பின்னர் தோல்வியடைந்தாலும் பயிற்சிக்கு பயன்படுத்தப்படலாம்.
இணைக்கப்பட்ட துணைப்பணிப் பிரிவுகளுக்கு இடையிலான இடைக்கணிப்பு படிக்கு அதன் சொந்த சரிசெய்தல் குமிழ் உள்ளது, மேலும் உங்களுக்குத் தேவையான இடைக்கணிப்பு படிகளின் எண்ணிக்கை ரோபோ எவ்வளவு வேகமாக நகர்கிறது மற்றும் பொருள் மீட்டமைப்பு விநியோகம் எவ்வளவு அகலமாக உள்ளது என்பதைப் பொறுத்து மாறுபடும். ஒரு பெரிய மீட்டமைப்பு விநியோகத்துடன் கூடிய ஒரு சிக்கலான பணி பிரிவுகளுக்கு இடையில் பெரிய இடைவெளிகளை விட்டுச்செல்கிறது, இது தொடர்ச்சியான இயக்கமாக வெளிவர அதிக இடைக்கணிப்பு படிகள் தேவைப்படுகிறது. உங்கள் உருவாக்கப்பட்ட வீடியோக்கள் கை கட்டங்களுக்கு இடையில் தடுமாறுவதைக் காட்டினால், விதை டெமோக்களைக் குறை கூறுவதற்கு முன் பார்க்க வேண்டிய அளவுரு அது.
SO-101 இல் அதே பைப்லைன், உண்மையான லீடர் கையுடன்
இந்தப் பக்கத்தைப் படிக்கும் எவருக்கும் இது சுவாரஸ்யமானது, ஏனெனில் இது ஒரு ஐசக் லேபிற்குள் வைத்து, உங்களிடம் ஏற்கனவே உள்ள இயற்பியல் லீடர் ஆர்ம் மூலம் அதை இயக்க அனுமதிக்கும் ஒரே திறந்த பைப்லைன் ஆகும். இந்தக் கட்டுரையை எழுதும் நேரத்தில் LeIsaac, பதிப்பு 0.4.0, LeRobot இன் EnvHub உடன் ஒருங்கிணைக்கப்பட்ட அதிகாரப்பூர்வ பிரதிபலிப்பு-கற்றல் உருவகப்படுத்துதல் விளையாட்டு மைதானமாகும். அதன் இணக்கத்தன்மை அட்டவணை மூன்று வேலை செய்யும் சேர்க்கைகளை பட்டியலிடுகிறது; புதியது ஐசக் சிம் 5.1 ஐ ஐசக் லேப் v2.3.0, CUDA 12.8, PyTorch 2.7.0 மற்றும் Python 3.11 உடன் இணைக்கிறது, மேலும் ஆவணங்கள் 50-சீரிஸ் கார்டுகளுக்கு ஐசக் சிம் 5.0 அல்லது புதிய பதிப்பை பரிந்துரைக்கின்றன.
git clone https://github.com/LightwheelAI/leisaac.git --recursive
conda create -n leisaac python=3.11 && conda activate leisaac
conda install -c "nvidia/label/cuda-12.8.1" cuda-toolkit
pip install -U torch==2.7.0 torchvision==0.22.0 \
--index-url https://download.pytorch.org/whl/cu128
pip install "isaacsim[all,extscache]==5.1.0" --extra-index-url https://pypi.nvidia.com
sudo apt install cmake build-essential
cd leisaac/dependencies/IsaacLab && ./isaaclab.sh --install && cd ../..
pip install -e source/leisaac
pip install -e "source/leisaac[lerobot]"
pip install numpy==1.26.0அது நிறுவப்பட்டவுடன், /dev/ttyACM0 இல் உள்ள லீடர் ஆர்ம் உருவகப்படுத்தப்பட்ட ஃபாலோவரை இயக்குகிறது மற்றும் நேரடியாக HDF5 இல் பதிவு செய்கிறது. லூப் என்பது உண்மையான பதிவிலிருந்து உங்களுக்கு ஏற்கனவே தெரிந்த ஒன்றுதான், ஃபாலோவர் மட்டும் PhysX இல் ஒரு திடமான உடல்.
python scripts/environments/teleoperation/teleop_se3_agent.py \
--task=LeIsaac-SO101-PickOrange-v0 \
--teleop_device=so101leader \
--port=/dev/ttyACM0 \
--num_envs=1 \
--device=cuda \
--enable_cameras \
--record \
--dataset_file=./datasets/dataset.hdf5| சுற்றுச்சூழல் ID | பணி விளக்கம் | ரோபோ |
|---|---|---|
| LeIsaac-SO101-PickOrange-v0 | மூன்று ஆரஞ்சு பழங்களை எடுத்து தட்டில் வைத்து, பின்னர் கையை ஓய்வு நிலைக்கு மீட்டமைக்கவும். | Single-arm SO101 follower |
| LeIsaac-SO101-LiftCube-v0 | சிவப்பு கனசதுரத்தை மேலே தூக்கவும். | Single-arm SO101 follower |
| LeIsaac-SO101-CleanToyTable-v0 | இரண்டு 'e' எழுத்து பொருட்களை பெட்டியில் எடுத்து வைத்து, பின்னர் கையை ஓய்வு நிலைக்கு மீட்டமைக்கவும். | Single-arm SO101 follower |
| LeIsaac-SO101-CleanToyTable-BiArm-v0 | இரண்டு கைகளுடன் அதே பணி. | Bi-arm SO101 follower |
| LeIsaac-SO101-FoldCloth-BiArm-v0 | துணியை மடித்து, பின்னர் கையை ஓய்வு நிலைக்கு மீட்டமைக்கவும். DirectEnv மாறுபாடு மட்டுமே check_success ஐ ஆதரிக்கிறது. | Bi-arm SO101 follower |
| LeIsaac-LeKiwi-CleanupTrash-v0 | தரையில் இருந்து திசு குப்பைகளை எடுத்து குப்பை தொட்டியில் எறியவும். | LeKiwi |
அந்த பெரும்பாலான IDகள் ஒரு -Direct-v0 மாறுபாட்டிலும் உள்ளன, மேலும் python scripts/environments/list_envs.py தற்போதைய பட்டியலை அச்சிடுகிறது. நீங்கள் HDF5 ஐ முழுமையாகத் தவிர்த்து, மூன்று கொடிகளைச் சேர்ப்பதன் மூலம் தொலை இயக்கத்தின் போது LeRobot வடிவத்தில் எழுதலாம். ஆவணத்திலிருந்தே இரண்டு எச்சரிக்கைகள் வருகின்றன: ஆரம்ப நிலைகளில் இருந்து ஏற்படும் நிலையற்ற தன்மையைத் தவிர்க்க, ஒவ்வொரு எபிசோடின் முதல் 5 பிரேம்களை ரெக்கார்டர் தானாகவே தவிர்க்கிறது, மேலும் இது தொலை இயக்கத்தில் சிறிய தாமதங்களை ஏற்படுத்தலாம், இது உங்கள் விளக்கங்களின் தன்மையை அமைதியாக மாற்றும் ஒரு விஷயமாகும். பணி வெற்றிகரமாகக் குறிக்கப்பட்ட எபிசோட்களை மட்டுமே இது வெளியேற்றுகிறது.
python scripts/environments/teleoperation/teleop_se3_agent.py \
--task=LeIsaac-SO101-PickOrange-v0 \
--teleop_device=so101leader \
--port=/dev/ttyACM0 \
--num_envs=1 --device=cuda --enable_cameras --record \
--use_lerobot_recorder \
--lerobot_dataset_repo_id=<your-user>/<dataset-name> \
--lerobot_dataset_fps=30பெருக்கல் படி பின்னர் அந்த பதிவுகளில் இயங்குகிறது. LeIsaac, Isaac Lab Mimic ஐ நான்கு கட்டளைகளில் இணைக்கிறது, ஏனெனில் Mimic ஆனது இறுதி-செயல்பாட்டாளர் மற்றும் பொருள் நிலைகளில் இருந்து பாதைகளை பொதுமைப்படுத்துகிறது: கூட்டு-இடைவெளி செயல்களை IK-அடிப்படையிலான செயல்களாக மாற்றுதல், குறிப்புரைத்தல், உருவாக்குதல், பின்னர் கூட்டு இடைவெளிக்கு மீண்டும் மாற்றுதல்.
python scripts/mimic/eef_action_process.py \
--input_file ./datasets/mimic-lift-cube-example.hdf5 \
--output_file ./datasets/processed_mimic-lift-cube-example.hdf5 \
--to_ik --headless
python scripts/mimic/annotate_demos.py --device cuda \
--task LeIsaac-SO101-LiftCube-Mimic-v0 \
--input_file ./datasets/processed_mimic-lift-cube-example.hdf5 \
--output_file ./datasets/annotated_mimic-lift-cube-example.hdf5 \
--enable_cameras
python scripts/mimic/generate_dataset.py --device cuda \
--num_envs 1 --generation_num_trials 10 \
--input_file ./datasets/annotated_mimic-lift-cube-example.hdf5 \
--output_file ./datasets/generated_mimic-lift-cube-example.hdf5 \
--enable_cameras
python scripts/mimic/eef_action_process.py \
--input_file ./datasets/generated_mimic-lift-cube-example.hdf5 \
--output_file ./datasets/final_generated_mimic-lift-cube-example.hdf5 \
--to_joint --headlessபின்னர் LeRobot ஆக மாற்றவும். இது தளத்தின் வடிவமைப்பு விதி பொருந்தும் படி, LeIsaac உங்களுக்குத் தேவையான இரண்டு மாற்றிகளை (converters) சரியாக வழங்குகிறது: isaaclab2lerobot.py LeRobot v2 ஐ எழுதுகிறது, இது GR00T லோடர்கள் எடுக்கும் வடிவம், மற்றும் isaaclab2lerobotv3.py v3 ஐ எழுதுகிறது , மற்றும் . இந்த இரண்டு ஸ்கிரிப்ட்களும் ஒரே மாதிரியான வாதங்களை (arguments) எடுத்துக்கொள்கின்றன, ஆனால் வெவ்வேறு lerobot பதிப்புகளைப் பயன்படுத்துகின்றன, மேலும் வெற்றிகரமான எபிசோடுகள் மட்டுமே மாற்றப்படுகின்றன.
pip install lerobot==0.3.3
pip install numpy==1.26.0
python scripts/convert/isaaclab2lerobot.py \
--task_name=LeIsaac-SO101-PickOrange-v0 \
--repo_id=<your-user>/so101_pick_orange_sim \
--hdf5_root=./datasets \
--hdf5_files=dataset.hdf5NVIDIA Brev இல் முழு அடுக்கையும் (stack) இயக்குவதை LeIsaac ஆவணப்படுத்துகிறது: வரிசைப்படுத்தி (deploy), போர்ட் 80 இணைப்பைக் கிளிக் செய்து, உலாவி அடிப்படையிலான VS Code சேவையகத்தைத் (server) திறக்கவும், மேலும் நான்கு முன் நிறுவப்பட்ட சூழ்நிலைகளை (scenarios) --kit_args="--no-window --enable omni.kit.livestream.webrtc" உடன் இயக்கவும், அதே முகவரியில் /viewer ஐச் சேர்த்து ரெண்டரைக் (render) காணலாம். உங்கள் மேசைக்கு அடியில் ஒரு பணிநிலைய அட்டை (workstation card) இல்லையென்றால், உங்கள் பணியின் உருவகப்படுத்தப்பட்ட பதிப்பு (simulated version) வன்பொருளை (hardware) ஒதுக்குவதற்கு முன் நெருக்கமாக இருக்கிறதா என்பதைக் கண்டறிய இது ஒரு மலிவான வழியாகும்.
பயிற்சி பெற்ற கொள்கைக்கு இரண்டு வழிகள்
நீங்கள் காட்சியை உருவாக்கி, தரவை உருவாக்கி, GPU-ஐ வாடகைக்கு எடுத்து, சேவையை நீங்களே இணைக்கிறீர்கள். பணிக்கு நீங்கள் உடல் ரீதியாக அமைக்க முடியாத சூழல் மாறுபாடு தேவைப்பட்டால், அல்லது மீண்டும் மீண்டும் செய்யக்கூடிய மதிப்பீட்டை விரும்பினால் இது சரியான தேர்வாகும்.
- Isaac Sim 5.1 மற்றும் Isaac Lab-ஐ நிறுவவும், அல்லது உங்கள் ரோபோ SO-101 ஆக இருந்தால் LeIsaac ஸ்டேக்கை நிறுவவும்.
- காட்சியை மாதிரியாக்கவும் அல்லது இறக்குமதி செய்யவும். இது யாரும் பட்ஜெட் செய்யாத படிநிலை மற்றும் பொதுவாக மிக நீண்டது.
- உருவகப்படுத்தப்பட்ட பின்தொடர்பவர் மூலம் தோராயமாக 10 தெளிவான விளக்கங்களை பதிவு செய்யவும்.
- துணைப் பணிகளை குறியிடவும், generate_dataset.py-ஐ இயக்கவும், மேலும் தோல்விகள் நிராகரிக்கப்படுவதை ஏற்றுக்கொள்ளவும்.
- HDF5-ஐ LeRobot வடிவத்திற்கு மாற்றவும், GR00T-க்கு v2 மற்றும் மற்றவற்றுக்கு v3-ஐ தேர்வு செய்யவும்.
- எப்படியும் உண்மையான அத்தியாயங்களை இயற்பியல் கையில் பதிவு செய்யவும், பின்னர் கலவையில் இணைந்து பயிற்சி செய்யவும்.
- ஒரு GPU-ஐ வாடகைக்கு எடுக்கவும், ஃபைன்-ட்யூன் இயக்கவும், கையின் அருகில் செக்பாயிண்ட்டை வழங்கவும்.
| வளம் | ஆதாரங்கள் கூறுவது |
|---|---|
| உள்ளூர் உருவகப்படுத்துதல் GPU | NVIDIA செயற்கை-கையாளுதல் ப்ளூபிரிண்ட் Ubuntu 22.04 மற்றும் 48 GB VRAM கொண்ட NVIDIA RTX A6000-ஐக் கோருகிறது |
| உலக-மாதிரி முனை | அதே ப்ளூபிரிண்ட் Isaac Lab உருவகப்படுத்துதலில் இருந்து தனித்த ஒரு முனையில் 80 GB கொண்ட H100 அல்லது அதற்கு மேற்பட்டதைக் கோருகிறது |
| கண்டெய்னர் பதிப்புகள் | அந்த ப்ளூபிரிண்ட் படத்திற்குள் Isaac Sim 4.5.0-இல் Isaac Lab 2.0.2 |
| உருவாக்கும் திறன் | Isaac Lab 1000 GR1T2 பிக்-அண்ட்-பிளேஸ் டெமோக்களை 18 முதல் 40 நிமிடங்களில், RTX ADA 6000-இல் 80 சதவீத வெற்றியுடன் 19 நிமிடங்களில் அறிக்கை செய்கிறது |
| நியூரல் ட்ராஜெக்டரி செலவு | GR00T N1 ஆனது சுமார் 105,000 L40 GPU மணிநேரங்களை, தோராயமாக 3,600 L40-களில் 1.5 நாட்கள், அதன் 827 மணிநேர கனவுகளுக்கு அறிக்கை செய்கிறது |
1000 ட்ராஜெக்டரிகளை உருவாக்குவது ஒரு மதியப் பொழுதாகும். உங்கள் காட்சி, உங்கள் கேமரா எக்ஸ்ட்ரின்சிக்ஸ், உங்கள் பொருள் மெஷ்கள் மற்றும் உங்கள் சர்வோ மாடல் ஆகியவை அந்த ட்ராஜெக்டரிகள் மாற்றப்படும் அளவுக்கு நெருக்கமாகப் பெறுவதுதான் வாரங்கள் செலவாகும். மாதிரியாக்கத்திற்கு பட்ஜெட் செய்யுங்கள், மாதிரி எடுப்பதற்கு அல்ல.
இந்த தளம் வேண்டுமென்றே குறுகலானது. இது ஒரு சிமுலேட்டரை இயக்குவதில்லை மற்றும் செயற்கை தரவை உருவாக்குவதில்லை. இது ஒரு LeRobot தரவுத்தொகுப்பை, நீங்கள் எந்த வழியில் அதை உருவாக்கினாலும், எடுத்து அதை ஒரு சேவை செய்யப்பட்ட . உங்கள் Isaac Lab வெளியீடு சுத்தமாக மாற்றப்பட்டால் ஒரு செல்லுபடியாகும் உள்ளீடாகும்.
- 1தரவுத்தொகுப்பைக் கொண்டு வாருங்கள்
டெஸ்க்டாப் கிளையண்ட் மூலம் ஒரு டெலிஆபரேஷன் அமர்வில் இருந்து நேரடியாகப் பதிவு செய்யவும், ஒரு Hugging Face ரெப்போ ஐடி-ஐ சுட்டிக்காட்டவும், அல்லது மாற்றப்பட்ட சிமுலேட்டர் ஏற்றுமதியை பதிவேற்றவும்.
- 2மாடல் மற்றும் கையைத் தேர்ந்தெடுக்கவும்
/train-இல் உள்ள மேட்ரிக்ஸ் ஐந்து பயிற்சி செய்யக்கூடிய கொள்கைகளில் ஒவ்வொன்றையும் ஆதரிக்கப்படும் ஒவ்வொரு கையுடனும் இணைக்கிறது மற்றும் அந்த சரியான வழிகாட்டிக்கு இணைக்கிறது.
- 3பின்தளம் GPU-ஐ வாடகைக்கு எடுக்கட்டும்
பயிற்சியாளர் தேவையான VRAM மூலம் ஒரு ஸ்பாட்-மார்க்கெட் GPU-ஐத் தேர்ந்தெடுத்து, வேலையை இயக்கி, செக்பாயிண்ட்களை ஆப்ஜெக்ட் ஸ்டோரேஜில் எழுதுகிறார். எந்த கிளஸ்டரையும் உயிருடன் வைத்திருக்க வேண்டியதில்லை.
- 4அதை மீண்டும் கைக்கு வழங்கவும்
இன்ஃபரன்ஸ் பாட் தானாகவே வழங்கப்படுகிறது, உள்ளூர் ரோபோ கிளையண்ட் அந்த எண்ட்பாயிண்ட்டுடன் பேசுகிறது, மேலும் ஒரு செயலற்ற வாட்ச்டாக் பாட்டை அழிக்கிறது, அதனால் எதுவும் அமைதியாக பில் செய்யப்படாது.
| மாடல் | GPU அடுக்கு | குறைந்தபட்ச அத்தியாயங்கள் | தரவுத்தொகுப்பு வடிவம் | வழக்கமான இயக்கச் செலவு |
|---|---|---|---|---|
| GR00T N1.7 | A100 80 GB or H100 80 GB | 50 | LeRobot v2.0 or v2.1 | 4 to 12 USD |
| GR00T N1.5 | A100 80 GB or H100 80 GB | 50 | LeRobot v2.0 or v2.1 | 4 to 12 USD |
| Pi0.5 | A100 80 GB or H100 80 GB | 50 | LeRobot v3.0 | 4 to 12 USD |
| SmolVLA | RTX 4090 or any 24 GB card | 30 | LeRobot v3.0 | 1 to 3 USD |
| ACT | RTX 4090 or any 24 GB card | 50 | LeRobot v3.0 | 1 to 3 USD |
வடிவ நெடுவரிசையைக் கவனியுங்கள், மேலும் LeIsaac இரண்டு மாற்றிகளை அனுப்புவதற்கு இதுவே காரணம் என்பதையும் கவனியுங்கள். ஒரு LeRobot v3.0 தரவுத்தொகுப்பு GR00T லோடரை செயலிழக்கச் செய்கிறது மற்றும் முதலில் v2.1 ஆக மாற்றப்பட வேண்டும், இது மிகவும் பொதுவான நிராகரிப்பாகும். நீங்கள் அதை எதிர்கொண்டால், அதற்கான பக்கம்.
வீடியோ உலக மாதிரிகள்: புதிய அடுக்கு, மற்றும் குறைவாக அளவிடப்பட்டது
DreamGen-இன் பின்னணியில் உள்ள யோசனை என்னவென்றால், இலக்கு ரோபோவின் உருவத்திற்கு ஏற்ற ஒரு வீடியோ ஜெனரேட்டிவ் மாடல், நீங்கள் ஒருபோதும் பார்வையிடாத காட்சிகளில் நம்பத்தகுந்த அத்தியாயங்களை கற்பனை செய்ய முடியும். இந்த பைப்லைன் நான்கு நிலைகளைக் கொண்டுள்ளது: வீடியோ உலக மாடலை ஃபைன்-ட்யூன் செய்தல், புகைப்பட யதார்த்தமான செயற்கை ரோபோ வீடியோக்களை உருவாக்குதல், ஒரு மறைமுக செயல் மாதிரி அல்லது தலைகீழ் இயக்கவியல் மாதிரி மூலம் போலி-செயல் வரிசைகளை மீட்டெடுத்தல், பின்னர் முடிவின் அடிப்படையில் ரோபோ கொள்கைக்கு பயிற்சி அளித்தல். NVIDIA-இன் GR00T-dreams களஞ்சியம் அதை சரியாக செயல்படுத்துகிறது.
தலைப்புச் செய்தி உண்மையானது மற்றும் தீவிரமாக எடுத்துக்கொள்ளத்தக்கது: ஒரே ஒரு சூழலில் ஒரு ஒற்றை எடுக்கும் மற்றும் வைக்கும் பணியிலிருந்து பெறப்பட்ட தொலைதூர இயக்கத் தரவு, காணப்பட்ட மற்றும் காணப்படாத சூழல்கள் இரண்டிலும், ஒரு மனித உருவத்தில் 22 புதிய நடத்தைகளை உருவாக்கியது. எச்சரிக்கை சமமாக உண்மையானது மற்றும் மூன்றாவது கட்டத்தில் உள்ளது.
- உண்மையான உலகில் உண்மையிலேயே விலை உயர்ந்த அச்சில் அவை அளவிடப்படுகின்றன: புதிய காட்சிகள், புதிய பொருள் ஏற்பாடுகள், அறிவுறுத்தலின் புதிய சொற்றொடர்கள்.
- GR00T-dreams அதன் செயல்-பிரித்தெடுத்தல் மற்றும் நுண்-சரிசெய்தல் ஸ்கிரிப்டுகளுக்கு நான்கு ஆதரிக்கப்படும் உருவகங்களை பட்டியலிடுகிறது: franka, gr1, robocasa மற்றும் so100. இது மனித உருவங்களுக்கு மட்டுமேயான ஒரு நுட்பம் அல்ல.
- Cosmos-Transfer1 இடைவெளியின் ஒளி அளவீட்டுப் பாதியை நேரடியாகத் தாக்குகிறது, ஒரு ரோபோடிக்ஸ் செயற்கை உதாரணத்தை பிரித்தல், ஆழம் அல்லது விளிம்பு நிலைப்படுத்தலில் இருந்து பல யதார்த்தமானவற்றுக்கு வரைபடமாக்குகிறது. Isaac Lab ஆனது scripts/tools/cosmos இன் கீழ் அதற்கான உடனடி கருவிகளை வழங்குகிறது.
- DreamGen பணி DreamGen Bench ஐ வழங்குகிறது, இது ஒரு வீடியோ-உருவாக்க அளவுகோலாகும், இது அளவுகோல் செயல்திறன் மற்றும் கீழ்நிலை கொள்கை வெற்றிக்கு இடையே ஒரு வலுவான தொடர்பைக் காட்டுகிறது, எனவே நீங்கள் பயிற்சி செய்வதற்கு முன் உருவாக்கங்களை திரையிடலாம்.
- செயல்கள் ஒரு மாதிரியால் மீட்டெடுக்கப்படுகின்றன, ஒரு குறியாக்கியால் அளவிடப்படுவதில்லை. சரியாகத் தோன்றும் ஒரு வீடியோ உங்கள் கையால் செயல்படுத்த முடியாத ஒரு கூட்டுப் பாதையை (joint trajectory) கொண்டிருக்கலாம்.
- உருவாக்கம் விலை உயர்ந்தது. GR00T N1 ஆனது ஒரு L40 இல் ஒரு வினாடி வீடியோவை உருவாக்க இரண்டு நிமிடங்கள் ஆகும் என்று தெரிவிக்கிறது, இது தோராயமாக 105,000 L40 GPU மணிநேரம், அதன் 827 மணிநேர நரம்பியல் பாதைகளுக்கு (neural trajectories) 3,600 L40 GPU களில் சுமார் 1.5 நாட்கள் ஆகும்.
- அளவிடப்பட்ட ஆதாயம் ஒற்றை இலக்கங்களில் உள்ளது: மூன்று தரவு முறைகளிலும் RoboCasa இல் 4.2, 8.8 மற்றும் 6.8 புள்ளிகள், மற்றும் 8 உண்மையான GR-1 பணிகளில் சராசரியாக 5.8 புள்ளிகள், ஏற்கனவே உண்மையான தரவுகளைக் கொண்டிருந்த ஒரு மாதிரியின் மேல்.
- 7.4 V ஹாபி-சர்வோ கைக்கு இதை முழுமையாக சரிபார்க்க எந்த வெளியிடப்பட்ட செய்முறையும் இல்லை. நீங்கள் போர்ட் செய்ய வேண்டும், பின்பற்றக்கூடாது.
சிமுலேஷனுடன் தொடர்பில்லாதது, ஆனால் யாராவது ஒரு சிமுலேட்டட் கையிலிருந்து ஒரு உண்மையான கைக்கு மாறி ஒரு மின்சார விநியோகத்தை மேம்படுத்தும் போதெல்லாம் இது நிகழ்கிறது. SO-100, SO-101 மற்றும் LeKiwi கை அனைத்தும் Feetech STS3215 சர்வோக்களை 7.4 V இல் இயக்குகின்றன. அவற்றுக்கு 12 V ஐ வழங்குவது அவற்றை அழித்துவிடும், மேலும் LeKiwi ஒரு குறிப்பிட்ட பொறியாகும், ஏனெனில் அதன் அடிப்படை ரயில் 12 V ஆகும். நீங்கள் எதையும் வயரிங் செய்வதற்கு முன் SO-100 வன்பொருள் பக்கத்தைப் பார்க்கவும்.
இணை-பயிற்சி என்பது உண்மையில் ஆதாயங்களைக் காட்டும் செய்முறையாகும்
இலக்கியத்திலிருந்து ஒரு செயல்பாட்டுப் பாடத்தை நீங்கள் எடுத்துக்கொண்டால், இதை எடுத்துக்கொள்ளுங்கள். சிம்-மற்றும்-உண்மை இணைப் பயிற்சி ஆய்வு (மட்டுக்கூரி மற்றும் சகாக்கள், 2025) பார்வை அடிப்படையிலான ரோபோ கையாளுதல் பணிகளைத் தீர்க்க உருவகப்படுத்துதல் தரவைப் பயன்படுத்துவதற்கான ஒரு எளிய செய்முறையைக் கண்டறிய முயன்றது, இது ஒரு ரோபோ கை மற்றும் ஒரு ஹியூமனாய்டு என இரண்டு களங்களில் மேற்கொள்ளப்பட்டது, மேலும் அதன் முடிவு என்னவென்றால், நீங்கள் ஒரு கலவையில் பயிற்சி செய்ய வேண்டும். உருவகப்படுத்துதல் தரவு நிஜ உலகப் பணி செயல்திறனை சராசரியாக 38 சதவீதம் மேம்படுத்தியது, மேலும் உருவகப்படுத்துதல் மற்றும் நிஜ உலகத் தரவுகளுக்கு இடையே குறிப்பிடத்தக்க வேறுபாடுகள் இருந்தபோதிலும் இது நிலைத்திருந்தது என்று ஆய்வறிக்கை தெளிவாகக் கூறுகிறது.
அந்த கடைசி வாக்கியம் 38 சதவீதத்தை விட முக்கியமானது. நிஜ தரவு கலவையில் அதை நிலைநிறுத்த இருக்கும் பட்சத்தில், உருவகப்படுத்துதல் பயனுள்ளதாக இருக்க ஒரு சரியான டிஜிட்டல் இரட்டையாக இருக்க வேண்டியதில்லை என்று இது அர்த்தப்படுத்துகிறது. சிம்-மட்டும் பரிமாற்றம் என்பது விலையுயர்ந்த பாதை: ஒரு கொள்கையை உருவகப்படுத்துதலில் மட்டுமே பயிற்சி செய்து அதை நிஜ உலகிற்கு மாற்றுவது, யதார்த்த இடைவெளியைக் குறைக்க கணிசமான மனித முயற்சியைக் கோருகிறது என்று அதே ஆய்வறிக்கை கூறுகிறது. இணைப் பயிற்சி, கொள்கையை தானாகவே இடைவெளியைக் குறைக்கச் சொல்லாததன் மூலம் பெரும்பாலான முயற்சியைத் தவிர்க்கிறது.

நடைமுறையில், இந்த தளத்தில், இணைப் பயிற்சி என்பது ஒரு விஷயத்தைக் குறிக்கிறது: இரண்டு எபிசோட் தொகுப்புகளையும் ஒரே LeRobot தரவுத்தொகுப்பு இல் சீரான கேமரா விசைகள், சீரான மூட்டு வரிசை மற்றும் சீரான அலகுகளுடன் வைத்து, பின்னர் ஒரு சாதாரண ஃபைன்-ட்யூன். பயிற்சி படிவத்தில் கலவை-எடை குமிழ் இல்லை. நீங்கள் 3:1 சிம்-டு-ரியல் விகிதத்தை விரும்பினால், தரவுத்தொகுப்பில் நீங்கள் எத்தனை எபிசோட்களை வைக்கிறீர்கள் என்பதன் மூலம் அதை வெளிப்படுத்துகிறீர்கள்.
சிமுலேஷனில் இருந்து கிடைக்கும் மலிவான வெற்றி பயிற்சி தரவு அல்ல
அது மதிப்பீடு. இரண்டு ஒப்பிடுவதற்கு ஒரு பணிக்கு டஜன் கணக்கான உண்மையான சோதனைகளை இயக்குவது ஒரு நாள் கை நேரம், மேலும் சோதனைகளுக்கு இடையில் கை நகர்கிறது. SIMPLER (Li மற்றும் சகாக்கள், 2024) உண்மையான கொள்கைகளுக்குப் பயிற்சி அளிப்பதை விட அவற்றை மதிப்பிடும் நோக்கத்துடன் உருவகப்படுத்தப்பட்ட சூழல்களை உருவாக்கியது, பின்னர் சிம் தரவரிசை உண்மையான தரவரிசையை எவ்வளவு சிறப்பாகக் கணிக்கிறது என்பதை அளவிட்டது. ஒரு தனி SIMPLER சூழல் ஒரு நுகர்வோர் RTX 4090 இல் 640 x 512 தெளிவுத்திறனில் வினாடிக்கு 3,500 சிமுலேஷன் படிகளில் ரெண்டர் செய்கிறது, இது 500 Hz சிமுலேஷன் அதிர்வெண்ணின் கீழ் உண்மையான மதிப்பீட்டை விட 7 மடங்கு வேகமானது.
| மதிப்பீட்டு நெறிமுறை | MMRV (குறைவாக இருப்பது நல்லது) | பியர்சன் r (அதிகமாக இருப்பது நல்லது) |
|---|---|---|
| சரிபார்ப்பு MSE | 0.375 | 0.308 |
| SIMPLER, மாறுபாடு ஒருங்கிணைப்பு | 0.143 | 0.778 |
| SIMPLER, காட்சி பொருத்தம் | 0.056 | 0.924 |
இவை ஆறு பொதுவான ஓப்பன் சோர்ஸ் செக்பாயிண்ட்களுக்கான மூன்று Google Robot பணி குழுக்களின் சராசரிகள்: வெவ்வேறு பயிற்சி நிலைகளில் மூன்று RT-1 செக்பாயிண்ட்கள், RT-1-X, RT-2-X மற்றும் Octo-Base. உண்மையான தரப்பு சீரான சோதனை எண்ணிக்கையைக் கொண்டிருக்கவில்லை, இதை மேற்கோள் காட்டுவதற்கு முன் தெரிந்து கொள்வது அவசியம்: கோக் கேனை எடுக்க 75 சோதனைகள், அருகில் நகர்த்த 60, டிராயரைத் திறக்க மற்றும் மூட 54 சோதனைகள் மற்றும் நீண்ட டிராயர்-மற்றும்-ஆப்பிள் பணிக்கு 27 சோதனைகள். சரிபார்ப்பு MSE உடன் ஒப்பிடுவது பயனுள்ள பகுதியாகும். சரிபார்ப்பு இழப்பால் மாதிரி தேர்வு இந்த செக்பாயிண்ட்களை மோசமாக தரவரிசைப்படுத்துகிறது, மேலும் காட்சி பொருத்தத்தின் கீழ் 0.924 Pearson r என்பது ஒரு செக்பாயிண்ட் SIMPLER இல் சிறப்பாக மதிப்பெண் பெற்றால், அது பெஞ்சிலும் சிறப்பாக மதிப்பெண் பெறும் என்று அர்த்தம். இது மீண்டும் மீண்டும் செய்யக்கூடிய ஒரு இரவுநேர ஸ்கோர்போர்டு, மேலும் சிம்-டு-ரியல் பயிற்சி பரிமாற்றம் பற்றி நீங்கள் எதையும் நம்ப வேண்டியதில்லை.

இந்த அளவுகோல் எண்கள் ஒரு பார்வை-மொழி-செயல் மாதிரி பற்றி உங்களுக்கு என்ன சொல்கின்றன, என்ன சொல்லவில்லை என்பது குறித்த பரந்த சூழலை நீங்கள் அறிய விரும்பினால், அதை நாங்கள் தனித்தனியாக VLA கண்ணோட்டம் இல் எழுதியுள்ளோம்.
இந்த தளம் உங்களுக்கு எங்கு உதவாது
எல்லைகளைப் பற்றி தெளிவாக இருப்பது அனைவருக்கும் நேரத்தை மிச்சப்படுத்துகிறது. AY-Robots என்பது பதிவுசெய்தல், பயிற்சி அளித்தல் மற்றும் சேவை செய்யும் தளமாகும். இதில் எந்த சிமுலேட்டரும் இல்லை.
- Isaac Lab இல்லை, MimicGen இல்லை, உலக மாதிரி இல்லை, காட்சி உருவாக்கம் இல்லை. உங்களுக்கு உருவாக்கப்பட்ட தரவு தேவைப்பட்டால், அதை வேறு எங்காவது உருவாக்கி முடிவுகளைக் கொண்டு வாருங்கள்.
- பயிற்சியாளர்கள் LeRobot தரவுத்தொகுப்புகளை மட்டுமே பயன்படுத்துகிறார்கள். ஒரு சிமுலேட்டர் ஏற்றுமதி உள்ளீடாக மாறுவதற்கு முன் மாற்றப்பட வேண்டும், மேலும் அது சரியான பதிப்பாக இருக்க வேண்டும்: GR00T N1.5 மற்றும் N1.7 க்கு v2.0 அல்லது v2.1, Pi0.5, SmolVLA மற்றும் ACT க்கு v3.0.
- GR00T இன் ஃபைன்-ட்யூனிங் நுழைவுப் புள்ளி ஒரு tyro CLI ஆகும், இது எந்த விதையையும் வெளிப்படுத்தாது, எனவே GR00T இயக்கங்கள் பிட்-க்கு-பிட் மறுஉருவாக்கம் செய்ய முடியாதவை. நீங்கள் ஒரு கவனமான சிம்-வெர்சஸ்-ரியல் அபிலேஷனை இயக்கினால், அது ஒரு உண்மையான வரம்பு. lerobot இன் சொந்த இயல்புநிலை விதை 1000 ஆகும், மேலும் ACT, SmolVLA மற்றும் Pi0.5 வடிவங்கள் ஒரு விதை புலத்தை வெளிப்படுத்துகின்றன.
- கிரேடியன்ட் குவிப்பு உண்மையில் இரண்டு GR00T பயிற்சியாளர்களுக்கு மட்டுமே பயன்படுத்தப்படுகிறது. Pi0.5 மற்றும் SmolVLA க்கு, புலம் வடிவத்தில் உள்ளது, ஆனால் lerobot 0.5.1 இல் அத்தகைய கொடி இல்லை, எனவே அது எதையும் செய்யாது.
- வேகமான பணிகளுக்கு, இன்ஃபரன்ஸ் சர்வோக்களுக்கு அடுத்ததாக இருக்க வேண்டும். கட்டுப்பாட்டு சுழற்சி மாதிரியைப் பொறுத்து ஒரு செயல் படிக்கு 20 முதல் 485 ms ஆகும், மேலும் பொது இணைய ரவுண்ட் ட்ரிப்களைச் சேர்ப்பது ஒரு செயல்படும் கொள்கையை தயக்கமானதாக மாற்றுகிறது. ரிமோட் இன்ஃபரன்ஸ் மெதுவான பிக்-அண்ட்-பிளேஸுக்கு சாத்தியமானது, வேகமான எதிர்வினை இயக்கத்திற்கு அல்ல.
ஒரு கையை சொந்தமாக வைத்திருக்காமல் ஒரு கூட்டுப் பயிற்சி கலவையின் உண்மையான பாதியை பதிவு செய்யவும். /live ஒரு உடல் SO-100 ஐ பதிவு இல்லாமல், வரிசை அடிப்படையிலான முறையில் ஒளிபரப்புகிறது, மேலும் ஆபரேட்டர் திட்டம் யாரோ ஒருவர் அவற்றை இயக்க வேண்டியிருப்பதால் உள்ளது. உங்களிடம் ஒரு சிமுலேட்டர் இருந்து உண்மையான எபிசோடுகள் இல்லை என்பது உங்கள் சிக்கலாக இருந்தால், இந்த தளம் அந்த இடைவெளியை மூடுகிறது.
நீங்கள் பாதுகாக்கக்கூடிய ஒரு பட்ஜெட்
ஒவ்வொன்றும் உண்மையில் வெளியிடும் எண்களுடன் இரண்டு வழிகளையும் அருகருகே வைத்தால், குறைந்த செலவில் இயங்கும் ஒரு ஒற்றைப் பணி திட்டத்திற்கான முடிவு பொதுவாக தானாகவே எடுக்கப்படும்.
| வரிசை உருப்படி | சிமுலேஷன் முதலில் | பதிவு முதலில் |
|---|---|---|
| முன்கூட்டிய மாடலிங் | காட்சி, மெஷ்கள், கேமரா பொருத்துதல், சர்வோ மாதிரி. நாட்கள் முதல் வாரங்கள் வரை | ஏதுமில்லை |
| தரவு சேகரிப்பு | சிமுலேஷனில் சுமார் 10 டெமோக்கள், பின்னர் உருவாக்கம் | 30 முதல் 50 உண்மையான எபிசோடுகள், சில மணிநேர டெலிஆபரேஷன் |
| சொந்தமாக வைத்திருக்க வேண்டிய வன்பொருள் | ஐசக் லேப் ப்ளூபிரிண்டிற்கு 48 GB கார்டு, காஸ்மோஸ் ஸ்டேஜிற்கு 80 GB | ஒரு கை மற்றும் ஒரு லேப்டாப் |
| பயிற்சி செலவு | வலதுபுற நெடுவரிசையில் உள்ளதைப் போன்றது, தரவு எங்கிருந்து வந்தது என்பது பயிற்சியாளருக்கு கவலையில்லை | 4090 அடுக்கில் 1 முதல் 3 USD, A100 அல்லது H100 அடுக்கில் 4 முதல் 12 USD |
| பயன்பாட்டின் சிறந்த ஆதாரம் | இணைப் பயிற்சி செய்யும்போது சராசரியாக 38 சதவீதம் உண்மையான உலக ஆதாயம், நரம்பியல் பாதைகளில் இருந்து 4 முதல் 9 புள்ளிகள் | மேலே உள்ள அனைத்தும் அளவிடப்படும் அடிப்படை |
| தோல்வியடையும் போது | உங்கள் பணி தொடர்பு, சிதைக்கக்கூடிய பொருட்கள் அல்லது சர்வோ இணக்கத்தன்மையைச் சார்ந்தது | உங்களால் உடல் ரீதியாக அமைக்க முடியாத சூழல் மாறுபாடு உங்களுக்குத் தேவைப்படும்போது |
SO-100 இல் முதல் கொள்கைக்கு, பதிவு செய்யவும். மற்றும் ஒரு காபியின் விலையில் ஒரு சேவை செய்யப்பட்ட செக்பாயிண்ட்டை உங்களுக்குக் கிடைக்கும், மேலும் எதிர்கால இணைப் பயிற்சி கலவையின் உண்மையான பாதியை நீங்கள் பெறுவீர்கள். உங்களிடம் ஒரு செயல்படும் அடிப்படை மற்றும் நீங்கள் பெயரிடக்கூடிய ஒரு குறிப்பிட்ட பொதுமைப்படுத்தல் தோல்வி இருக்கும்போது சிமுலேட்டரை அணுகவும், உதாரணமாக ஒரு கொள்கை .
உங்கள் மேசையில் இன்னும் கை இல்லையா?
உண்மையான SO-100 ஐ உலாவியில் இயக்கவும், வரிசை அடிப்படையிலானது, பதிவு தேவையில்லை, மேலும் ஒரு சிமுலேட்டரில் ஒரு வார இறுதியில் மாடலிங் செய்வதற்கு முன் ஒரு உண்மையான எபிசோட் எப்படி இருக்கும் என்பதைப் பார்க்கவும்.
உண்மையான கையை இயக்கவும்ஆதாரத்தை மதிக்கும் ஒரு செய்முறை
- 1முதலில் உண்மையான அடிப்படையைப் பதிவு செய்யவும்
30 episodes for SmolVLA, 50 for ACT, GR00T N1.7 மற்றும் Pi0.5 க்கு. ஒருமுறை பயிற்சி அளிக்கவும். அந்த கொள்கை எதில் தோல்வியடைகிறதோ அதுவே உங்கள் செயற்கை தரவுகளுக்கான விவரக்குறிப்பு.
- 2பொதுமைப்படுத்தல் தோல்வியை பெயரிடுங்கள்
பொருளின் நிலை? வெளிச்சம்? மேசை உயரம்? கவனச்சிதறல்கள்? அறிவுறுத்தலின் வேறுபட்ட சொற்றொடர்? செயற்கை தரவு இவற்றில் ஒரே நேரத்தில் ஒன்றில் மட்டுமே சிறந்தது, எது என்று உங்களால் சொல்ல முடியாவிட்டால் பயனற்றது.
- 3அதை உள்ளடக்கும் மலிவான குடும்பத்தைத் தேர்ந்தெடுக்கவும்
நிலை மற்றும் அமைப்பு மாறுபாடு: பாதை பெருக்கம். வெளிச்சம் மற்றும் அமைப்பு: முதலில் பட விரிவாக்கம், இரண்டாவதாக உலக மாதிரி. முற்றிலும் புதிய காட்சிகள்: இயற்பியல் உருவகப்படுத்துதல்கள், மற்றும் மாதிரி செலவை ஏற்றுக்கொள்ளவும்.
- 4உருவாக்கி, பின்னர் தீவிரமாக நிராகரிக்கவும்
உருவாக்கும் முயற்சிகள் தோல்வியடைகின்றன, மேலும் Isaac Lab இன் சொந்த வேட்பாளர் வெற்றி விகிதம் பணியைப் பொறுத்து 70 சதவீதத்திலிருந்து 1 சதவீதத்திற்கும் குறைவாக மாறுபடும். வெற்றிகரமான, பணியை முடிக்கும் பாதைகளை மட்டுமே வைத்துக்கொள்ளுங்கள், மேலும் தொகுப்பை நம்புவதற்கு முன் ஒரு மாதிரியை வீடியோவாகப் பாருங்கள்.
bashpython scripts/mimic/generate_dataset.py --device cuda \ --num_envs 8 --generation_num_trials 500 \ --input_file ./datasets/annotated.hdf5 \ --output_file ./datasets/generated.hdf5 --enable_cameras - 5இணைப் பயிற்சி அளிக்கவும், மாற்ற வேண்டாம்
உருவாக்கப்பட்ட எபிசோட்களை உண்மையானவற்றுடன் ஒரே LeRobot தரவுத்தொகுப்பில் ஒரே மாதிரியான கேமரா விசைகள் மற்றும் கூட்டு வரிசையுடன் இணைக்கவும். 38 சதவீத எண்ணிக்கை ஒரு இணைப் பயிற்சி எண்ணிக்கை.
- 6உண்மையான கையில் மட்டுமே மதிப்பீடு செய்யவும்
உருவகப்படுத்தப்பட்ட மதிப்பீடு ஒரு நல்ல தரவரிசை சமிக்ஞை (SIMPLER இன் காட்சி-பொருந்தும் அமைப்பில் பியர்சன் r 0.924) ஆனால் அது ஏற்றுக்கொள்ளும் சோதனை அல்ல. அதை நம்புவதற்கு முன் சோதனைச் சாவடியை பெஞ்சில் இயக்கவும்.
உண்மையான பதிவுகளுக்கான சரிபார்ப்புப் பட்டியலிலிருந்து தொடங்க விரும்பினால், கேமரா வைப்பு, தாக்கங்கள் மற்றும் ஒரு தரவுத்தொகுப்பை பயன்படுத்த முடியாததாக்கும் தோல்வி முறைகள். வடிவத்தின் விவரங்கள் , மற்றும் ஹைப்பர்பாராமீட்டர் பக்கம் .
செயற்கை தரவுகளை மட்டுமே கொண்டு ஒரு ரோபோ கொள்கைக்கு பயிற்சி அளிக்க முடியுமா?▾
ஒரு உண்மையான கையில் ஒரு கையாளுதல் பணிக்கு, நம்பகத்தன்மையுடன் முடியாது. வலுவான எண்ணுடன் வெளியிடப்பட்ட ஒவ்வொரு முடிவும் ஒரு இணைப் பயிற்சி முடிவு அல்லது உண்மையான தரவுகளின் மேல் விரிவாக்க முடிவு. MimicGen இன் சொந்த ஒப்பீடு, அதே பணியில் 200 மனித டெமோக்களுக்கு 84 சதவீதத்திற்கு எதிராக 200 உருவாக்கப்பட்ட டெமோக்களை 79 சதவீதமாகக் காட்டுகிறது, மேலும் 2025 சிம்-மற்றும்-உண்மையான இணைப் பயிற்சி கட்டுரை, உருவகப்படுத்துதலில் மட்டுமே பயிற்சி அளித்து மாற்றுவது பெரும்பாலும் யதார்த்த இடைவெளியைக் குறைக்க கணிசமான மனித முயற்சியைக் கோருகிறது என்று கூறுகிறது. RoboCasa, உருவாக்கப்பட்ட தரவு மனித தரவை 47.6 க்கு எதிராக 28.8 சதவீதத்தில் தோற்கடிப்பதை காட்டுகிறது, ஆனால் 72,000 உருவாக்கப்பட்ட டெமோக்களுக்கு எதிராக 1,250 மனித டெமோக்களுடன் மட்டுமே, இரண்டையும் உருவாக்கிய உருவகப்படுத்துதலுக்குள்.
செயற்கை எபிசோட்களை உருவாக்கினால், எனக்கு இன்னும் எத்தனை உண்மையான எபிசோட்கள் தேவை?▾
AY-Robots இல், SmolVLA க்கு குறைந்தபட்சம் 30 எபிசோட்களும், ACT, GR00T N1.5, GR00T N1.7 மற்றும் Pi0.5 க்கு 50 எபிசோட்களும் பயிற்சியாளர்களுக்குத் தேவை, எபிசோட்கள் எங்கிருந்து வந்தாலும் பரவாயில்லை. Isaac Lab இன் Mimic ஆவணங்கள், உருவாக்கத்திற்கான விதையாக சுமார் 10 வெற்றிகரமான மனித விளக்கங்கள் தேவை என்று கூறுகின்றன. இவை வெவ்வேறு கேள்விகளுக்கு பதிலளிக்கும் வெவ்வேறு எண்கள்: 10 என்பது ஜெனரேட்டருக்குத் தேவை, 30 முதல் 50 என்பது பயிற்சியாளருக்குத் தேவை.
உருவகப்படுத்தப்பட்ட தரவு LeRobot வடிவத்தில் இருக்க வேண்டுமா?▾
இந்த தளத்தில் பயிற்சி அளிக்க, ஆம். Isaac Lab மற்றும் LeIsaac இரண்டும் robomimic-சுவையுடைய HDF5 ஐ உருவாக்குகின்றன. Isaac Lab கோர் எந்த LeRobot மாற்றி கருவியையும் அனுப்புவதில்லை, ஆனால் LeIsaac ஆனது LeRobot v2 க்கான isaaclab2lerobot.py மற்றும் v3 க்கான isaaclab2lerobotv3.py ஐ அனுப்புகிறது, மேலும் IsaacLab-Arena ஆனது YAML உள்ளமைவால் இயக்கப்படும் GR00T-ஐ இலக்காகக் கொண்ட convert_hdf5_to_lerobot.py ஐ அனுப்புகிறது. பதிப்பைக் கவனியுங்கள்: GR00T N1.5 மற்றும் N1.7 ஆனது LeRobot v2.0 அல்லது v2.1 ஐ எடுத்துக்கொள்கின்றன, அதே நேரத்தில் Pi0.5, SmolVLA மற்றும் ACT ஆனது v3.0 ஐ எடுத்துக்கொள்கின்றன. ஒரு v3.0 தரவுத்தொகுப்பு GR00T லோடரை செயலிழக்கச் செய்கிறது மற்றும் v2.1 ஆக மாற்றப்பட வேண்டும்.
2026 இல் Isaac Gym இன்னும் கற்றுக்கொள்ள சரியானதா?▾
இல்லை. NVIDIA இன் சொந்த தயாரிப்புப் பக்கம் "Isaac Gym - இப்போது கைவிடப்பட்டது" என்று தலைப்பிடப்பட்டுள்ளது மற்றும் இது மரபுவழி மென்பொருள் என்றும், டெவலப்பர்கள் அதை பதிவிறக்கம் செய்து தொடர்ந்து பயன்படுத்தலாம் ஆனால் அது இனி ஆதரிக்கப்படாது என்றும், Isaac Lab ஐ மாற்றாக சுட்டிக்காட்டுகிறது. Isaac Lab ஆனது IsaacGymEnvs, OmniIsaacGymEnvs மற்றும் Orbit இலிருந்து இடம்பெயர்வு வழிகாட்டிகளை அனுப்புகிறது, எனவே ஏற்கனவே உள்ள சூழல் இழக்கப்படாமல் போர்ட்டபிள் ஆகும்.
நான் ஒரு SO-100 அல்லது SO-101 ஐ Isaac Lab இல் வைக்க முடியுமா?▾
SO-101, ஆம், சரியாக. TheRobotStudio களஞ்சியம் SO-101 க்கான URDF மற்றும் MJCF கோப்புகள் இரண்டையும் அனுப்புகிறது, இது Onshape CAD மாதிரியிலிருந்து onshape-to-robot மூலம் உருவாக்கப்பட்டது, மேலும் LeIsaac ஆனது LeIsaac-SO101-PickOrange-v0 போன்ற ஆயத்த Isaac Lab பணிகளை, உடல் SO101 லீடர் கையிலிருந்து தொலை இயக்கத்துடன் வழங்குகிறது. SO-100 க்கு அதே களஞ்சியம் ஒரு ஒற்றை URDF ஐ மட்டுமே அனுப்புகிறது மற்றும் MuJoCo மாதிரி இல்லை. SO-101 README எந்த வகையிலும் கூறும் வரம்புகளை கவனத்தில் கொள்ளுங்கள்: சிக்கலான மோதல் நடத்தை காரணமாக அடிப்படை மோதல் மெஷ்கள் அகற்றப்பட்டன, STS3215 மோட்டார் பண்புகள் SO-101 இல் அடையாளம் காணப்படுவதற்கு பதிலாக Open Duck Mini திட்டத்திலிருந்து தழுவி எடுக்கப்பட்டன, மேலும் 0-மூடியது முதல் 100-திறந்த கிரிப்பர் மரபு இன்னும் மாதிரி கோப்புகளில் பிரதிபலிக்கவில்லை.
இந்த தளம் எனக்காக உருவகப்படுத்துதலை இயக்குகிறதா?▾
இல்லை. AY-Robots உண்மையான தொலை இயக்கத்திலிருந்து LeRobot தரவுத்தொகுப்புகளைப் பதிவுசெய்கிறது, வாடகைக்கு எடுக்கப்பட்ட GPU களில் ஐந்து ஆதரிக்கப்படும் கொள்கைகளைச் செம்மைப்படுத்துகிறது, மேலும் இதன் விளைவாக வரும் சோதனைச் சாவடியை மீண்டும் கைக்கு வழங்குகிறது. இதில் உருவகப்படுத்துதல், செயற்கை தரவு உருவாக்கம் மற்றும் காட்சி உருவாக்கம் எதுவும் இல்லை. நீங்கள் வேறு எங்காவது தரவை உருவாக்கி அதை ஒரு செல்லுபடியாகும் LeRobot தரவுத்தொகுப்பாக மாற்றினால், பயிற்சியாளர்கள் அதை உண்மையான பதிவுகளைப் போலவே ஏற்றுக்கொள்வார்கள்.
Sources
- MimicGen project page (CoRL 2023): fewer than 200 human demos to over 50,000 across 18 tasks, Panda/Sawyer/IIWA/UR5e, Square D0 79 percent generated against 84 percent human
- DexMimicGen: Automated Data Generation for Bimanual Dexterous Manipulation via Imitation Learning (Jiang et al., 2024), 21K demos from 60 source human demos
- RoboCasa: Large-Scale Simulation of Everyday Tasks for Generalist Robots (Nasiriany et al., 2024), 100 tasks, 150+ object categories, 100K MimicGen trajectories, 28.8 vs 47.6 percent
- Sim-and-Real Co-Training: A Simple Recipe for Vision-Based Robotic Manipulation (Maddukuri et al., 2025), average 38 percent real-world improvement
- GR00T N1: An Open Foundation Model for Generalist Humanoid Robots (NVIDIA, 2025), data pyramid, 780,000 sim trajectories in 11 hours, 88 to 827 hours of neural trajectories, ablations
- DreamGen: Unlocking Generalization in Robot Learning through Video World Models (Jang et al., 2025), 22 new behaviours from one task, DreamGen Bench
- Evaluating Real-World Robot Manipulation Policies in Simulation (SIMPLER, Li et al., 2024), MMRV and Pearson r for visual matching and variant aggregation, 7x speedup over real eval
- Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World (Tobin et al., 2017), 1.5 cm real-world localisation from random textures
- Isaac Lab docs: record_demos.py, annotate_demos.py, generate_dataset.py, the about-10-demos guidance and the candidate success rates, read 23 Aug 2026
- Isaac Lab pip installation: isaacsim[all,extscache]==5.1.0, Isaac Sim 5.X requires Python 3.11, ./isaaclab.sh --install
- Isaac Lab reproducibility and determinism: identical on identical hardware, varies across hardware, no determinism guarantee for non-rigid bodies
- Isaac Lab events API: randomize_rigid_body_material, randomize_actuator_gains, randomize_visual_texture_material and the related randomisation terms
- NVIDIA Isaac Gym product page: now deprecated, legacy software, no longer supported, Isaac Lab is the replacement
- LeIsaac documentation: installation and compatibility table, SO101 teleoperation, available environments, LeRobot recorder, MimicGen env, isaaclab2lerobot converters, NVIDIA Brev
- SO-ARM100 Simulation/SO101: scene.xml, so101_new_calib.xml, so101_old_calib.xml, onshape-to-robot origin, borrowed Open Duck Mini motor parameters, gripper mapping caveat
Ready for high-quality robotics data?
AY-Robots connects your robots to skilled operators worldwide.
Get Started