डेटासेटसह काम करणे

LeRobot डेटासेट फॉरमॅट

AY-Robots सर्व डेमॉन्स्ट्रेशन डेटा Hugging Face ने मेंटेन केलेल्या LeRobot डेटासेट फॉरमॅटमध्ये साठवते. व्यावहारिक फायदा म्हणजे पोर्टेबिलिटी: येथे रेकॉर्ड केलेला डेटासेट थेट LeRobot-आधारित ट्रेनिंग कोडमध्ये लोड होतो, आणि याच फॉरमॅटमध्ये इतरत्र रेकॉर्ड केलेले डेटासेट कोणत्याही रूपांतराशिवाय प्लॅटफॉर्मवर अपलोड करून वापरता येतात.

डेटासेट म्हणजे एपिसोडचा संग्रह. एक एपिसोड म्हणजे एखाद्या कामाचा एक संपूर्ण प्रयत्न, निश्चित सुरुवातीच्या स्थितीपासून तुम्ही रेकॉर्डिंग थांबवले त्या बिंदूपर्यंत. डिस्कवर, एपिसोड तीन प्रकारच्या फाइल्समध्ये विभागलेले असते: संख्यात्मक स्ट्रीम्स असलेली एक Parquet फाइल, प्रत्येक कॅमेऱ्यासाठी एक व्हिडिओ फाइल, आणि सर्व काही जोडणारे मेटाडेटा.

info.json मधील फीचर स्कीमा हे ट्रेनिंग कोड तुमचा डेटा समजून घेण्यासाठी वाचतो: कोणत्या ऑब्झर्व्हेशन की अस्तित्वात आहेत, त्यांचे आकार, आणि रेकॉर्डिंग दर. दोन डेटासेट फक्त तेव्हाच सुसंगत असतात जेव्हा त्यांचे स्कीमा जुळतात, आणि मर्ज व्हॅलिडेशन नेमके हेच तपासते.

जॉइंट व्हॅल्यूज टक्केवारी असतात, अंश नाहीत

AY-Robots डेटासेटमधील सर्व जॉइंट व्हॅल्यूज LeRobot-नॉर्मलाइझ्ड असतात: प्रत्येक व्हॅल्यू -100 ते 100 दरम्यान असते आणि त्या जॉइंटच्या कॅलिब्रेटेड रेंजची टक्केवारी दर्शवते, अंशातील कोन नाही. 0 म्हणजे कॅलिब्रेटेड रेंजचा मध्यबिंदू, तर -100 आणि 100 म्हणजे त्याच्या मर्यादा.

डॅशबोर्डमधील क्लाउड डेटासेट

Dashboard > Datasets तुमचे क्लाउड डेटासेट एपिसोड संख्या, फाइल आकार, आणि संकलन स्थितीसह सूचीबद्ध करते. टेलिऑपरेशन सेशन डेटा रेकॉर्ड करते तेव्हा डेटासेट आपोआप तयार होतात, आणि तुम्ही स्पष्टपणे एक तयार करूनही डेस्कटॉप क्लायंटमधून रेकॉर्डिंग्ज अपलोड करून तो भरू शकता.

• तयार करा: सेशनमधून नवीन डेटासेट आपोआप दिसतात, किंवा रिकामे तयार करून त्यात अपलोड करा.
• नाव बदला: कधीही डिस्प्ले नाव बदला; या बदलामुळे प्रत्यक्ष डेटाला स्पर्श होत नाही.
• हटवा: डेटासेट आणि त्याचे सर्व एपिसोड व फाइल्स काढून टाकतो. हटवणे कायमस्वरूपी आहे, त्यामुळे डेटा पुन्हा लागू शकतो असे वाटल्यास आधी आर्काइव्ह डाउनलोड करा.

एपिसोड ब्राउझर

डेटासेट उघडल्यावर तुम्ही एपिसोड ब्राउझरमध्ये पोहोचता. प्रत्येक एपिसोडला त्याच्या कॅमेरा स्ट्रीम्ससाठी एक व्हिडिओ प्लेयर आणि एपिसोडभर नॉर्मलाइझ्ड जॉइंट व्हॅल्यूज दाखवणारे सिंक्रोनाइझ्ड जॉइंट चार्ट्स असतात. व्हिडिओ स्क्रब केल्याने चार्ट कर्सर त्यासोबत हलतो, त्यामुळे समस्या पटकन ओळखता येतात: झटकेदार जवळ जाणे चार्टमध्ये स्पाइक्स म्हणून दिसते, अयशस्वी ग्रास व्हिडिओ पाहण्याआधीच ग्रिपर चॅनलमध्ये दिसते.

एपिसोड लेबल्स: Success, Recovery, Failure

प्रत्येक एपिसोडला तीनपैकी एक लेबल असू शकते. Success म्हणजे कामाचे स्वच्छ डेमॉन्स्ट्रेशन. Recovery म्हणजे प्रयत्नादरम्यान काहीतरी चुकले आणि तुम्ही ते दुरुस्त केले असा एपिसोड; हे मौल्यवान असतात कारण ते पॉलिसीला मार्गावर परत कसे यायचे हे शिकवतात. Failure म्हणजे उद्दिष्टापर्यंत न पोहोचलेले एपिसोड, जे सहसा ट्रेनिंगमधून वगळावेत. पुनरावलोकन करतानाच लेबल करणे, वाईट डेमॉन्स्ट्रेशन्समधून शांतपणे शिकलेल्या पॉलिसीचे डीबगिंग करण्यापेक्षा खूप स्वस्त आहे.

डेटासेट मर्ज करणे

मर्जिंग अनेक रेकॉर्डिंग्ज एकत्र करून एक मोठा डेटासेट तयार करते, उदाहरणार्थ एकाच कामावरील एका आठवड्याची सेशन्स किंवा दोन कॅलिब्रेटेड आर्ममधील रेकॉर्डिंग्ज. मर्ज अनेक tar.gz आर्काइव्ह्ज घेतो, प्रत्येकात एक LeRobot डेटासेट असतो, आणि पुन्हा-इंडेक्स केलेल्या एपिसोडसह एकच डेटासेट तयार करतो.

1. 1
   आर्काइव्ह्ज तयार करा

   प्रत्येक इनपुट हा त्याच्या meta डिरेक्टरीसह tar.gz आर्काइव्हमध्ये पॅक केलेला संपूर्ण LeRobot डेटासेट असावा. info.json नसलेले अपूर्ण आर्काइव्ह्ज व्हॅलिडेट करता येत नाहीत आणि नाकारले जातात.

2. 2
   अनेक आर्काइव्ह्ज अपलोड करा

   Dashboard > Datasets मध्ये, मर्ज सुरू करा आणि एकाच वेळी एकत्र करायचे सर्व tar.gz आर्काइव्ह्ज निवडा.

3. 3
   व्हॅलिडेशन

   प्लॅटफॉर्म सर्व इनपुट्समध्ये fps, फीचर स्कीमा, आणि robot_type जुळतात का ते तपासते. यापैकी कोणतेही तीन वेगळे असल्यास, विसंगती नमूद करून मर्ज नाकारला जातो, कारण विसंगत स्ट्रीम्स असलेला एकत्रित डेटासेट ट्रेनिंगला शांतपणे बिघडवेल.

4. 4
   निकाल तपासा

   मर्ज केलेला डेटासेट एकत्रित एपिसोड संख्येसह तुमच्या यादीत दिसतो. त्यावर ट्रेन करण्यापूर्वी एपिसोड ब्राउझर उघडा आणि प्रत्येक स्रोतातील काही एपिसोड तपासून पाहा.

हे तीन सुसंगतता नियम मुद्दाम कठोर आहेत. फ्रेम दरातील तफावत प्रत्येक टाइमस्टेपचा अर्थ बदलते, स्कीमातील तफावत लोडर्सना पूर्णपणे तोडते, आणि रोबोट प्रकार मिसळल्याने असा डेटासेट तयार होतो ज्यावर कोणतीही एक पॉलिसी काम करू शकत नाही. एकाच मॉडेलच्या वेगवेगळ्या आर्ममधील डेटा एकत्र करायचा असल्यास, ते चालेल: robot_type मॉडेलला निर्देशित करतो, भौतिक युनिटला नाही.

डेटासेट मार्केटप्लेस

मार्केटप्लेस तुम्हाला इतरांनी रेकॉर्ड केलेले डेटासेट विकत घेऊ देतो आणि तुमचे स्वतःचे विकू देतो. विकत घेतलेले डेटासेट तुमच्या स्वतःच्या रेकॉर्डिंग्जसारख्याच LeRobot रचनेत तुमच्या डॅशबोर्डमध्ये येतात, त्यामुळे ते कोणत्याही अतिरिक्त पावलांशिवाय एपिसोड ब्राउझर, मर्जिंग, आणि ट्रेनिंगसह काम करतात.

तुम्ही विकत असाल, तर यादी करण्यापूर्वी क्युरेट करा. एपिसोडचे पुनरावलोकन करा, त्यांना प्रामाणिकपणे लेबल करा, आणि टास्क स्ट्रिंग्स रेकॉर्डिंगमध्ये प्रत्यक्षात काय घडते हे वर्णन करतात याची खात्री करा. तुमचा डेटासेट तपासणारा खरेदीदार तुम्ही पाहता तोच एपिसोड ब्राउझर पाहतो, आणि स्वच्छ लेबल्स व सुसंगत डेमॉन्स्ट्रेशन्स असलेले डेटासेट तुम्ही कधीही रेकॉर्ड केलेल्या सर्व गोष्टींच्या रॉ डंपपेक्षा जास्त मौल्यवान असतात.

वारंवार विचारले जाणारे प्रश्न