Rad s datasetovima

LeRobot format dataseta

AY-Robots pohranjuje sve demonstracijske podatke u LeRobot formatu dataseta koji održava Hugging Face. Praktična prednost je prenosivost: dataset snimljen ovdje učitava se izravno u trening kod temeljen na LeRobotu, a datasetovi snimljeni drugdje u istom formatu mogu se prenijeti i koristiti na platformi bez pretvorbe.

Dataset je zbirka epizoda. Jedna epizoda jedan je potpuni pokušaj zadatka, od definiranog početnog stanja do trenutka kad ste zaustavili snimanje. Na disku, epizoda je podijeljena na tri vrste datoteka: Parquet datoteku s numeričkim streamovima, po jednu video datoteku po kameri i metapodatke koji sve povezuju.

Shema značajki u info.json ono je što trening kod čita da bi razumio vaše podatke: koji ključevi opažanja postoje, njihovi oblici i brzina snimanja. Dva su dataseta kompatibilna samo ako se njihove sheme podudaraju, što je upravo ono što provjerava validacija spajanja.

Vrijednosti zglobova su postoci, ne stupnjevi

Sve vrijednosti zglobova u AY-Robots datasetovima LeRobot su normalizirane: svaka vrijednost kreće se u rasponu od -100 do 100 i predstavlja postotak kalibriranog raspona tog zgloba, a ne kut u stupnjevima. Očitanje 0 sredina je kalibriranog raspona, -100 i 100 njegove su granice.

Cloud datasetovi u nadzornoj ploči

Dashboard > Datasets navodi vaše cloud datasetove s brojem epizoda, veličinama datoteka i statusom prikupljanja. Datasetovi se stvaraju automatski kad sesija teleoperacije snima podatke, a možete izraditi i jedan izričito te ga popuniti prijenosom snimaka iz desktop klijenta.

• Izrada: novi datasetovi pojavljuju se automatski iz sesija, ili izradite prazan i prenesite podatke u njega.
• Preimenovanje: promijenite naziv za prikaz u bilo kojem trenutku; promjena ne dira same podatke.
• Brisanje: uklanja dataset i sve njegove epizode i datoteke. Brisanje je trajno, pa prvo preuzmite arhivu ako biste podaci mogli zatrebati ponovno.

Preglednik epizoda

Otvaranje dataseta vodi vas u preglednik epizoda. Svaka epizoda ima video player za svoje streamove kamera i sinkronizirane grafikone zglobova koji crtaju normalizirane vrijednosti zglobova kroz epizodu. Pomicanje videa pomiče i pokazivač na grafikonu, što omogućuje brzo uočavanje problema: trzavi prilaz pokazuje se kao skokovi na grafikonima, neuspjelo hvatanje vidljivo je u kanalu hvataljke i prije nego što pogledate video.

Oznake epizoda: Success, Recovery, Failure

Svaka epizoda može nositi jednu od tri oznake. Success označava čistu demonstraciju zadatka. Recovery označava epizodu u kojoj je nešto pošlo po zlu usred pokušaja, a vi ste to ispravili; ove su vrijedne jer uče policy kako se vratiti na pravi put. Failure označava epizode koje nisu dosegle cilj i obično ih treba izostaviti iz treniranja. Označavanje tijekom pregleda puno je jeftinije nego otklanjanje grešaka policyja koji je tiho učio na lošim demonstracijama.

Spajanje dataseta

Spajanje kombinira više snimaka u jedan veći dataset, primjerice tjedan sesija na istom zadatku ili snimke s dviju kalibriranih ruku. Spajanje uzima više tar.gz arhiva, svaka sadrži LeRobot dataset, i proizvodi jedan dataset s ponovno indeksiranim epizodama.

1. 1
   Pripremite arhive

   Svaki ulaz mora biti potpun LeRobot dataset spakiran kao tar.gz arhiva, uključujući svoj meta direktorij. Djelomične arhive bez info.json ne mogu se validirati i odbacuju se.

2. 2
   Prenesite više arhiva

   U Dashboard > Datasets pokrenite spajanje i odaberite sve tar.gz arhive koje želite kombinirati u jednom koraku.

3. 3
   Validacija

   Platforma provjerava podudaraju li se fps, shema značajki i robot_type u svim ulazima. Ako se bilo koje od to troje razlikuje, spajanje se odbija uz navedenu nepodudarnost, jer bi kombinirani dataset s nedosljednim streamovima tiho pokvario treniranje.

4. 4
   Pregledajte rezultat

   Spojeni dataset pojavljuje se na vašem popisu s kombiniranim brojem epizoda. Otvorite preglednik epizoda i nasumično provjerite nekoliko epizoda iz svakog izvora prije nego što na njima trenirate.

Tri pravila kompatibilnosti namjerno su stroga. Nepodudarnost brzine kadrova mijenja značenje svakog vremenskog koraka, nepodudarnost sheme potpuno onemogućuje loadere, a miješanje tipova robota proizvodi dataset kojim nijedan policy ne može upravljati. Ako trebate kombinirati podatke s različitih ruku istog modela, to je u redu: robot_type odnosi se na model, ne na fizičku jedinicu.

Tržište dataseta

Tržište vam omogućuje kupnju dataseta koje su snimili drugi i prodaju vlastitih. Kupljeni datasetovi stižu u vašu nadzornu ploču u istom LeRobot rasporedu kao i vaše vlastite snimke, pa rade s preglednikom epizoda, spajanjem i treniranjem bez ikakvih dodatnih koraka.

Ako prodajete, kurirajte prije objave. Pregledajte epizode, označite ih pošteno i pobrinite se da nizovi zadataka opisuju ono što se stvarno događa u snimkama. Kupac koji procjenjuje vaš dataset vidi isti preglednik epizoda kao i vi, a datasetovi s čistim oznakama i dosljednim demonstracijama vrijede više od sirovih odlagališta svega što ste ikad snimili.

Često postavljana pitanja