Rad sa dataset-ovima

LeRobot format dataset-a

AY-Robots čuva sve demonstracione podatke u LeRobot formatu dataset-a koji održava Hugging Face. Praktična prednost je prenosivost: dataset snimljen ovde učitava se direktno u trening kod zasnovan na LeRobot-u, a dataset-ovi snimljeni negde drugde u istom formatu mogu se otpremiti i koristiti na platformi bez konverzije.

Dataset je zbirka epizoda. Jedna epizoda je jedan kompletan pokušaj zadatka, od definisanog početnog stanja do trenutka kada ste zaustavili snimanje. Na disku, epizoda je podeljena na tri vrste fajlova: Parquet fajl sa numeričkim stream-ovima, po jedan video fajl po kameri i metapodatke koji sve povezuju.

Šema karakteristika u info.json je ono što trening kod čita da bi razumeo vaše podatke: koji ključevi opažanja postoje, njihovi oblici i brzina snimanja. Dva dataset-a su kompatibilna samo ako se njihove šeme poklapaju, što je tačno ono što proverava validacija spajanja.

Vrednosti zglobova su procenti, ne stepeni

Sve vrednosti zglobova u AY-Robots dataset-ovima su LeRobot-normalizovane: svaka vrednost se kreće u opsegu od -100 do 100 i predstavlja procenat kalibrisanog opsega tog zgloba, a ne ugao u stepenima. Očitavanje 0 je sredina kalibrisanog opsega, -100 i 100 su njegove granice.

Cloud dataset-ovi u kontrolnoj tabli

Dashboard > Datasets navodi vaše cloud dataset-ove sa brojem epizoda, veličinama fajlova i statusom prikupljanja. Dataset-ovi se kreiraju automatski kada sesija teleoperacije snima podatke, a možete kreirati i jedan eksplicitno pa ga popuniti otpremanjem snimaka iz desktop klijenta.

• Kreiranje: novi dataset-ovi se pojavljuju automatski iz sesija, ili kreirajte prazan i otpremite podatke u njega.
• Preimenovanje: promenite naziv za prikaz u bilo kom trenutku; promena ne dira same podatke.
• Brisanje: uklanja dataset i sve njegove epizode i fajlove. Brisanje je trajno, pa prvo preuzmite arhivu ako biste podaci mogli ponovo zatrebati.

Pregledač epizoda

Otvaranje dataset-a vodi vas u pregledač epizoda. Svaka epizoda ima video plejer za svoje stream-ove kamera i sinhronizovane grafikone zglobova koji crtaju normalizovane vrednosti zglobova kroz epizodu. Pomeranje videa pomera i kursor na grafikonu, što omogućava brzo uočavanje problema: trzav prilaz se pokazuje kao skokovi na grafikonima, neuspelo hvatanje je vidljivo u kanalu hvataljke i pre nego što pogledate video.

Oznake epizoda: Success, Recovery, Failure

Svaka epizoda može da nosi jednu od tri oznake. Success označava čistu demonstraciju zadatka. Recovery označava epizodu u kojoj je nešto pošlo naopako usred pokušaja, a vi ste to ispravili; ove su vredne jer uče policy kako da se vrati na pravi put. Failure označava epizode koje nisu dostigle cilj i obično ih treba izostaviti iz treniranja. Označavanje tokom pregleda mnogo je jeftinije nego otklanjanje grešaka policy-ja koji je tiho učio na lošim demonstracijama.

Spajanje dataset-ova

Spajanje kombinuje više snimaka u jedan veći dataset, na primer nedelju dana sesija na istom zadatku ili snimke sa dve kalibrisane ruke. Spajanje uzima više tar.gz arhiva, svaka sadrži LeRobot dataset, i proizvodi jedan dataset sa ponovo indeksiranim epizodama.

1. 1
   Pripremite arhive

   Svaki ulaz mora biti kompletan LeRobot dataset spakovan kao tar.gz arhiva, uključujući svoj meta direktorijum. Delimične arhive bez info.json ne mogu se validirati i odbijaju se.

2. 2
   Otpremite više arhiva

   U Dashboard > Datasets pokrenite spajanje i izaberite sve tar.gz arhive koje želite da kombinujete u jednom koraku.

3. 3
   Validacija

   Platforma proverava da li se fps, šema karakteristika i robot_type poklapaju u svim ulazima. Ako se bilo koje od to troje razlikuje, spajanje se odbija uz navedenu neusklađenost, jer bi kombinovan dataset sa nedoslednim stream-ovima nečujno pokvario treniranje.

4. 4
   Pregledajte rezultat

   Spojen dataset se pojavljuje na vašoj listi sa kombinovanim brojem epizoda. Otvorite pregledač epizoda i nasumično proverite nekoliko epizoda iz svakog izvora pre nego što na njima trenirate.

Tri pravila kompatibilnosti su namerno stroga. Neusklađenost brzine kadrova menja značenje svakog vremenskog koraka, neusklađenost šeme potpuno onesposobljava loader-e, a mešanje tipova robota proizvodi dataset kojim nijedan policy ne može da upravlja. Ako treba da kombinujete podatke sa različitih ruku istog modela, to je u redu: robot_type se odnosi na model, ne na fizičku jedinicu.

Tržište dataset-ova

Tržište vam omogućava da kupujete dataset-ove koje su snimili drugi i da prodajete sopstvene. Kupljeni dataset-ovi stižu u vašu kontrolnu tablu u istom LeRobot rasporedu kao i vaši sopstveni snimci, pa rade sa pregledačem epizoda, spajanjem i treniranjem bez ikakvih dodatnih koraka.

Ako prodajete, kurirajte pre objave. Pregledajte epizode, označite ih pošteno i pobrinite se da nizovi zadataka opisuju ono što se zaista dešava u snimcima. Kupac koji procenjuje vaš dataset vidi isti pregledač epizoda kao i vi, a dataset-ovi sa čistim oznakama i doslednim demonstracijama vrede više od sirovih deponija svega što ste ikada snimili.

Često postavljana pitanja