Rad sa dataset-ovima

Format LeRobot dataset-a

AY-Robots čuva sve demonstracione podatke u LeRobot formatu dataset-a koji održava Hugging Face. Praktična korist je prenosivost: dataset snimljen ovdje se učitava direktno u kod za treniranje zasnovan na LeRobot-u, a dataset-ovi snimljeni drugdje u istom formatu mogu se otpremiti i koristiti na platformi bez konverzije.

Dataset je zbirka epizoda. Jedna epizoda je jedan potpuni pokušaj zadatka, od definisanog početnog stanja do tačke gdje ste zaustavili snimanje. Na disku, epizoda je podijeljena u tri vrste fajlova: Parquet fajl sa numeričkim stream-ovima, jedan video fajl po kameri i metapodaci koji sve povezuju.

Šema karakteristika u info.json je ono što kod za treniranje čita da bi razumio vaše podatke: koji ključevi posmatranja postoje, njihovi oblici i brzina snimanja. Dva dataset-a su kompatibilna samo ako se njihove šeme podudaraju, a upravo to provjerava validacija spajanja.

Vrijednosti zglobova su procenti, ne stepeni

Sve vrijednosti zglobova u AY-Robots dataset-ima su LeRobot-normalizovane: svaka vrijednost se kreće od -100 do 100 i predstavlja procenat kalibrisanog opsega tog zgloba, a ne ugao u stepenima. Očitavanje od 0 je centar kalibrisanog opsega, -100 i 100 su njegove granice.

Cloud dataset-ovi u kontrolnoj tabli

Dashboard > Datasets navodi vaše cloud dataset-ove sa brojem epizoda, veličinama fajlova i statusom prikupljanja. Dataset-ovi se kreiraju automatski kada sesija teleoperacije snima podatke, a možete i eksplicitno kreirati jedan i napuniti ga otpremanjem snimaka iz desktop klijenta.

• Kreiranje: novi dataset-ovi se pojavljuju iz sesija automatski, ili kreirajte prazan i otpremite u njega.
• Preimenovanje: promijenite prikazano ime u bilo kojem trenutku; promjena ne dira same podatke.
• Brisanje: uklanja dataset i sve njegove epizode i fajlove. Brisanje je trajno, pa preuzmite arhivu prvo ako vam podaci možda ponovo zatrebaju.

Pregledač epizoda

Otvaranje dataset-a vodi vas u pregledač epizoda. Svaka epizoda ima video plejer za svoje stream-ove kamera i sinhronizovane grafikone zglobova koji crtaju normalizovane vrijednosti zglobova kroz epizodu. Premotavanje videa pomjera kursor grafikona zajedno s njim, što brzo uočava probleme: trzav prilaz se pojavljuje kao skokovi na grafikonima, neuspjelo hvatanje je vidljivo u kanalu hvataljke i prije nego što pogledate video.

Oznake epizoda: Success, Recovery, Failure

Svaka epizoda može nositi jednu od tri oznake. Success označava čistu demonstraciju zadatka. Recovery označava epizodu u kojoj je nešto pošlo po zlu usred pokušaja i vi ste to ispravili; ove su vrijedne jer uče policy kako da se vrati na pravi put. Failure označava epizode koje nisu dostigle cilj i obično ih treba isključiti iz treniranja. Označavanje dok pregledate mnogo je jeftinije od debagovanja policy-ja koji je tiho naučio iz loših demonstracija.

Spajanje dataset-ova

Spajanje kombinuje nekoliko snimaka u jedan veći dataset, na primjer sedmicu sesija na istom zadatku ili snimke sa dvije kalibrisane ruke. Spajanje uzima više tar.gz arhiva, od kojih svaka sadrži LeRobot dataset, i proizvodi jedan dataset sa ponovo indeksiranim epizodama.

1. 1
   Pripremite arhive

   Svaki ulaz mora biti potpun LeRobot dataset spakovan kao tar.gz arhiva, uključujući njen meta direktorij. Djelimične arhive bez info.json ne mogu se validirati i bivaju odbijene.

2. 2
   Otpremite više arhiva

   U Dashboard > Datasets pokrenite spajanje i izaberite sve tar.gz arhive koje želite kombinovati u jednom koraku.

3. 3
   Validacija

   Platforma provjerava da se fps, šema karakteristika i robot_type podudaraju kod svih ulaza. Ako se bilo koje od to troje razlikuje, spajanje se odbija sa navedenim neslaganjem, jer bi kombinovani dataset sa nedosljednim stream-ovima tiho pokvario treniranje.

4. 4
   Pregledajte rezultat

   Spojeni dataset se pojavljuje na vašoj listi sa kombinovanim brojem epizoda. Otvorite pregledač epizoda i provjerite nekoliko epizoda iz svakog izvora prije nego što na njemu trenirate.

Ova tri pravila kompatibilnosti su namjerno stroga. Neslaganja u brzini kadrova mijenjaju značenje svakog vremenskog koraka, neslaganja šeme potpuno kvare učitavače, a miješanje tipova robota proizvodi dataset na kojem nijedna pojedinačna policy ne može djelovati. Ako trebate kombinovati podatke sa različitih ruku istog modela, to je u redu: robot_type se odnosi na model, ne na fizičku jedinicu.

Tržište dataset-ova

Tržište vam omogućava da kupujete dataset-ove koje su snimili drugi i prodajete svoje. Kupljeni dataset-ovi stižu u vašu kontrolnu tablu u istom LeRobot rasporedu kao i vaši vlastiti snimci, pa rade sa pregledačem epizoda, spajanjem i treniranjem bez ikakvih dodatnih koraka.

Ako prodajete, kurirajte prije nego što objavite. Pregledajte epizode, označite ih iskreno i pobrinite se da tekstovi zadataka opisuju ono što se zaista dešava na snimcima. Kupac koji procjenjuje vaš dataset vidi isti pregledač epizoda koji vidite i vi, a dataset-ovi sa čistim oznakama i dosljednim demonstracijama vrijede više od sirovih deponija svega što ste ikada snimili.

Često postavljana pitanja