Darbas su duomenų rinkiniais

LeRobot duomenų rinkinio formatas

AY-Robots saugo visus demonstracinius duomenis Hugging Face palaikomu LeRobot duomenų rinkinio formatu. Praktinė nauda yra perkeliamumas: čia įrašytas duomenų rinkinys užsikrauna tiesiai į LeRobot pagrįstą mokymo kodą, o kitur tuo pačiu formatu įrašyti duomenų rinkiniai gali būti įkelti ir naudojami platformoje be jokio konvertavimo.

Duomenų rinkinys yra epizodų rinkinys. Vienas epizodas yra vienas pilnas bandymas atlikti užduotį, nuo apibrėžtos pradinės būsenos iki taško, kur sustabdėte įrašymą. Diske epizodas padalytas per tris failų rūšis: Parquet failą su skaitiniais srautais, po vieną vaizdo failą kiekvienai kamerai ir metaduomenis, kurie viską susieja.

Požymių schema info.json faile yra tai, ką mokymo kodas skaito norėdamas suprasti jūsų duomenis: kokie stebėjimo raktai egzistuoja, jų formos ir įrašymo dažnis. Du duomenų rinkiniai suderinami tik tada, kai jų schemos sutampa, ir būtent tai tikrina sujungimo patikra.

Sąnarių reikšmės yra procentai, ne laipsniai

Visos sąnarių reikšmės AY-Robots duomenų rinkiniuose yra LeRobot normalizuotos: kiekviena reikšmė svyruoja nuo -100 iki 100 ir vaizduoja to sąnario kalibruoto diapazono procentą, o ne kampą laipsniais. Reikšmė 0 yra kalibruoto diapazono centras, -100 ir 100 yra jo ribos.

Debesies duomenų rinkiniai valdymo skydelyje

Dashboard > Datasets išvardija jūsų debesies duomenų rinkinius su epizodų skaičiais, failų dydžiais ir surinkimo būsena. Duomenų rinkiniai sukuriami automatiškai, kai teleoperacijos sesija įrašo duomenis, taip pat galite sukurti vieną aiškiai ir jį užpildyti įkeldami įrašus iš darbalaukio programos.

• Kūrimas: nauji duomenų rinkiniai atsiranda iš sesijų automatiškai, arba sukurkite tuščią ir įkelkite į jį.
• Pervadinimas: bet kada pakeiskite rodomą pavadinimą; pakeitimas neliečia pačių duomenų.
• Trynimas: pašalina duomenų rinkinį ir visus jo epizodus bei failus. Trynimas negrįžtamas, todėl jei duomenų gali vėl prireikti, pirmiausia atsisiųskite archyvą.

Epizodų naršyklė

Atidarius duomenų rinkinį pereinama į epizodų naršyklę. Kiekvienas epizodas turi vaizdo grotuvą savo kamerų srautams ir sinchronizuotus sąnarių grafikus, kurie brėžia normalizuotas sąnarių reikšmes per epizodą. Vaizdo peržiūros slinkimas juda kartu su grafiko žymekliu, todėl greitai pastebimos problemos: trūkčiojantis artėjimas grafikuose pasirodo kaip pikai, nepavykęs griebimas matomas griebtuvo kanale dar prieš pažiūrint patį vaizdą.

Epizodų žymos: Success, Recovery, Failure

Kiekvienas epizodas gali turėti vieną iš trijų žymų. Success žymi švarią užduoties demonstraciją. Recovery žymi epizodą, kuriame kažkas nutiko ne taip bandymo viduryje ir jūs tai ištaisėte; šie epizodai vertingi, nes moko policy grįžti į teisingą kelią. Failure žymi epizodus, kurie nepasiekė tikslo ir dažniausiai turėtų likti už mokymo ribų. Žymėjimas peržiūros metu yra kur kas pigesnis nei policy, kuri tyliai išmoko iš blogų demonstracijų, derinimas.

Duomenų rinkinių sujungimas

Sujungimas apjungia kelis įrašus į vieną didesnį duomenų rinkinį, pavyzdžiui, savaitę sesijų su ta pačia užduotimi arba įrašus iš dviejų kalibruotų rankų. Sujungimas paima kelis tar.gz archyvus, kiekviename iš kurių yra LeRobot duomenų rinkinys, ir sukuria vieną duomenų rinkinį su iš naujo indeksuotais epizodais.

1. 1
   Paruoškite archyvus

   Kiekvienas įvestas failas turi būti pilnas LeRobot duomenų rinkinys, supakuotas kaip tar.gz archyvas, įskaitant jo meta katalogą. Daliniai archyvai be info.json negali būti patvirtinti ir atmetami.

2. 2
   Įkelkite kelis archyvus

   Dashboard > Datasets pradėkite sujungimą ir vienu žingsniu pasirinkite visus tar.gz archyvus, kuriuos norite sujungti.

3. 3
   Patvirtinimas

   Platforma patikrina, ar fps, požymių schema ir robot_type sutampa visuose įvesties failuose. Jei bent vienas iš trijų skiriasi, sujungimas atmetamas nurodant neatitikimą, nes sujungtas duomenų rinkinys su nesuderinamais srautais tyliai sugadintų mokymą.

4. 4
   Peržiūrėkite rezultatą

   Sujungtas duomenų rinkinys pasirodo jūsų sąraše su bendru epizodų skaičiumi. Atidarykite epizodų naršyklę ir taškiniu būdu patikrinkite kelis epizodus iš kiekvieno šaltinio prieš juo treniruodami.

Trys suderinamumo taisyklės griežtos sąmoningai. Kadrų dažnio neatitikimai pakeičia kiekvieno laiko žingsnio reikšmę, schemos neatitikimai visiškai sulaužo įkėlėjus, o roboto tipų maišymas sukuria duomenų rinkinį, kuriuo negali veikti nė viena policy. Jei reikia sujungti duomenis iš skirtingų to paties modelio rankų, tai gerai: robot_type nurodo modelį, o ne fizinį vienetą.

Duomenų rinkinių prekyvietė

Prekyvietė leidžia pirkti kitų įrašytus duomenų rinkinius ir parduoti savo. Nupirkti duomenų rinkiniai atsiranda jūsų valdymo skydelyje tokia pačia LeRobot struktūra kaip jūsų pačių įrašai, todėl jie veikia su epizodų naršykle, sujungimu ir mokymu be jokių papildomų žingsnių.

Jei parduodate, sutvarkykite prieš įtraukdami į sąrašą. Peržiūrėkite epizodus, žymėkite juos sąžiningai ir įsitikinkite, kad užduočių tekstai apibūdina tai, kas iš tikrųjų vyksta įrašuose. Pirkėjas, vertinantis jūsų duomenų rinkinį, mato tą pačią epizodų naršyklę kaip ir jūs, o duomenų rinkiniai su švariomis žymomis ir nuosekliomis demonstracijomis verti daugiau nei neapdoroti viso, ką kada nors įrašėte, sąvartynai.

Dažnai užduodami klausimai