Darbs ar datu kopām

LeRobot datu kopas formāts

AY-Robots glabā visus demonstrācijas datus Hugging Face uzturētajā LeRobot datu kopas formātā. Praktiskais ieguvums ir pārnesamība: šeit ierakstīta datu kopa ielādējas tieši LeRobot balstītā apmācības kodā, un citur tajā pašā formātā ierakstītas datu kopas var tikt augšupielādētas un izmantotas platformā bez konvertēšanas.

Datu kopa ir epizožu kolekcija. Viena epizode ir viens pilnīgs mēģinājums veikt uzdevumu, no noteikta sākuma stāvokļa līdz brīdim, kad apturējāt ierakstīšanu. Diskā epizode ir sadalīta pa trīs failu veidiem: Parquet failu ar skaitliskajām straumēm, vienu video failu katrai kamerai un metadatiem, kas visu sasaista.

Pazīmju shēma info.json failā ir tas, ko apmācības kods lasa, lai saprastu jūsu datus: kādi novērojumu atslēgvārdi pastāv, to formas un ierakstīšanas ātrums. Divas datu kopas ir savietojamas tikai tad, ja to shēmas sakrīt, un tieši to pārbauda apvienošanas validācija.

Locītavu vērtības ir procenti, nevis grādi

Visas locītavu vērtības AY-Robots datu kopās ir LeRobot normalizētas: katra vērtība svārstās no -100 līdz 100 un attēlo attiecīgās locītavas kalibrētā diapazona procentu, nevis leņķi grādos. Vērtība 0 ir kalibrētā diapazona centrs, -100 un 100 ir tā robežas.

Mākoņa datu kopas vadības panelī

Dashboard > Datasets uzskaita jūsu mākoņa datu kopas ar epizožu skaitiem, failu izmēriem un vākšanas statusu. Datu kopas tiek izveidotas automātiski, kad teleoperācijas sesija ieraksta datus, un varat arī izveidot vienu skaidri un aizpildīt to, augšupielādējot ierakstus no darbvirsmas klienta.

• Izveide: jaunas datu kopas parādās no sesijām automātiski, vai izveidojiet tukšu un augšupielādējiet tajā.
• Pārdēvēšana: jebkurā laikā mainiet rādāmo nosaukumu; izmaiņa neskar pašus datus.
• Dzēšana: noņem datu kopu un visas tās epizodes un failus. Dzēšana ir neatgriezeniska, tāpēc, ja dati var būt vēlreiz vajadzīgi, vispirms lejupielādējiet arhīvu.

Epizožu pārlūks

Atverot datu kopu, jūs nonākat epizožu pārlūkā. Katrai epizodei ir video atskaņotājs tās kameru straumēm un sinhronizēti locītavu grafiki, kas attēlo normalizētās locītavu vērtības visā epizodē. Video pārtīšana kustina grafika kursoru līdzi, kas ļauj ātri pamanīt problēmas: raustīga tuvošanās grafikos parādās kā izlēcieni, neveiksmīgs satvēriens ir redzams satvērēja kanālā vēl pirms video noskatīšanās.

Epizožu etiķetes: Success, Recovery, Failure

Katrai epizodei var būt viena no trim etiķetēm. Success apzīmē tīru uzdevuma demonstrāciju. Recovery apzīmē epizodi, kurā kaut kas nogāja greizi mēģinājuma vidū un jūs to izlabojāt; šīs ir vērtīgas, jo tās māca policy, kā atgriezties pareizajā ceļā. Failure apzīmē epizodes, kas nesasniedza mērķi un parasti būtu jāatstāj ārpus apmācības. Etiķešu piešķiršana pārskatīšanas laikā ir daudz lētāka nekā tāda policy atkļūdošana, kas klusi iemācījusies no sliktām demonstrācijām.

Datu kopu apvienošana

Apvienošana savieno vairākus ierakstus vienā lielākā datu kopā, piemēram, nedēļu sesiju ar to pašu uzdevumu vai ierakstus no divām kalibrētām rokām. Apvienošana ņem vairākus tar.gz arhīvus, katrā no kuriem ir LeRobot datu kopa, un rada vienu datu kopu ar pārindeksētām epizodēm.

1. 1
   Sagatavojiet arhīvus

   Katram ievades failam jābūt pilnīgai LeRobot datu kopai, iesaiņotai kā tar.gz arhīvs, ieskaitot tās meta direktoriju. Daļēji arhīvi bez info.json nevar tikt validēti un tiek noraidīti.

2. 2
   Augšupielādējiet vairākus arhīvus

   Dashboard > Datasets sāciet apvienošanu un vienā solī izvēlieties visus tar.gz arhīvus, kurus vēlaties apvienot.

3. 3
   Validācija

   Platforma pārbauda, vai fps, pazīmju shēma un robot_type sakrīt visos ievades failos. Ja kāds no trim atšķiras, apvienošana tiek noraidīta, nosaucot neatbilstību, jo apvienota datu kopa ar nesaderīgām straumēm klusi sabojātu apmācību.

4. 4
   Pārskatiet rezultātu

   Apvienotā datu kopa parādās jūsu sarakstā ar kopējo epizožu skaitu. Atveriet epizožu pārlūku un izlases veidā pārbaudiet dažas epizodes no katra avota, pirms uz to apmācāties.

Trīs saderības noteikumi ir stingri ar nolūku. Kadru ātruma neatbilstības maina katras laika soļa nozīmi, shēmas neatbilstības pilnībā salauž ielādētājus, un robota tipu sajaukšana rada datu kopu, ar kuru nevar strādāt neviens policy. Ja jums jāapvieno dati no dažādām viena modeļa rokām, tas ir labi: robot_type norāda uz modeli, nevis fizisko vienību.

Datu kopu tirdziņš

Tirdziņš ļauj pirkt citu ierakstītas datu kopas un pārdot savas. Nopirktās datu kopas nonāk jūsu vadības panelī tādā pašā LeRobot izkārtojumā kā jūsu pašu ieraksti, tāpēc tās darbojas ar epizožu pārlūku, apvienošanu un apmācību bez papildu soļiem.

Ja pārdodat, sakārtojiet pirms ievietošanas sarakstā. Pārskatiet epizodes, godīgi tās marķējiet un pārliecinieties, ka uzdevumu teksti apraksta to, kas faktiski notiek ierakstos. Pircējs, kas vērtē jūsu datu kopu, redz to pašu epizožu pārlūku, ko redzat jūs, un datu kopas ar tīrām etiķetēm un konsekventām demonstrācijām ir vērtas vairāk nekā neapstrādāti visa jebkad ierakstītā izgāztuves.

Biežāk uzdotie jautājumi