Töö andmestikega

Iga teleoperatsiooni seanss AY-Robots platvormil loob struktureeritud demonstratsiooniandmeid LeRobot formaadis, mis on manipulatsiooniandmete de facto vahetusformaat. See leht selgitab, mis andmestikus sees on, kuidas episoode töölaual kontrollida ja korrastada, kuidas liitmine töötab ning kuidas turg sellesse sobitub.

Viimati uuendatud 2026-08-09

LeRobot andmestiku formaat

AY-Robots salvestab kõik demonstratsiooniandmed Hugging Face'i hallatavas LeRobot andmestiku formaadis. Praktiline kasu on ülekantavus: siin salvestatud andmestik laadub otse LeRobot-põhisesse treeningkoodi ning mujal samas formaadis salvestatud andmestikke saab üles laadida ja platvormil kasutada ilma teisendamiseta.

Andmestik on episoodide kogum. Üks episood on üks täielik katse ülesannet täita, määratletud algolekust kuni hetkeni, mil salvestamise peatasite. Kettal on episood jagatud kolme tüüpi failideks: Parquet fail arvuliste vookogudega, üks videofail iga kaamera kohta ning metaandmed, mis kõik kokku seovad.

TeeSisu
data/.../episode_XXXXXX.parquetÜks Parquet fail episoodi kohta: kaadrihaaval ajatemplid, vaatlusolek ja tegevused
videos/...Üks MP4 iga kaamera ja episoodi kohta, kaadrite kaupa joondatud Parquet andmetega
meta/info.jsonAndmestiku taseme metaandmed: robotitüüp, fps, tunnusskeem ning episoodide ja kaadrite arvud
meta/episodes.jsonlÜks rida episoodi kohta koos selle indeksi, pikkuse ja ülesandega, kuhu see kuulub
meta/tasks.jsonlLoomulikus keeles ülesandestringid, millele episoodid indeksi järgi viitavad

Tunnusskeem failis info.json on see, mida treeningkood loeb, et mõista teie andmeid: millised vaatlusvõtmed eksisteerivad, nende kujud ja salvestuskiirus. Kaks andmestikku on ühilduvad ainult siis, kui nende skeemid vastavad, ja täpselt seda kontrollib liitmisvalideerimine.

Liigeseväärtused on protsendid, mitte kraadid

Kõik liigeseväärtused AY-Robots andmestikes on LeRobot-normaliseeritud: iga väärtus jääb vahemikku -100 kuni 100 ja tähistab vastava liigese kalibreeritud vahemiku protsenti, mitte nurka kraadides. Väärtus 0 on kalibreeritud vahemiku keskpunkt, -100 ja 100 on selle piirid.

Miks normaliseeritud väärtused on õige vaikeväärtus

Servomootorite nullpunktid erinevad füüsiliste käsivarte vahel, seega kirjeldavad kahe SO-100 seadme toorväärtused erinevaid asendeid. Normaliseerimine kalibreeritud vahemikule teeb salvestised käsivarte vahel võrreldavaks ja see ongi see, mida LeRobot treeningprotsessid eeldavad. Kui vajate oma tööriistade jaoks kraade, teisendage kalibreerimisandmete abil; platvorm kraade ei salvesta.

Pilveandmestikud töölaual

Dashboard > Datasets loetleb teie pilveandmestikud koos episoodide arvu, failisuuruste ja kogumisolekuga. Andmestikud luuakse automaatselt, kui teleoperatsiooni seanss andmeid salvestab, ning saate ka luua ühe selgesõnaliselt ja täita seda töölauakliendist salvestiste üleslaadimisega.

  • Loomine: uued andmestikud ilmuvad seanssidest automaatselt, või looge tühi ja laadige sellesse üles.
  • Ümbernimetamine: muutke kuvatavat nime igal ajal; muudatus ei puuduta andmeid ennast.
  • Kustutamine: eemaldab andmestiku ning kõik selle episoodid ja failid. Kustutamine on lõplik, seega laadige vajadusel kõigepealt arhiiv alla, kui andmeid võib veel vaja minna.

Episoodivaataja

Andmestiku avamine viib episoodivaatajasse. Igal episoodil on videopleier selle kaameravoogude jaoks ja sünkroniseeritud liigesegraafikud, mis joonistavad normaliseeritud liigeseväärtused üle episoodi. Video kerimine liigutab graafiku kursorit kaasa, mis muudab probleemide märkamise kiireks: rappuv lähenemine ilmub graafikutel hüpetena, ebaõnnestunud haare on nähtav haaratsi kanalis juba enne video vaatamist.

Episoodide märgised: Success, Recovery, Failure

Igal episoodil võib olla üks kolmest märgisest. Success märgib ülesande puhast demonstratsiooni. Recovery märgib episoodi, kus midagi läks katse keskel valesti ja te parandasite selle; need on väärtuslikud, sest need õpetavad policy-t õigele teele tagasi jõudma. Failure märgib episoode, mis ei jõudnud eesmärgini ja mis tavaliselt tuleks treeningust välja jätta. Märgistamine ülevaatamise ajal on palju odavam kui sellise policy silumine, mis on vaikselt halbadelt demonstratsioonidelt õppinud.

Andmestike liitmine

Liitmine ühendab mitu salvestist üheks suuremaks andmestikuks, näiteks nädala seansid samal ülesandel või salvestised kahelt kalibreeritud käsivarrelt. Liitmine võtab mitu tar.gz arhiivi, millest igaüks sisaldab LeRobot andmestikku, ja loob ühe andmestiku ümberindekseeritud episoodidega.

  1. 1
    Valmistage arhiivid ette

    Iga sisend peab olema täielik LeRobot andmestik, pakitud tar.gz arhiivina, sealhulgas selle meta kataloog. Osalisi arhiive ilma info.json-ita ei saa valideerida ja need lükatakse tagasi.

  2. 2
    Laadige üles mitu arhiivi

    Alustage Dashboard > Datasets all liitmist ja valige ühe sammuga kõik tar.gz arhiivid, mida soovite ühendada.

  3. 3
    Valideerimine

    Platvorm kontrollib, kas fps, tunnusskeem ja robot_type vastavad kõigis sisendites. Kui mõni neist kolmest erineb, lükatakse liitmine tagasi, nimetades erinevuse, sest ühendatud andmestik ebajärjekindlate voogudega rikuks treeningu vaikselt.

  4. 4
    Vaadake tulemus üle

    Ühendatud andmestik ilmub teie loendisse koguepisoodide arvuga. Avage episoodivaataja ja kontrollige pistelisel meetodil mõnda episoodi igast allikast, enne kui selle peal treenite.

Kolm ühilduvusreeglit on rangelt kavandatud. Kaadrisageduse erinevused muudavad iga ajasammu tähendust, skeemi erinevused rikuvad laadijaid täielikult ja robotitüüpide segamine loob andmestiku, mida ükski policy ei suuda kasutada. Kui peate ühendama andmeid sama mudeli erinevatelt käsivartelt, on see hea: robot_type viitab mudelile, mitte füüsilisele üksusele.

Andmestike turg

Turg võimaldab osta teiste salvestatud andmestikke ja müüa oma omi. Ostetud andmestikud jõuavad teie töölauale samas LeRobot paigutuses nagu teie enda salvestised, seega töötavad need episoodivaataja, liitmise ja treeninguga ilma lisasammudeta.

Kui müüte, korrastage enne loendisse lisamist. Vaadake episoodid üle, märgistage need ausalt ja veenduge, et ülesandestringid kirjeldavad seda, mis salvestistes tegelikult toimub. Ostja, kes hindab teie andmestikku, näeb sama episoodivaatajat, mida teie näete, ning puhaste märgiste ja järjekindlate demonstratsioonidega andmestikud on väärt rohkem kui kõige salvestatu toored prügihunnikud.

Korduma kippuvad küsimused

Kui suur on tüüpiline episood?

Umbes 5 kuni 15 MB 10 kuni 20 sekundi pikkuse episoodi kohta kahe kaameraga 30 fps juures, olenevalt stseeni keerukusest. Korralik andmestik mõnesaja episoodiga jääb madala gigabaidi vahemikku.

Kas saan oma andmestikke alla laadida?

Jah. Andmestikke saab töölaualt arhiividena alla laadida. Kuna paigutus on standardne LeRobot, töötab allalaadimine otse LeRobot tööriistade ja teie enda treeningkoodiga.

Kas saan liita andmestikke erinevatelt robotitüüpidelt?

Ei. Liitmine nõuab, et fps, tunnusskeem ja robot_type vastaksid kõigis sisendites. Andmeid kahelt sama mudeli erinevalt füüsiliselt käsivarrelt saab liita, kui mõlemad käsivarred on kalibreeritud.

Kas liigesegraafikud näitavad kraade?

Ei. Kõik liigeseväärtused on LeRobot-normaliseeritud vahemikku -100 kuni 100, väljendatuna iga liigese kalibreeritud vahemiku protsendina. See on ka täpselt see, mis on salvestatud Parquet failidesse.

Mis juhtub, kui kustutan andmestiku?

Andmestik ning kõik selle episoodid, videod ja metaandmed eemaldatakse lõplikult. Tagasivõtmist pole, seega laadige kõigepealt arhiiv alla, kui te pole kindel.