Werk met datastelle

Elke teleoperasie-sessie op AY-Robots lewer gestruktureerde demonstrasiedata op in die LeRobot-formaat, die de facto uitruilformaat vir manipulasiedata. Hierdie bladsy verduidelik wat in 'n datastel sit, hoe om episodes in die dashboard te inspekteer en te kuratteer, hoe samevoeging werk, en hoe die mark inpas.

Laas bygewerk 2026-08-09

Die LeRobot-datastelformaat

AY-Robots stoor alle demonstrasiedata in die LeRobot-datastelformaat wat deur Hugging Face onderhou word. Die praktiese voordeel is oordraagbaarheid: 'n datastel wat hier opgeneem is, laai direk in LeRobot-gebaseerde opleidingskode, en datastelle wat elders in dieselfde formaat opgeneem is, kan sonder omskakeling opgelaai en op die platform gebruik word.

'n Datastel is 'n versameling episodes. Een episode is een volledige poging tot 'n taak, van 'n gedefinieerde begintoestand tot die punt waar jy opgehou het om op te neem. Op skyf word 'n episode oor drie tipes lêers versprei: 'n Parquet-lêer met die numeriese strome, een videolêer per kamera, en metadata wat alles saambind.

PadInhoud
data/.../episode_XXXXXX.parquetEen Parquet-lêer per episode: raam-vir-raam tydstempels, waarnemingstoestand, en aksies
videos/...Een MP4 per kamera per episode, raamgesinkroniseer met die Parquet-data
meta/info.jsonMetadata op datastelvlak: robottipe, fps, die kenmerkskema, en episode- en raamtellings
meta/episodes.jsonlEen reël per episode met sy indeks, lengte, en die taak waaraan dit behoort
meta/tasks.jsonlDie natuurlike-taal taakstringe waarna episodes per indeks verwys

Die kenmerkskema in info.json is wat opleidingskode lees om jou data te verstaan: watter waarnemingsleutels bestaan, hul vorms, en die opnametempo. Twee datastelle is slegs versoenbaar as hul skemas ooreenstem, wat presies is wat die samevoeg-validasie nagaan.

Gewrigswaardes is persentasies, nie grade nie

Alle gewrigswaardes in AY-Robots-datastelle is LeRobot-genormaliseer: elke waarde wissel van -100 tot 100 en verteenwoordig 'n persentasie van daardie gewrig se gekalibreerde reikwydte, nie 'n hoek in grade nie. 'n Lesing van 0 is die middelpunt van die gekalibreerde reikwydte, -100 en 100 is die grense daarvan.

Waarom genormaliseerde waardes die regte verstek is

Servo-nulpunte verskil tussen fisiese arms, sodat rou hoeke van twee SO-100-eenhede verskillende houdings beskryf. Om na die gekalibreerde reikwydte te normaliseer, maak opnames vergelykbaar tussen arms en is wat LeRobot-opleidingspyplyne verwag. As jy hoeke vir jou eie gereedskap benodig, skakel om met jou kalibrasiedata; die platform stoor geen grade nie.

Wolkdatastelle in die dashboard

Dashboard > Datasets lys jou wolkdatastelle met episodetellings, lêergroottes, en versamelingstatus. Datastelle word outomaties geskep wanneer 'n teleoperasie-sessie data opneem, en jy kan ook uitdruklik een skep en dit vul deur opnames van die desktop client op te laai.

  • Skep: nuwe datastelle verskyn outomaties uit sessies, of skep 'n leë een en laai daarin op.
  • Hernoem: verander die vertoonnaam te eniger tyd; die verandering raak nie die data self nie.
  • Verwyder: verwyder die datastel en al sy episodes en lêers. Verwydering is permanent, laai dus eers 'n argief af as jy die data moontlik weer nodig het.

Die episode-blaaier

Om 'n datastel oop te maak, neem jou na die episode-blaaier. Elke episode het 'n videospeler vir sy kamerastrome en gesinkroniseerde gewrigsgrafieke wat die genormaliseerde gewrigswaardes oor die episode plot. Om deur die video te blaai, beweeg die grafiekwyser saam, wat dit vinnig maak om probleme te sien: 'n hortende nadering wys as pieke in die grafieke, 'n mislukte gryp is sigbaar in die gryperkanaal nog voordat jy die video kyk.

Episode-etikette: Success, Recovery, Failure

Elke episode kan een van drie etikette dra. Success merk 'n skoon demonstrasie van die taak. Recovery merk 'n episode waar iets halfpad deur die poging verkeerd geloop het en jy dit reggestel het; hierdie is waardevol omdat hulle 'n policy leer hoe om weer op koers te kom. Failure merk episodes wat nie die doel bereik het nie en behoort gewoonlik uit opleiding gehou te word. Om te etiketteer terwyl jy hersien, is baie goedkoper as om 'n policy te ontfout wat stilweg uit swak demonstrasies geleer het.

Datastelle saamvoeg

Samevoeging kombineer verskeie opnames tot een groter datastel, byvoorbeeld 'n week se sessies op dieselfde taak of opnames van twee gekalibreerde arms. Die samevoeging neem verskeie tar.gz-argiewe, elkeen met 'n LeRobot-datastel, en lewer een datastel met herindeksde episodes op.

  1. 1
    Berei die argiewe voor

    Elke toevoer moet 'n volledige LeRobot-datastel wees, verpak as 'n tar.gz-argief, insluitend sy meta-gids. Onvolledige argiewe sonder info.json kan nie gevalideer word nie en word verwerp.

  2. 2
    Laai verskeie argiewe op

    In Dashboard > Datasets, begin 'n samevoeging en kies al die tar.gz-argiewe wat jy in een stap wil kombineer.

  3. 3
    Validasie

    Die platform kyk of fps, die kenmerkskema, en robot_type ooreenstem oor al die toevoere. As enige van die drie verskil, word die samevoeging verwerp met die verskil genoem, want 'n gekombineerde datastel met onkonsekwente strome sou opleiding stilweg korrupteer.

  4. 4
    Hersien die resultaat

    Die saamgevoegde datastel verskyn in jou lys met die gekombineerde episodetelling. Maak die episode-blaaier oop en steekproef 'n paar episodes van elke bron voordat jy daarop oplei.

Die drie versoenbaarheidsreëls is doelbewus streng. Raamtempo-teenstrydighede verander die betekenis van elke tydstap, skema-teenstrydighede breek laaiers heeltemal, en die vermenging van robottipes lewer 'n datastel op waarop geen enkele policy kan optree nie. As jy data van verskillende arms van dieselfde model moet kombineer, is dit reg: robot_type verwys na die model, nie die fisiese eenheid nie.

Die datastelmark

Die mark laat jou datastelle koop wat deur ander opgeneem is, en jou eie verkoop. Gekoopte datastelle beland in jou dashboard in dieselfde LeRobot-uitleg as jou eie opnames, sodat hulle sonder ekstra stappe met die episode-blaaier, samevoeging, en opleiding werk.

As jy verkoop, kuratteer voordat jy lys. Hersien die episodes, etiketteer hulle eerlik, en maak seker die taakstringe beskryf wat werklik in die opnames gebeur. 'n Koper wat jou datastel evalueer, sien dieselfde episode-blaaier as jy, en datastelle met skoon etikette en konsekwente demonstrasies is meer werd as rou stortings van alles wat jy ooit opgeneem het.

Gereelde vrae

Hoe groot is 'n tipiese episode?

Ongeveer 5 tot 15 MB vir 'n episode van 10 tot 20 sekondes met twee kameras teen 30 fps, afhangend van tonelekompleksiteit. 'n Ernstige datastel met 'n paar honderd episodes beland in die lae gigagrepe.

Kan ek my datastelle aflaai?

Ja. Datastelle kan as argiewe vanaf die dashboard afgelaai word. Aangesien die uitleg standaard LeRobot is, werk die aflaai direk saam met LeRobot-gereedskap en jou eie opleidingskode.

Kan ek datastelle van verskillende robottipes saamvoeg?

Nee. Die samevoeging vereis dat fps, die kenmerkskema, en robot_type ooreenstem oor al die toevoere. Data van twee verskillende fisiese arms van dieselfde model kan saamgevoeg word, mits albei arms gekalibreer was.

Wys die gewrigsgrafieke grade?

Nee. Alle gewrigswaardes is LeRobot-genormaliseer tot die reikwydte -100 tot 100, uitgedruk as 'n persentasie van elke gewrig se gekalibreerde reikwydte. Dit is ook presies wat in die Parquet-lêers gestoor word.

Wat gebeur as ek 'n datastel verwyder?

Die datastel en al sy episodes, video's, en metadata word permanent verwyder. Daar is geen ontdoen nie, laai dus eers 'n argief af as jy nie seker is nie.