Werken met datasets

Het LeRobot-datasetformaat

AY-Robots slaat alle demonstratiedata op in het LeRobot-datasetformaat, onderhouden door Hugging Face. Het praktische voordeel is overdraagbaarheid: een hier opgenomen dataset laadt direct in LeRobot-gebaseerde trainingscode, en datasets die elders in hetzelfde formaat zijn opgenomen, kunnen zonder conversie worden geüpload en gebruikt op het platform.

Een dataset is een verzameling episodes. Eén episode is één complete poging tot een taak, van een gedefinieerde starttoestand tot het punt waarop u stopte met opnemen. Op schijf is een episode verdeeld over drie soorten bestanden: een Parquet-bestand met de numerieke streams, één videobestand per camera, en metadata die alles met elkaar verbindt.

Het featureschema in info.json is wat trainingscode leest om uw data te begrijpen: welke observatiesleutels bestaan, hun vormen en de opnamesnelheid. Twee datasets zijn alleen compatibel als hun schema's overeenkomen, en dat is precies wat de samenvoegvalidatie controleert.

Gewrichtswaarden zijn percentages, geen graden

Alle gewrichtswaarden in AY-Robots-datasets zijn LeRobot-genormaliseerd: elke waarde loopt van -100 tot 100 en vertegenwoordigt een percentage van het gekalibreerde bereik van dat gewricht, geen hoek in graden. Een waarde van 0 is het midden van het gekalibreerde bereik, -100 en 100 zijn de grenzen.

Clouddatasets in het dashboard

Dashboard > Datasets toont uw clouddatasets met episodetallen, bestandsgroottes en verzamelstatus. Datasets worden automatisch aangemaakt wanneer een teleoperatiesessie data opneemt, en u kunt er ook expliciet een aanmaken en vullen door opnames vanuit de desktop client te uploaden.

• Aanmaken: nieuwe datasets verschijnen automatisch vanuit sessies, of maak er een leeg aan en upload erin.
• Hernoemen: verander de weergavenaam op elk moment; de wijziging raakt de data zelf niet.
• Verwijderen: verwijdert de dataset en al zijn episodes en bestanden. Verwijderen is permanent, dus download eerst een archief als u de data mogelijk nog nodig hebt.

De episodeverkenner

Een dataset openen brengt u naar de episodeverkenner. Elke episode heeft een videospeler voor de camerastreams en gesynchroniseerde gewrichtsgrafieken die de genormaliseerde gewrichtswaarden over de episode uitzetten. Door de video te scrubben, beweegt de grafiekcursor mee, wat het snel maakt om problemen te ontdekken: een schokkerige nadering verschijnt als pieken in de grafieken, een mislukte greep is zichtbaar in het grijperkanaal nog voordat u de video bekijkt.

Episodelabels: Success, Recovery, Failure

Elke episode kan een van drie labels dragen. Success markeert een schone demonstratie van de taak. Recovery markeert een episode waarin iets misging tijdens de poging en u het corrigeerde; deze zijn waardevol omdat ze een policy leren hoe weer op koers te komen. Failure markeert episodes die het doel niet bereikten en horen doorgaans niet in de training thuis. Labelen tijdens het beoordelen is veel goedkoper dan een policy debuggen die stilletjes van slechte demonstraties heeft geleerd.

Datasets samenvoegen

Samenvoegen combineert meerdere opnames tot één grotere dataset, bijvoorbeeld een week aan sessies op dezelfde taak of opnames van twee gekalibreerde armen. Het samenvoegen neemt meerdere tar.gz-archieven, elk met een LeRobot-dataset, en produceert één dataset met opnieuw geïndexeerde episodes.

1. 1
   Bereid de archieven voor

   Elke invoer moet een complete LeRobot-dataset zijn, verpakt als een tar.gz-archief, inclusief de meta-map. Gedeeltelijke archieven zonder info.json kunnen niet worden gevalideerd en worden geweigerd.

2. 2
   Upload meerdere archieven

   Start in Dashboard > Datasets een samenvoeging en selecteer alle tar.gz-archieven die u in één stap wilt combineren.

3. 3
   Validatie

   Het platform controleert of fps, het featureschema en robot_type overeenkomen bij alle invoer. Verschilt een van de drie, dan wordt de samenvoeging geweigerd met de vermelde afwijking, omdat een gecombineerde dataset met inconsistente streams de training stilletjes zou corrumperen.

4. 4
   Beoordeel het resultaat

   De samengevoegde dataset verschijnt in uw lijst met het gecombineerde episodetal. Open de episodeverkenner en controleer een paar episodes van elke bron voordat u ermee traint.

De drie compatibiliteitsregels zijn met opzet strikt. Framerateverschillen veranderen de betekenis van elke tijdstap, schemaverschillen breken loaders volledig, en het mengen van robottypes levert een dataset op waarop geen enkele policy kan handelen. Moet u data van verschillende armen van hetzelfde model combineren, dan kan dat gewoon: robot_type verwijst naar het model, niet naar de fysieke eenheid.

De datasetmarktplaats

Op de marktplaats koopt u datasets die door anderen zijn opgenomen en verkoopt u uw eigen datasets. Gekochte datasets komen in uw dashboard aan in dezelfde LeRobot-indeling als uw eigen opnames, dus ze werken zonder extra stappen met de episodeverkenner, samenvoegen en training.

Verkoopt u, cureer dan voordat u aanbiedt. Beoordeel de episodes, label ze eerlijk, en zorg dat de taakomschrijvingen beschrijven wat er in de opnames daadwerkelijk gebeurt. Een koper die uw dataset beoordeelt, ziet dezelfde episodeverkenner als u, en datasets met schone labels en consistente demonstraties zijn meer waard dan ruwe dumps van alles wat u ooit hebt opgenomen.

Veelgestelde vragen