Работа со dataset-и

Форматот на LeRobot dataset

AY-Robots ги чува сите демонстративни податоци во форматот LeRobot dataset одржуван од Hugging Face. Практичната корист е преносливост: dataset снимен тука се вчитува директно во код за тренирање базиран на LeRobot, а dataset-и снимени на друго место во истиот формат можат да се прикачат и користат на платформата без конверзија.

Dataset е збир епизоди. Една епизода е еден целосен обид на задача, од дефинирана почетна состојба до точката каде запреле снимањето. На дискот, епизодата е поделена на три вида датотеки: Parquet-датотека со нумеричките потоци, по една видео-датотека за секоја камера, и метаподатоци кои сѐ поврзуваат заедно.

Шемата на карактеристики во info.json е она што кодот за тренирање го чита за да ги разбере вашите податоци: кои клучеви на набљудување постојат, нивните облици и стапката на снимање. Два dataset-и се компатибилни само ако нивните шеми се совпаѓаат, а токму тоа го проверува валидацијата при спојување.

Вредностите на зглобовите се проценти, не степени

Сите вредности на зглобовите во dataset-ите на AY-Robots се LeRobot-нормализирани: секоја вредност се движи од -100 до 100 и претставува процент од калибрираниот опсег на тој зглоб, не агол во степени. Читање од 0 е центарот на калибрираниот опсег, -100 и 100 се неговите граници.

Облак dataset-и во контролната табла

Dashboard > Datasets ги наведува вашите dataset-и во облак со број на епизоди, големини на датотеки и статус на собирање. Dataset-ите се создаваат автоматски кога сесија за телеоперација снима податоци, а можете и изречно да создадете еден и да го наполните преку прикачување снимки од desktop клиентот.

• Создавање: новите dataset-и се појавуваат од сесии автоматски, или создадете празен и прикачете во него.
• Преименување: сменете го прикажаното име во секое време; промената не ги допира самите податоци.
• Бришење: го отстранува dataset-от и сите негови епизоди и датотеки. Бришењето е трајно, па преземете архива прво ако можеби ќе ви требаат податоците повторно.

Прегледувачот на епизоди

Отворањето dataset ве носи во прегледувачот на епизоди. Секоја епизода има видео-плеер за нејзините камерски потоци и синхронизирани графикони на зглобовите кои ги цртаат нормализираните вредности на зглобовите низ епизодата. Премотувањето на видеото го поместува курсорот на графиконот заедно со него, што прави брзо забележување проблеми: непрецизен пристап се појавува како шпицови во графиконите, неуспешно фаќање е видливо во каналот на фаќачот дури и пред да го погледнете видеото.

Ознаки на епизоди: Success, Recovery, Failure

Секоја епизода може да носи една од три ознаки. Success означува чиста демонстрација на задачата. Recovery означува епизода каде нешто пошло наопаку среде обидот и вие сте го исправиле; тие се вредни бидејќи учат policy како да се врати на вистинскиот пат. Failure означува епизоди кои не ја достигнале целта и обично треба да останат надвор од тренирањето. Означувањето додека прегледувате е многу поевтино отколку дебагирање policy која тивко научила од лоши демонстрации.

Спојување dataset-и

Спојувањето комбинира повеќе снимки во еден поголем dataset, на пример недела сесии на истата задача или снимки од две калибрирани раце. Спојувањето зема повеќе tar.gz архиви, секоја содржи LeRobot dataset, и произведува единствен dataset со реиндексирани епизоди.

1. 1
   Подгответе ги архивите

   Секој влез мора да е целосен LeRobot dataset спакуван како tar.gz архива, вклучувајќи го неговиот директориум meta. Делумни архиви без info.json не можат да се валидираат и се отфрлаат.

2. 2
   Прикачете повеќе архиви

   Во Dashboard > Datasets, стартувајте спојување и изберете ги сите tar.gz архиви што сакате да ги комбинирате во еден чекор.

3. 3
   Валидација

   Платформата проверува дали fps, шемата на карактеристики и robot_type се совпаѓаат меѓу сите влезови. Ако кое било од трите се разликува, спојувањето се отфрла со наведена несовпадливост, бидејќи комбиниран dataset со неконзистентни потоци тивко би го расипал тренирањето.

4. 4
   Прегледајте го резултатот

   Споениот dataset се појавува во вашата листа со комбинираниот број епизоди. Отворете го прегледувачот на епизоди и проверете неколку епизоди од секој извор пред да тренирате врз него.

Трите правила за компатибилност се строги со причина. Несовпаѓањата во стапката на кадри го менуваат значењето на секој временски чекор, несовпаѓањата во шемата ги кршат вчитувачите директно, а мешањето типови роботи произведува dataset на кој ниту еден единствен policy не може да делува. Ако треба да комбинирате податоци од различни раце на истиот модел, тоа е во ред: robot_type се однесува на моделот, не на физичката единица.

Пазарот за dataset-и

Пазарот ви овозможува да купувате dataset-и снимени од други и да ги продавате вашите. Купените dataset-и пристигнуваат во вашата контролна табла во истиот LeRobot распоред како вашите сопствени снимки, па работат со прегледувачот на епизоди, спојувањето и тренирањето без дополнителни чекори.

Ако продавате, уредете пред да објавите. Прегледајте ги епизодите, означете ги искрено и осигурете се дека текстовите на задачите го опишуваат она што навистина се случува во снимките. Купувач кој го оценува вашиот dataset го гледа истиот прегледувач на епизоди што и вие го гледате, а dataset-ите со чисти ознаки и конзистентни демонстрации вредат повеќе од сурови отфрлања на сѐ што некогаш сте снимиле.

Често поставувани прашања