Pagtatrabaho gamit ang dataset

Ang LeRobot dataset format

Nag-i-store ang AY-Robots ng lahat ng demonstration data sa LeRobot dataset format na inaalagaan ng Hugging Face. Ang praktikal na benepisyo ay portability: dumidiretso sa LeRobot-based na training code ang dataset na na-record dito, at puwedeng i-upload at gamitin sa platform, nang walang conversion, ang mga dataset na na-record sa ibang lugar gamit ang parehong format.

Ang dataset ay koleksyon ng mga episode. Ang isang episode ay isang kompletong pagsubok sa isang gawain, mula sa isang tinukoy na starting state hanggang sa punto kung saan huminto ang pag-record. Sa disk, hinahati ang episode sa tatlong uri ng file: isang Parquet file na may numeric na stream, isang video file kada camera, at metadata na nag-uugnay sa lahat.

Ang feature schema sa info.json ang binabasa ng training code para maintindihan ang data mo: anong observation key ang umiiral, ang mga shape nila, at ang recording rate. Compatible lang ang dalawang dataset kung magkatugma ang schema nila, na siya nga eksaktong sinusuri ng merge validation.

Percentage ang joint value, hindi degree

Lahat ng joint value sa AY-Robots dataset ay LeRobot-normalized: bawat value ay mula -100 hanggang 100 at kumakatawan sa percentage ng calibrated range ng joint na iyon, hindi sa angle sa degree. Ang reading na 0 ang gitna ng calibrated range, ang -100 at 100 ang mga limitasyon nito.

Cloud dataset sa dashboard

Nakalista sa Dashboard > Datasets ang mga cloud dataset mo kasama ang bilang ng episode, sukat ng file, at status ng koleksyon. Ginagawa ang mga dataset nang automatic kapag nag-record ng data ang isang teleoperation session, at puwede ka ring gumawa nang explicit at punan ito sa pamamagitan ng pag-upload ng mga recording mula sa desktop client.

• Paggawa: lumilitaw nang automatic ang mga bagong dataset mula sa session, o gumawa ng walang laman at mag-upload dito.
• Pagpapangalan: baguhin ang display name kahit kailan; hindi hinahawakan ng pagbabago ang data mismo.
• Pagtanggal: inaalis ang dataset kasama ang lahat ng episode at file nito. Permanente ang pagtanggal, kaya mag-download ng archive muna kung baka kailanganin mo pa ang data.

Ang episode browser

Kapag binuksan mo ang isang dataset, dadalhin ka nito sa episode browser. May video player ang bawat episode para sa camera stream nito at synchronized joint chart na nagpaplot ng normalized na joint value sa buong episode. Kapag ni-scrub mo ang video, gumagalaw kasama nito ang chart cursor, na nagpapabilis makita ang problema: ang jerky na paglapit ay lumilitaw bilang tugon sa chart, ang nabigong grasp ay makikita sa gripper channel bago mo pa mapanood ang video.

Episode label: Success, Recovery, Failure

Puwedeng dalhin ng bawat episode ang isa sa tatlong label. Nagmamarka ang Success ng malinis na demonstration ng gawain. Nagmamarka ang Recovery ng episode kung saan may nasira sa gitna ng pagsubok at itinama mo ito; mahalaga ang mga ito dahil tinuturuan nila ang policy kung paano bumalik sa tamang landas. Nagmamarka ang Failure ng mga episode na hindi umabot sa layunin at karaniwang dapat ilabas sa training. Mas mura ang mag-label habang nagre-review ka kaysa sa pag-debug ng policy na tahimik na natuto mula sa masamang demonstration.

Pagsasama-sama ng dataset

Pinagsasama-sama ng merging ang ilang recording sa isang mas malaking dataset, halimbawa isang linggo ng session sa parehong gawain o mga recording mula sa dalawang na-calibrate na arm. Kumukuha ang merge ng maraming tar.gz archive, na may nilalamang LeRobot dataset ang bawat isa, at gumagawa ng isang dataset na may re-indexed na episode.

1. 1
   Ihanda ang mga archive

   Dapat kompletong LeRobot dataset ang bawat input na naka-pack bilang tar.gz archive, kasama ang meta directory nito. Hindi ma-validate at tinatanggihan ang mga partial na archive na walang info.json.

2. 2
   Mag-upload ng maraming archive

   Sa Dashboard > Datasets, magsimula ng merge at piliin ang lahat ng tar.gz archive na gusto mong pagsamahin sa isang hakbang.

3. 3
   Validation

   Sinusuri ng platform kung magkatugma ang fps, feature schema, at robot_type sa lahat ng input. Kung magkaiba ang alinman sa tatlo, tinatanggihan ang merge kasama ang pangalan ng hindi tugma, dahil tahimik na masisira ng combined dataset na may hindi pare-parehong stream ang training.

4. 4
   I-review ang resulta

   Lilitaw ang na-merge na dataset sa listahan mo kasama ang combined na bilang ng episode. Buksan ang episode browser at mag-spot-check ng ilang episode mula sa bawat source bago mo ito pagtrain-an.

Sinasadyang mahigpit ang tatlong compatibility rule. Binabago ng hindi tugmang frame rate ang kahulugan ng bawat timestep, sinisira nang tuluyan ng hindi tugmang schema ang mga loader, at gumagawa ng dataset na walang policy na maaaring kumilos ang paghalo ng robot type. Kung kailangan mong pagsamahin ang data mula sa magkaibang arm ng parehong model, okay lang: tumutukoy ang robot_type sa model, hindi sa physical unit.

Ang dataset marketplace

Hinahayaan ka ng marketplace na bumili ng dataset na na-record ng iba at ibenta ang sarili mo. Dumarating ang mga binili mong dataset sa dashboard mo sa parehong LeRobot layout tulad ng mga recording mo mismo, kaya gumagana ito sa episode browser, merging, at training nang walang dagdag na hakbang.

Kung nagbebenta ka, i-curate muna bago mo ilista. I-review ang mga episode, i-label nang tapat, at siguraduhing inilalarawan ng task string ang aktwal na nangyayari sa recording. Nakikita ng buyer na sumusuri sa dataset mo ang parehong episode browser na nakikita mo, at mas mahal ang mga dataset na may malinis na label at pare-parehong demonstration kaysa sa raw dump ng lahat ng ire-record mo.

Mga madalas itanong