డేటాసెట్‌లతో పనిచేయడం

AY-Robots పై ప్రతి టెలిఆపరేషన్ సెషన్ LeRobot ఫార్మాట్‌లో నిర్మాణాత్మక డెమాన్‌స్ట్రేషన్ డేటాను ఉత్పత్తి చేస్తుంది, ఇది మేనిప్యులేషన్ డేటా కోసం వాస్తవిక ప్రామాణిక ఇంటర్‌ఛేంజ్ ఫార్మాట్. ఈ పేజీ ఒక డేటాసెట్‌లో ఏముందో, డాష్‌బోర్డ్‌లో ఎపిసోడ్‌లను ఎలా పరిశీలించి క్యూరేట్ చేయాలో, మెర్జింగ్ ఎలా పనిచేస్తుందో, మార్కెట్‌ప్లేస్ ఎక్కడ సరిపోతుందో వివరిస్తుంది.

చివరిగా అప్‌డేట్ చేయబడింది 2026-08-09

LeRobot డేటాసెట్ ఫార్మాట్

AY-Robots అన్ని డెమాన్‌స్ట్రేషన్ డేటాను Hugging Face నిర్వహించే LeRobot డేటాసెట్ ఫార్మాట్‌లో నిల్వ చేస్తుంది. ఆచరణాత్మక ప్రయోజనం పోర్టబిలిటీ: ఇక్కడ రికార్డ్ చేసిన ఒక డేటాసెట్ నేరుగా LeRobot-ఆధారిత ట్రైనింగ్ కోడ్‌లోకి లోడ్ అవుతుంది, ఎక్కడైనా అదే ఫార్మాట్‌లో రికార్డ్ చేసిన డేటాసెట్‌లను ఎలాంటి కన్వర్షన్ లేకుండా ప్లాట్‌ఫారమ్‌లో అప్‌లోడ్ చేసి ఉపయోగించవచ్చు.

ఒక డేటాసెట్ అనేది ఎపిసోడ్‌ల సమాహారం. ఒక ఎపిసోడ్ అనేది ఒక టాస్క్ కోసం ఒక పూర్తి ప్రయత్నం, ఒక నిర్వచించిన ప్రారంభ స్థితి నుండి మీరు రికార్డింగ్‌ను ఆపిన బిందువు వరకు. డిస్క్‌లో, ఒక ఎపిసోడ్ మూడు రకాల ఫైళ్లలో విభజించబడుతుంది: సంఖ్యా స్ట్రీమ్‌లతో కూడిన ఒక Parquet ఫైల్, ప్రతి కెమెరాకు ఒక వీడియో ఫైల్, అన్నింటినీ కలిపే మెటాడేటా.

పాత్కంటెంట్‌లు
data/.../episode_XXXXXX.parquetప్రతి ఎపిసోడ్‌కు ఒక Parquet ఫైల్: ఫ్రేమ్-బై-ఫ్రేమ్ టైమ్‌స్టాంప్‌లు, అబ్జర్వేషన్ స్థితి, యాక్షన్‌లు
videos/...ప్రతి ఎపిసోడ్‌కు ప్రతి కెమెరాకు ఒక MP4, Parquet డేటాతో ఫ్రేమ్-అలైన్డ్
meta/info.jsonడేటాసెట్-స్థాయి మెటాడేటా: రోబో రకం, fps, ఫీచర్ స్కీమా, ఎపిసోడ్ మరియు ఫ్రేమ్ కౌంట్‌లు
meta/episodes.jsonlప్రతి ఎపిసోడ్‌కు ఒక లైన్, దాని ఇండెక్స్, పొడవు, అది చెందిన టాస్క్‌తో పాటు
meta/tasks.jsonlఎపిసోడ్‌లు ఇండెక్స్ ద్వారా సూచించే సహజ-భాషా టాస్క్ స్ట్రింగ్‌లు

info.json లోని ఫీచర్ స్కీమా మీ డేటాను అర్థం చేసుకోవడానికి ట్రైనింగ్ కోడ్ చదివేది: ఏ అబ్జర్వేషన్ కీలు ఉన్నాయి, వాటి ఆకారాలు, రికార్డింగ్ రేటు. రెండు డేటాసెట్‌లు వాటి స్కీమాలు సరిపోలినప్పుడు మాత్రమే అనుకూలంగా ఉంటాయి, మెర్జ్ వాలిడేషన్ సరిగ్గా దీన్నే తనిఖీ చేస్తుంది.

జాయింట్ విలువలు శాతాలు, డిగ్రీలు కావు

AY-Robots డేటాసెట్‌లలోని అన్ని జాయింట్ విలువలు LeRobot-నార్మలైజ్డ్: ప్రతి విలువ -100 నుండి 100 వరకు ఉంటుంది, ఆ జాయింట్ యొక్క కాలిబ్రేటెడ్ రేంజ్‌లో ఒక శాతాన్ని సూచిస్తుంది, డిగ్రీలలో ఒక కోణం కాదు. 0 అనేది కాలిబ్రేటెడ్ రేంజ్ యొక్క మధ్య బిందువు, -100 మరియు 100 దాని పరిమితులు.

నార్మలైజ్డ్ విలువలు ఎందుకు సరైన డిఫాల్ట్

భౌతిక ఆర్మ్‌ల మధ్య సర్వో జీరో పాయింట్‌లు వేరుగా ఉంటాయి, కాబట్టి రెండు SO-100 యూనిట్ల నుండి వచ్చిన ముడి డిగ్రీలు వేర్వేరు పొజిషన్‌లను వివరిస్తాయి. కాలిబ్రేటెడ్ రేంజ్‌కు నార్మలైజ్ చేయడం ఆర్మ్‌ల మధ్య రికార్డింగ్‌లను పోల్చదగినవిగా చేస్తుంది, LeRobot ట్రైనింగ్ పైప్‌లైన్‌లు దీన్నే ఆశిస్తాయి. మీ సొంత టూలింగ్ కోసం మీకు డిగ్రీలు అవసరమైతే, మీ కాలిబ్రేషన్ డేటాను ఉపయోగించి కన్వర్ట్ చేయండి; ప్లాట్‌ఫారమ్ డిగ్రీలను నిల్వ చేయదు.

డాష్‌బోర్డ్‌లో క్లౌడ్ డేటాసెట్‌లు

Dashboard > Datasets మీ క్లౌడ్ డేటాసెట్‌లను ఎపిసోడ్ కౌంట్‌లు, ఫైల్ పరిమాణాలు, సేకరణ స్థితితో జాబితా చేస్తుంది. ఒక టెలిఆపరేషన్ సెషన్ డేటాను రికార్డ్ చేసినప్పుడు డేటాసెట్‌లు ఆటోమేటిక్‌గా సృష్టించబడతాయి, మీరు స్పష్టంగా ఒకదాన్ని సృష్టించి డెస్క్‌టాప్ క్లయింట్ నుండి రికార్డింగ్‌లను అప్‌లోడ్ చేసి దాన్ని నింపవచ్చు.

  • సృష్టించడం: కొత్త డేటాసెట్‌లు సెషన్‌ల నుండి ఆటోమేటిక్‌గా కనిపిస్తాయి, లేదా ఒక ఖాళీ దాన్ని సృష్టించి దానిలోకి అప్‌లోడ్ చేయండి.
  • పేరు మార్చడం: ఎప్పుడైనా డిస్‌ప్లే పేరును మార్చండి; ఈ మార్పు అసలు డేటాను తాకదు.
  • తొలగించడం: డేటాసెట్‌ను, దాని అన్ని ఎపిసోడ్‌లు మరియు ఫైళ్లను తొలగిస్తుంది. తొలగింపు శాశ్వతం, కాబట్టి మీకు మళ్లీ డేటా అవసరమవ్వచ్చని అనిపిస్తే ముందుగా ఒక ఆర్కైవ్‌ను డౌన్‌లోడ్ చేయండి.

ఎపిసోడ్ బ్రౌజర్

ఒక డేటాసెట్‌ను తెరవడం మిమ్మల్ని ఎపిసోడ్ బ్రౌజర్‌కు తీసుకువెళుతుంది. ప్రతి ఎపిసోడ్‌కు దాని కెమెరా స్ట్రీమ్‌ల కోసం ఒక వీడియో ప్లేయర్, ఎపిసోడ్ మొత్తంలో నార్మలైజ్డ్ జాయింట్ విలువలను ప్లాట్ చేసే సమకాలీకరించిన జాయింట్ చార్ట్‌లు ఉంటాయి. వీడియోను స్క్రబ్ చేయడం చార్ట్ కర్సర్‌ను దానితో పాటు కదిలిస్తుంది, ఇది సమస్యలను త్వరగా గుర్తించడాన్ని సులభతరం చేస్తుంది: ఒక కుదుపు సమీపనం చార్ట్‌లలో స్పైక్‌లుగా కనిపిస్తుంది, విఫలమైన ఒక గ్రాస్ మీరు వీడియోను చూడకముందే గ్రిప్పర్ ఛానల్‌లో కనిపిస్తుంది.

ఎపిసోడ్ లేబుల్‌లు: Success, Recovery, Failure

ప్రతి ఎపిసోడ్ మూడు లేబుల్‌లలో ఒకదాన్ని కలిగి ఉంటుంది. Success టాస్క్ యొక్క క్లీన్ డెమాన్‌స్ట్రేషన్‌ను గుర్తిస్తుంది. Recovery ప్రయత్నం మధ్యలో ఏదో తప్పు జరిగి మీరు దాన్ని సరిచేసిన ఒక ఎపిసోడ్‌ను గుర్తిస్తుంది; ఇవి విలువైనవి, ఎందుకంటే అవి ఒక పాలసీకి తిరిగి ట్రాక్‌లోకి ఎలా రావాలో నేర్పిస్తాయి. Failure లక్ష్యాన్ని చేరుకోని ఎపిసోడ్‌లను గుర్తిస్తుంది, ఇవి సాధారణంగా ట్రైనింగ్ నుండి బయట ఉంచాలి. మీరు సమీక్షిస్తున్నప్పుడే లేబుల్ చేయడం, చెడ్డ డెమాన్‌స్ట్రేషన్‌ల నుండి నిశ్శబ్దంగా నేర్చుకున్న ఒక పాలసీని డీబగ్ చేయడం కంటే చాలా చౌకైనది.

డేటాసెట్‌లను మెర్జ్ చేయడం

మెర్జింగ్ అనేక రికార్డింగ్‌లను ఒక పెద్ద డేటాసెట్‌గా కలుపుతుంది, ఉదాహరణకు అదే టాస్క్‌పై ఒక వారం సెషన్‌లు లేదా రెండు కాలిబ్రేటెడ్ ఆర్మ్‌ల నుండి రికార్డింగ్‌లు. మెర్జ్ అనేక tar.gz ఆర్కైవ్‌లను తీసుకుంటుంది, ప్రతి దానిలో ఒక LeRobot డేటాసెట్ ఉంటుంది, తిరిగి-ఇండెక్స్ చేసిన ఎపిసోడ్‌లతో ఒకే డేటాసెట్‌ను ఉత్పత్తి చేస్తుంది.

  1. 1
    ఆర్కైవ్‌లను సిద్ధం చేయండి

    ప్రతి ఇన్‌పుట్ దాని meta డైరెక్టరీతో సహా ఒక tar.gz ఆర్కైవ్‌గా ప్యాక్ చేయబడిన ఒక పూర్తి LeRobot డేటాసెట్‌గా ఉండాలి. info.json లేని పాక్షిక ఆర్కైవ్‌లను వాలిడేట్ చేయలేము, అవి తిరస్కరించబడతాయి.

  2. 2
    అనేక ఆర్కైవ్‌లను అప్‌లోడ్ చేయండి

    Dashboard > Datasets లో, ఒక మెర్జ్‌ను ప్రారంభించి, మీరు ఒకే దశలో కలపాలనుకుంటున్న అన్ని tar.gz ఆర్కైవ్‌లను ఎంచుకోండి.

  3. 3
    వాలిడేషన్

    ప్లాట్‌ఫారమ్ అన్ని ఇన్‌పుట్‌లలో fps, ఫీచర్ స్కీమా, robot_type సరిపోలుతున్నాయో తనిఖీ చేస్తుంది. మూడింటిలో ఏదైనా వేరుగా ఉంటే, అసమతుల్యతను పేర్కొంటూ మెర్జ్ తిరస్కరించబడుతుంది, ఎందుకంటే అసమకాలిక స్ట్రీమ్‌లతో కూడిన ఒక కలిపిన డేటాసెట్ ట్రైనింగ్‌ను నిశ్శబ్దంగా పాడు చేస్తుంది.

  4. 4
    ఫలితాన్ని సమీక్షించండి

    కలిపిన డేటాసెట్ కలిపిన ఎపిసోడ్ కౌంట్‌తో మీ జాబితాలో కనిపిస్తుంది. దానిపై ట్రైన్ చేయడానికి ముందు ఎపిసోడ్ బ్రౌజర్‌ను తెరిచి ప్రతి మూలం నుండి కొన్ని ఎపిసోడ్‌లను స్పాట్-చెక్ చేయండి.

ఈ మూడు అనుకూలత నియమాలు ఉద్దేశపూర్వకంగా కఠినంగా ఉన్నాయి. ఫ్రేమ్ రేటు అసమతుల్యతలు ప్రతి టైమ్‌స్టెప్ యొక్క అర్థాన్ని మారుస్తాయి, స్కీమా అసమతుల్యతలు లోడర్‌లను పూర్తిగా విచ్ఛిన్నం చేస్తాయి, రోబో రకాలను కలపడం ఏ ఒక్క పాలసీ కూడా చర్య తీసుకోలేని ఒక డేటాసెట్‌ను ఉత్పత్తి చేస్తుంది. మీరు అదే మోడల్‌కు చెందిన వేర్వేరు ఆర్మ్‌ల నుండి డేటాను కలపాలనుకుంటే, అది సరైనదే: robot_type మోడల్‌ను సూచిస్తుంది, భౌతిక యూనిట్‌ను కాదు.

డేటాసెట్ మార్కెట్‌ప్లేస్

మార్కెట్‌ప్లేస్ ఇతరులు రికార్డ్ చేసిన డేటాసెట్‌లను కొనడానికి, మీ సొంతదాన్ని అమ్మడానికి మిమ్మల్ని అనుమతిస్తుంది. కొనుగోలు చేసిన డేటాసెట్‌లు మీ సొంత రికార్డింగ్‌ల అదే LeRobot లేఅవుట్‌లో మీ డాష్‌బోర్డ్‌లో వస్తాయి, కాబట్టి అవి ఎలాంటి అదనపు దశలు లేకుండా ఎపిసోడ్ బ్రౌజర్, మెర్జింగ్, ట్రైనింగ్‌తో పనిచేస్తాయి.

మీరు అమ్ముతుంటే, జాబితా చేయడానికి ముందు క్యూరేట్ చేయండి. ఎపిసోడ్‌లను సమీక్షించండి, వాటిని నిజాయితీగా లేబుల్ చేయండి, టాస్క్ స్ట్రింగ్‌లు రికార్డింగ్‌లలో నిజంగా ఏమి జరుగుతుందో వివరిస్తున్నాయని నిర్ధారించుకోండి. మీ డేటాసెట్‌ను మదింపు చేసే ఒక కొనుగోలుదారు మీరు చూసే అదే ఎపిసోడ్ బ్రౌజర్‌ను చూస్తారు, క్లీన్ లేబుల్‌లు, స్థిరమైన డెమాన్‌స్ట్రేషన్‌లు ఉన్న డేటాసెట్‌లు మీరు ఎప్పుడూ రికార్డ్ చేసిన ప్రతిదాని ముడి డంప్ కంటే ఎక్కువ విలువైనవి.

తరచుగా అడిగే ప్రశ్నలు

ఒక సాధారణ ఎపిసోడ్ ఎంత పెద్దది?

30 fps వద్ద రెండు కెమెరాలతో 10 నుండి 20 సెకన్ల ఎపిసోడ్ కోసం సుమారు 5 నుండి 15 MB, సీన్ సంక్లిష్టతపై ఆధారపడి ఉంటుంది. కొన్ని వందల ఎపిసోడ్‌లు ఉన్న ఒక తీవ్రమైన డేటాసెట్ తక్కువ గిగాబైట్‌లలో ఉంటుంది.

నేను నా డేటాసెట్‌లను డౌన్‌లోడ్ చేయవచ్చా?

అవును. డాష్‌బోర్డ్ నుండి డేటాసెట్‌లను ఆర్కైవ్‌లుగా డౌన్‌లోడ్ చేయవచ్చు. లేఅవుట్ ప్రామాణిక LeRobot కాబట్టి, డౌన్‌లోడ్ నేరుగా LeRobot టూలింగ్‌తో, మీ సొంత ట్రైనింగ్ కోడ్‌తో పనిచేస్తుంది.

వేర్వేరు రోబో రకాల నుండి డేటాసెట్‌లను నేను మెర్జ్ చేయవచ్చా?

లేదు. మెర్జ్‌కు అన్ని ఇన్‌పుట్‌లలో fps, ఫీచర్ స్కీమా, robot_type సరిపోలాలి. రెండు ఆర్మ్‌లు కాలిబ్రేట్ చేయబడితే, అదే మోడల్‌కు చెందిన రెండు వేర్వేరు భౌతిక ఆర్మ్‌ల నుండి డేటాను మెర్జ్ చేయవచ్చు.

జాయింట్ చార్ట్‌లు డిగ్రీలను చూపిస్తాయా?

లేదు. అన్ని జాయింట్ విలువలు LeRobot-నార్మలైజ్డ్‌గా -100 నుండి 100 రేంజ్‌కు, ప్రతి జాయింట్ యొక్క కాలిబ్రేటెడ్ రేంజ్‌లో ఒక శాతంగా వ్యక్తీకరించబడతాయి. Parquet ఫైళ్లలో నిల్వ చేయబడేది కూడా ఇదే.

నేను ఒక డేటాసెట్‌ను తొలగించినప్పుడు ఏమి జరుగుతుంది?

డేటాసెట్, దాని అన్ని ఎపిసోడ్‌లు, వీడియోలు, మెటాడేటా శాశ్వతంగా తొలగించబడతాయి. దీనికి అన్‌డూ లేదు, కాబట్టి మీకు ఖచ్చితంగా తెలియకపోతే ముందుగా ఒక ఆర్కైవ్‌ను డౌన్‌లోడ్ చేయండి.