데이터셋 다루기

LeRobot 데이터셋 형식

AY-Robots는 모든 시연 데이터를 Hugging Face가 관리하는 LeRobot 데이터셋 형식으로 저장합니다. 실용적인 장점은 이식성입니다. 이곳에서 녹화한 데이터셋은 LeRobot 기반 학습 코드에 바로 로드되며, 동일한 형식으로 다른 곳에서 녹화한 데이터셋도 변환 없이 업로드해 플랫폼에서 사용할 수 있습니다.

데이터셋은 에피소드의 모음입니다. 하나의 에피소드는 정의된 시작 상태에서 녹화를 멈춘 시점까지, 작업을 완전히 한 번 시도한 것입니다. 디스크상에서 하나의 에피소드는 세 종류의 파일로 나뉩니다: 수치 스트림이 담긴 Parquet 파일, 카메라별 영상 파일, 그리고 모든 것을 연결하는 메타데이터입니다.

info.json의 피처 스키마는 학습 코드가 데이터를 이해하기 위해 읽는 정보입니다. 어떤 관측 키가 존재하는지, 그 형태(shape)는 어떤지, 녹화 속도는 얼마인지를 담고 있습니다. 두 데이터셋은 스키마가 일치할 때만 호환되며, 이것이 정확히 병합 검증이 확인하는 내용입니다.

관절 값은 각도가 아니라 백분율입니다

AY-Robots 데이터셋의 모든 관절 값은 LeRobot 정규화 방식을 따릅니다. 각 값은 -100에서 100 사이이며 해당 관절의 보정된 가동 범위에 대한 백분율을 나타낼 뿐, 도(degree) 단위의 각도가 아닙니다. 값 0은 보정 범위의 중앙이며, -100과 100은 그 한계입니다.

대시보드의 클라우드 데이터셋

Dashboard > Datasets에는 클라우드 데이터셋이 에피소드 수, 파일 크기, 수집 상태와 함께 나열됩니다. 원격 조작 세션이 데이터를 녹화하면 데이터셋이 자동으로 생성되며, 데이터셋을 직접 만들고 데스크톱 클라이언트에서 녹화한 내용을 업로드해 채울 수도 있습니다.

• 생성: 새 데이터셋은 세션에서 자동으로 나타나거나, 빈 데이터셋을 만들어 업로드할 수 있습니다.
• 이름 변경: 표시 이름은 언제든 변경할 수 있으며, 데이터 자체는 영향을 받지 않습니다.
• 삭제: 데이터셋과 모든 에피소드, 파일을 제거합니다. 삭제는 영구적이므로 다시 필요할 수 있다면 먼저 아카이브를 다운로드하십시오.

에피소드 브라우저

데이터셋을 열면 에피소드 브라우저로 이동합니다. 각 에피소드에는 카메라 스트림을 재생하는 영상 플레이어와, 에피소드 전체에 걸쳐 정규화된 관절 값을 그래프로 표시하는 동기화된 관절 차트가 있습니다. 영상을 훑으면 차트 커서도 함께 움직이므로 문제를 빠르게 찾아낼 수 있습니다. 거친 접근은 차트에서 스파이크로 나타나고, 그립 실패는 영상을 보기도 전에 그리퍼 채널에서 드러납니다.

에피소드 라벨: 성공, 복구, 실패

모든 에피소드는 세 가지 라벨 중 하나를 가질 수 있습니다. 성공은 작업을 깨끗하게 시연한 것을 나타냅니다. 복구는 시도 도중 문제가 생겼지만 이를 바로잡은 에피소드를 나타내며, 정책이 궤도로 돌아오는 방법을 학습하는 데 도움이 되므로 가치가 있습니다. 실패는 목표에 도달하지 못한 에피소드를 나타내며 보통 학습 데이터에서 제외해야 합니다. 검토하면서 라벨을 붙이는 것이, 나쁜 시연에서 조용히 학습한 정책을 나중에 디버깅하는 것보다 훨씬 저렴합니다.

데이터셋 병합

병합은 여러 녹화를 하나의 더 큰 데이터셋으로 합칩니다. 예를 들어 같은 작업에 대한 일주일치 세션이나, 보정된 두 암에서 녹화한 데이터를 합칠 수 있습니다. 병합은 각각 LeRobot 데이터셋을 담은 여러 tar.gz 아카이브를 입력받아 에피소드가 재인덱싱된 단일 데이터셋을 만들어 냅니다.

1. 1
   아카이브 준비

   각 입력은 meta 디렉터리를 포함한 완전한 LeRobot 데이터셋을 tar.gz로 압축한 것이어야 합니다. info.json이 없는 불완전한 아카이브는 검증할 수 없어 거부됩니다.

2. 2
   여러 아카이브 업로드

   Dashboard > Datasets에서 병합을 시작하고 합치고 싶은 모든 tar.gz 아카이브를 한 번에 선택합니다.

3. 3
   검증

   플랫폼은 모든 입력에서 fps, 피처 스키마, robot_type이 일치하는지 확인합니다. 셋 중 하나라도 다르면 무엇이 불일치하는지 표시하며 병합이 거부됩니다. 스트림이 일치하지 않는 결합 데이터셋은 학습을 조용히 망가뜨리기 때문입니다.

4. 4
   결과 검토

   병합된 데이터셋이 결합된 에피소드 수와 함께 목록에 나타납니다. 학습에 사용하기 전에 에피소드 브라우저를 열어 각 출처에서 몇 개씩 표본 확인을 하십시오.

세 가지 호환성 규칙은 의도적으로 엄격합니다. 프레임 속도가 다르면 모든 타임스텝의 의미가 바뀌고, 스키마가 다르면 로더가 그대로 깨지며, 서로 다른 로봇 유형을 섞으면 어떤 정책도 사용할 수 없는 데이터셋이 됩니다. 같은 모델의 서로 다른 물리적 암에서 나온 데이터를 합치는 것은 문제없습니다. robot_type은 물리적 유닛이 아니라 모델을 가리키기 때문입니다.

데이터셋 마켓플레이스

마켓플레이스에서는 다른 사람이 녹화한 데이터셋을 구매하고 자신의 데이터셋을 판매할 수 있습니다. 구매한 데이터셋은 사용자가 직접 녹화한 것과 동일한 LeRobot 레이아웃으로 대시보드에 도착하므로, 별도 작업 없이 에피소드 브라우저, 병합, 학습과 함께 사용할 수 있습니다.

판매하려면 등록 전에 먼저 정리하십시오. 에피소드를 검토하고, 정직하게 라벨을 붙이고, 작업 문자열이 녹화에서 실제로 일어나는 일을 설명하는지 확인하십시오. 구매자는 사용자와 동일한 에피소드 브라우저로 데이터셋을 평가하므로, 라벨이 깨끗하고 시연이 일관된 데이터셋이 그동안 녹화한 모든 것을 무작정 모아 둔 것보다 더 가치 있습니다.

자주 묻는 질문