
Aralashuv darajasi — aralashuv freymlarining yugurish freymlariga nisbati — inson tomonidan boshqariladigan DAgger tsiklida mavjud bo'lgan eng arzon va halol taraqqiyot signalidir. Ushbu maqola uni ikki kishi bir xil qiymatni hisoblay oladigan tarzda ta'riflaydi, uni qanday qayd qilishni ko'rsatadi va u sizni chalg'itadigan to'rtta usulni ko'rib chiqadi: operatorning o'rganib qolishi (habituatsiya), baholash sozlamalarining o'zgarib ketishi, faqat tuzatishlarga o'qitish va seshanba kuni dushanbadagidan boshqacha tuzatish kiritadigan inson.
DAgger bosqichi davomida siz unga ishtirok etayotganingizda u samarali tuyuladi. Siz siyosatni boshqarasiz, u ushlashda xato qilganda boshqaruvni qo'lga olasiz, tuzatishlarni saqlaysiz, qayta o'qitasiz va keyingi yugurish — qasam ichib aytish mumkin — biroz silliqroq ko'rinadi. Ikki bosqichdan so'ng esa biror narsa o'zgarganini ayta olmaysiz, chunki "biroz silliqroq" degani miqdoriy ko'rsatkich emas.
Tsiklga har bir bosqich uchun bitta son kerak, va inson tomonidan boshqariladigan tsiklda bu son deyarli bepul: bu — yugurish davomida siyosat o'rniga sizning nazorat qilgan qismingiz ulushi. Ushbu maqola uni ikki kishi bir xil qiymatni hisoblay oladigan tarzda ta'riflaydi, uni qanday qayd qilishni ko'rsatadi, hosil bo'lgan egri chiziqni qanday o'qishni tushuntiradi va u yolg'iz holda sizni chalg'itadigan to'rtta usulni sanab o'tadi. Ushbu maqola asos qilib olgan nazariya uchun qarang: DAgger tushuntiruvchi maqolasi va inson tomonidan boshqariladigan variant; amaliy jihati esa SO-100'da DAgger tsiklini ishga tushirish.
Qisqacha
- •Aralashuv darajasi = aralashuv freymlari / yugurish freymlari. Epizodlar emas, freymlar hisoblanadi, va maxrajga tuzatish uchun sarflangan freymlar ham kiradi.
- •Uch bosqich davomida tekis (o'zgarmas) egri chiziq bu bosqichlar hech narsa bermayapti degani — to'rtinchisini yig'ish o'rniga aralashmani, checkpoint'ni yoki vazifani o'zgartiring.
- •Pasayayotgan aralashuv darajasi ko'tarilayotgan muvaffaqiyat darajasi degani emas. Ishonch ortgani sari aralashish uchun chegarangiz pasayib boradi.
- •Qotirilgan (o'zgarmas) baholash protokolisiz — bir xil boshlang'ich pozalar, buyumlar, kameralar, sinovlar soni — siz aslida xonani o'lchayapsiz.
- •Faqat tuzatishlarga o'qitish holat taqsimotini buzadi. IWR'ning javobi: aralashuv va aralashuvsiz namunalarni teng nisbatda tanlash.
Nega bosqichga umuman son kerak
DAgger taqsimot muammosi tufayli mavjud, va taqsimot muammolari ko'z bilan ko'rinmaydi. Ross va Bagnell shuni ko'rsatdiki, taqlid qilish orqali o'rganish qat'iy demonstratsiyalar to'plamida xatolarning jamlanishiga va vaqt gorizontida kvadratik o'sadigan afsuslanish (regret) chegarasiga olib keladi: o'quvchi demonstrator tashrif buyurgan holatlardan chiqib ketishi bilanoq, ma'lumotlarda unga qanday qaytishni ko'rsatadigan hech narsa qolmaydi. DAgger buni takrorlash orqali hal qiladi — siyosatni ishga tushirish, u tashrif buyuradigan holatlarni belgilash, ularni jamlash, qayta o'qitish — Ross, Gordon va Bagnell buni afsuslanishsiz (no-regret) onlayn o'rganishga qisqartirish sifatida ta'riflaydilar.
Bu yondashuvning odamlar e'tibordan chetda qoldiradigan bir oqibati bor. Kafolat takrorlashlar davomidagi siyosatlar ketma-ketligiga tegishli, alohida bir yugurishga emas. U sizning uchinchi bosqichingiz yordam berganmi yoki yo'qmi haqida hech narsa demaydi. Buni bilishning yagona yo'li — har bir takrorlashni o'lchash. Kelli va hamkasblari HG-DAgger'ni taqdim etishdi, chunki klassik DAgger hali boshqaruv yangi o'rganuvchida turgan paytda ekspertdan harakat belgilarini so'raydi, va maqola bu xavfsizlikni pasaytirishi mumkinligini, inson ekspertlari holatida esa sezilgan aktuator kechikishi tufayli belgi sifatini pasaytirishi ehtimolini ta'kidlaydi. HG-DAgger, shuningdek, model noaniqligiga asoslangan xavf metrikasi uchun xavfsizlik chegarasini o'rganadi va haydash vazifasida DAgger va behavioral cloning'ning ikkalasidan ham yaxshiroq natija berganini xabar qiladi. U hech qanday aralashuv sonini e'lon qilmaydi; ularni siz o'zingiz hosil qilasiz.
Ikki kishi bir xil songa erishishi uchun darajani ta'riflash
Ta'rif bir qatordan iborat: aralashuv freymlarining yugurish freymlariga nisbati. Barcha qiyinchilik nima freym hisoblanishi va nima yugurish hisoblanishida yashiringan.
Freymlar, epizodlar emas
Kamida bitta aralashuvi bo'lgan epizodlarni sanash foydasiz: har birida bittadan yengil turtki bo'lgan o'nta epizod va sizning sakson foizini boshqargan o'nta epizod ikkalasi ham "10/10" natijasini beradi. Freymlar soni ularni bir-biridan ajratadi, va bu — yozuvda allaqachon mavjud bo'lgan aniqlik darajasi — LeRobot ma'lumotlar to'plami formati unda har bir vaqt qadami bir qator bo'lib, aralashuv belgisi holat va harakat yonidagi bitta mantiqiy (boolean) ustundir. Bu yerda u boshqaruv qo'lga olingan zahoti har bir freym uchun yoziladi va boshqaruv qaytarilganda tozalanadi.
Maxrajga tuzatishlar ham kiradi
Ikkita maxraj asoslangan bo'lishi mumkin — yugurishning jami freymlari yoki siyosat avtonom boshqargan freymlar — va yuqori aralashuv darajalarida ular keskin farqlanadi. 1000 freymdan 400 tasida boshqaruvni qo'lga olsangiz, birinchisi 40 foizni, ikkinchisi esa 67 foizni beradi. Bir bosqichni birinchi usulda, keyingisini esa ikkinchi usulda o'lchab solishtirish — haqiqiy yaxshilanishning yo'q bo'lib ketish yo'li aynan shu. Jami freymlarni oling va seriya davomida bu tanlovni hech qachon qayta ko'rib chiqmang.
Topshirish freymlariga nima bo'lishini bir marta hal qiling
Har doim bir chok (chegara) mavjud bo'ladi. Boshqaruv o'tayotganda, ba'zi freymlar hech qaysi tomonga tegishli bo'lmaydi: qo'l ushlab turiladi, leader tekislanmoqda, yozuv muzlatilgan. Ushbu pipeline'da bu topshirish freymlari xom oqimda qoladi va tozalangan epizodga hech qachon kirmaydi — ular na siyosat xatti-harakati, na o'qitishga arziydigan tuzatishdir. Chokni har bir bosqichda bir xil tarzda hisoblang: 30 Hz'da, har biri ikki soniyalik chokka ega oltita qo'lga olish 360 freymni tashkil qiladi, bu esa foiz punktini siljitish uchun yetarli.
Freymlarmi yoki epizodlarmi; jami yugurishmi yoki faqat avtonom qismmi; topshirish freymlari kiritilganmi yoki chiqarilganmi. Ushbu uchtadan biri bosqichlar orasida sezdirmasdan o'zgarsa, egri chiziq ma'nosiz bo'lib qoladi. Uchalasini ham yozib qo'ying.
Son sessiyadan omon qolishi uchun uni qayd qilish
Ishlayotgan jarayonning holat panelidagi metrika — bu shunchaki ko'rsatkich: u qayta ishga tushirilganda yo'qoladi va grafikka tushirib bo'lmaydi. Har bir yugurish uchun faqat qo'shiladigan (append-only) bitta qator butun seriyani qamrab oladi — jumladan qaysi checkpoint bilan boshqarganingiz ham, chunki bu har bir bosqichda o'zgaradi va ularni aralashtirib yuborish keyingi natijalarni haqiqiy emas qilib qo'yadi.
{"round": 2, "run_id": "inf-2026-08-24-1108", "checkpoint": "ckpt-8500",
"frames": 5412, "intervention_frames": 611, "rate": 0.113,
"takeovers": 7, "input": "keyboard", "denominator": "total_run_frames",
"handover_frames": "excluded", "episodes_kept_as_correction": 5,
"train_mix": {"base_demos": 120, "corrections": 41},
"eval_protocol": "protocol-A", "eval_trials": 20, "eval_successes": 11}Ikkita maydon eng katta ahamiyatga ega. train_mix — bu keyingi o'qitish vazifasiga nima berganingiz; bu bo'lmasa hech narsani hech narsaga bog'lab bo'lmaydi. eval_protocol — keyinchalik o'tkazgan qat'iy testingizni nomlaydi, va bu ko'pincha bo'sh qoldiriladigan maydondir. ay-robots kokpitida boshqaruvni qo'lga olish holati ishlayotgan sessiya uchun aralashuv freymlari sonini ko'rsatadi, shuning uchun qayd qilish instrumentatsiya emas, balki transkripsiyadir; ma'lumotlar to'plami hujjatlari har bir freymga oid ustunlar qayerga tushishini yoritadi.

Egri chiziqni o'qish: uchta bosqich, bitta xulosa
O'qish uchun uch bosqich minimal miqdordir, chunki ikkita nuqta har doim chiziq hosil qiladi. Quyidagi jadval — bu haqiqiy yugurishdan olingan o'lchovlar emas, balki namunaviy raqamlar bilan hisob-kitob shabloni. Siz qat'iy testdagi muvaffaqiyat oshishi bilan mos keladigan monoton pasayishni izlayapsiz.
| Bosqich | Boshqarilgan checkpoint | Freymlar | Aralashuv freymlari | Daraja | Muvaffaqiyatlar (20 tadan) |
|---|---|---|---|---|---|
| 0 (bazaviy) | bazaviy siyosat | 5 900 | 1 380 | 23.4 % | 7 |
| 1 | 0-bosqich aralashmasidan | 5 610 | 980 | 17.5 % | 10 |
| 2 | 1-bosqich aralashmasidan | 5 412 | 611 | 11.3 % | 11 |
| 3 | 2-bosqich aralashmasidan | 5 380 | 598 | 11.1 % | 12 |
Birinchi va ikkinchi bosqichlar samara bermoqda. Uchinchisi esa yo'q: 11.3 foizga qarshi 11.1 foiz — bu jismoniy qo'lda o'lchangan har qanday narsaning yugurishdan-yugurishgacha bo'lgan tabiiy o'zgaruvchanligi doirasida, va xuddi shu tuzatishlarning to'rtinchi bosqichi bir tushlikdan keyingi vaqtni behuda sarflaydi. Tekis segment tizimli narsani o'zgartirish kerakligini bildiradi.
- Qolgan xatolar teleoperatsiya bilan tuzatib bo'lmaydigan turdagi — buyum yetib bo'lmaydigan joyda, gripper geometriyasi, bo'g'im o'z chegarasida. Hech qanday tuzatish ma'lumoti kinematik devorni tuzata olmaydi.
- Tuzatishlar bazaviy ma'lumotlar to'plamiga nisbatan gradientni siljitish uchun juda kam, va ularni hech narsa tortmaydi (vaznlamaydi).
- Tuzatishlar bir-biriga zid keladi, shuning uchun siyosat ikkita strategiyani o'rtachalashtirib, ular orasida qolib ketadi.
- Xato manba tomonda: kamera siljigan, yoritish o'zgargan, bilak ko'rinishi endi o'qitishga mos kelmaydi.
- Vazifa ushbu uskunada ushbu siyosat sinfining yuqori chegarasiga yetgan, va keyingi qadam ko'proq bazaviy ma'lumot to'plashdir.
Oxirgi ikkitasi tsiklning nuqsoni emas. Sirius-Fleet'da insonga bo'lgan ehtiyojning kamayishi — bu mo'ljallangan natija: robot avtonomiyasi yaxshilangani sari, uning anomaliya bashoratchilari o'z bashorat mezonlarini moslashtiradi, bu esa insonning aralashuvi bo'yicha so'rovlar kamayishiga va vaqt o'tishi bilan inson ish yukining asta-sekin pasayishiga olib keladi. U yerda mezon ataylab moslashadi. Qo'lda boshqariladigan tsiklda esa sizniki ham moslashadi, ammo sezilmasdan — shuning uchun vazifa o'z chegarasiga yetgani sababli tekislangan daraja, operator payqashni to'xtatgani sababli tekislangan darajaga aynan o'xshab ko'rinadi. Bu esa keyingi muammodir.
1-tuzoq: pasayayotgan daraja ko'tarilayotgan muvaffaqiyat darajasi emas
Aralashuv darajasi aynan bitta narsani o'lchaydi: yugurishning qancha qismini o'zingizniki qilishga qaror qilganingizni. Bu qaror sizniki, real vaqtda qabul qilinadi, va u o'zgarib turadi. Nolinchi bosqichda birinchi noto'g'ri yaqinlashish burchagida boshqaruvni qo'lga olasiz; uchinchi bosqichga kelib esa siyosat o'ndan ortiq shunday holatdan tiklanganini ko'rgan bo'lasiz va unga urinishga ruxsat berasiz. Sizning chegarangiz siljidi; siyosat esa o'zgarmagan bo'lishi mumkin. Har ikki holatda ham daraja pasayadi.
Insonning ishonchi adabiyotda kamida modellashtirilgan kattalik sifatida ko'rib chiqiladi, faraz qilingan doimiy kattalik sifatida emas. Sirius taxminiy inson ishonchi asosida o'qitish namunalarini qayta tortadi va siyosatni tortilgan behavioral cloning bilan optimallashtiradi, natijada siyosat muvaffaqiyat darajasida eng ilg'or usulga nisbatan simulyatsiyada 8 foiz va real uskunada 27 foiz o'sish, hamda ikki baravar tezroq yaqinlashish (konvergensiya) haqida xabar beradi. Bu ishonchni ma'lumotlar uchun vazn sifatida ko'radi. Bu esa nolinchi va uchinchi bosqichlar orasida boshingizdagi chegarani tuzatmaydi.
Siljishni yo'qota olmaysiz, shuning uchun darajani chegarangiz tegina olmaydigan narsa bilan juftlashtiring: siz umuman aralashmaydigan qat'iy sinovlar to'plami, bosqichdan oldin yozilgan mezon bo'yicha baholanadi. Juftlashtirilgan muvaffaqiyat darajasi o'zgarmay turgan holda pasayayotgan daraja — bu odatlanishning (habituatsiya) belgisi — buni payqash muhim, chunki tsikl ichidan qaraganda bu taraqqiyotdek tuyuladi.
| Aralashuv darajasi | Qat'iy protokoldagi muvaffaqiyat darajasi | Eng ehtimoliy talqin |
|---|---|---|
| pasayadi | ko'tariladi | Bosqich samara berdi. Davom eting. |
| pasayadi | o'zgarmadi | Chegarangiz siljidi, yoki tuzatishlar xatolarni yo'qotmasdan kuchni olib tashladi. |
| pasayadi | pasayadi | Tuzatishlar siyosatni yomonlashtirmoqda. Aralashmani va ularning ichki izchilligini tekshiring. |
| o'zgarmadi | o'zgarmadi | Bosqich hech narsa bermadi. Ko'proq ma'lumot yig'ishdan oldin aralashma, checkpoint yoki vazifani o'zgartiring. |
| ko'tariladi | pasayadi | Regressiya. Usuldan shubhalanishdan oldin o'qitish aralashmasidan, o'zgargan kameradan yoki checkpoint aralashib ketishidan shubhalaning. |
2-tuzoq: qat'iy protokolsiz siz xonani o'lchaysiz
Haqiqiy robotda baholash qimmatga tushadi va takrorlash qiyin. SIMPLER mualliflari simulyatsiyada baholashni shu kuzatuv bilan asoslaydilar: bunday siyosatlarni real dunyoda baholash kengaytirilmaydigan (scalable emas) va siyosatlar o'z vazifalar doirasini kengaytirgani sari yomonlashishi mumkin bo'lgan takrorlanuvchanlik muammolariga duch keladi. RoboArena esa masalaga boshqa tomondan yondashadi — ettita umumiy (generalist) siyosat bo'yicha 600 dan ortiq juftlashtirilgan haqiqiy-robot baholash epizodlari bilan, ular DROID platformasida yetti akademik muassasadagi baholovchilar tomonidan o'tkaziladi. Uning baholovchilari o'z vazifalari va muhitlarini o'zlari tanlaydi, ammo siyosatlar juftligini ikki tomonlama ko'r (double-blind) tarzda baholashlari kerak; maqola bu ommaviy manbali (crowd-sourced) reyting umumiy siyosat samaradorligini an'anaviy, markazlashtirilgan baholashga qaraganda aniqroq kuzatib borishini xabar qiladi.
Siz bitta SO-100'da ustaxonada 600 ta juftlashtirilgan epizodni o'tkazmaysiz. Sizning qo'lingizdan keladigan narsa — nazorat qila oladigan o'zgaruvchanlikni olib tashlash — bu odatda o'tkazib yuboriladigan darajada zerikarli ro'yxat.
| O'lcham | Buni qotiring | Agar qilmasangiz nima siljiydi |
|---|---|---|
| Boshlang'ich poza | Har bir sinovdan oldin boshqarib boriladigan, yozib qo'yilgan uy holati | Trayektoriya taqsimotdan tashqarida boshlanadi |
| Buyumlar | Lenta bilan belgilangan nishonlar, va baholash uchun ajratilgan bir xil jismoniy buyumlar | 'Yaxshiroq' siyosat aslida yaqinroq turgan buyumdir |
| Kameralar va yorug'lik | Bir xil o'rnatgichlar, indekslar, ekspozitsiya; pardalar yopiq; sozlamani suratga oling | Faqat kamera indekslarining almashtirilishi natijani belgilab qo'yishi mumkin |
| Sinovlar va to'xtash qoidasi | Qat'iy n, qat'iy timeout, bosqichdan oldin yozilgan mezon | Keyinroq qo'yilgan mezonlar chala muvaffaqiyatlarni sizga kerak bo'lgan narsaga aylantiradi |
| Operator xatti-harakati | Baholash sinovlari davomida aralashuv yo'q | Baholash yana bir tuzatish sessiyasiga aylanadi |
Endi esa arifmetika — ustaxona ko'tara oladigan sinovlar soni uchun kechirimsiz. Normal taqribiy hisoblashga ko'ra, 20 sinovdagi 60 foizlik muvaffaqiyat taxminan 11 foiz punktlik standart xatolikka ega — 0,6 ni 0,4 ga ko'paytirib 20 ga bo'lgandagi kvadrat ildiz — va shunday ikkita bosqich orasidagi farq esa taxminan 15 ni tashkil qiladi. Shuning uchun 60 dan 70 foizga sakrash aslida hech narsa o'zgarmagani bilan ham izchil bo'lishi mumkin. Ellikta sinov bosqichga oid ko'rsatkichni taxminan 7 punktgacha tushiradi, va bu bir tushlikdan keyingi vaqtga teng turadi.
Ushbu assimetriya aralashuv darajasi foydasiga dalildir: yigirmata binar natija o'rniga minglab freymlar bo'yicha hisoblanib, u ertaroq va silliqroq harakatlanadi. Ogohlantirish shuki, bitta epizod ichidagi freymlar kuchli bog'liq (korrelyatsiyalangan) — bitta yomon ushlash yuzlab ketma-ket aralashuv freymini beradi — shuning uchun samarali namuna hajmi qo'lga olishlar soniga yaqinroqdir. Darajani erta ko'rsatkich sifatida, muvaffaqiyat darajasini esa sekin, ammo haqiqiy asos (ground truth) sifatida ko'ring.
Baholash epizodlari hech qachon tuzilgan o'qitish ma'lumotlar to'plamiga kirmasligi kerak — aks holda n+1 bosqichi o'zi o'qitilgan ma'lumot asosida baholanadi, va egri chiziq yodlashni (memorization) o'lchaydi.
3-tuzoq: faqat tuzatishlarga o'qitish siyosatni egib qo'yadi
Tuzatishlar qiziqarli ma'lumot, shuning uchun instinktiv ravishda ularga o'qitish istagi paydo bo'ladi. Buni qilmang. Ular, o'z tabiatiga ko'ra, siyosat allaqachon muvaffaqiyatsizlikka uchragan holat maydonining tor bo'lagidan kelib chiqadi va yugurishning ishlagan katta qismi haqida deyarli hech narsa demaydi. Faqat shu bo'lakka fine-tuning qilsangiz, buzilgan yaqinlashishdan tiklanishga usta, ammo toza yaqinlashishni qanday qilishni unutgan siyosatga ega bo'lasiz.
Mandlekar va hamkasblari o'zlarining masofaviy aralashuv tizimini aynan shu asosda qurishdi. Ularning yondashuvi: manipulyatsiya vazifalari aniq harakatlar ketma-ketligini talab qiladigan tor joylarni (bottleneck) o'z ichiga oladi — ularning misoli kofe mashinasiga podni joylashtirish — bu yerda kichik og'ishlar demonstratsiyalar hech qachon qamrab olmagan holatlarga olib keladi. Ularning algoritmi yangi ma'lumotlarga takroriy tarzda o'qitadi, shunda siyosat o'sha tor joylardan o'tishni o'rganadi, va ular aralashuv ma'lumotlariga o'qitilgan agentlar aralashuvsiz demonstratorlardan olingan teng miqdordagi namunalarga o'qitilgan agentlardan ustun kelishini xabar qilishadi.
- Tez: bir necha o'nlab epizod bo'yicha qisqa yugurish takrorlash uchun yetarlicha arzon
- Aniq maqsadli: gradientda siz ahamiyat beradigan holatlar ustunlik qiladi
- Tuzatish uslubi umuman o'rganilishi mumkinmi yoki yo'qligini sinash uchun arzon
- Fine-tuning taqsimoti endi vazifa taqsimotiga o'xshamay qoladi
- Oddiy xatti-harakat bitta bosqich ichida ko'zga tashlanarli darajada yomonlashishi mumkin
- Daraja pasayishi mumkin, muvaffaqiyat esa u bilan birga pasayadi — toza segmentlar tiklanishlarga almashtiriladi
Aralashma nisbati bu giperparametr va yozib qo'yilishga arziydi. Keyingi ma'lumotlar to'plamini tuzish — bu qaror qabul qilinadigan joy: asl demonstratsiyalar plyus tuzatishlar to'plami, mavjud bo'lgan narsani sezdirmasdan tortib oladigan qoida emas, balki manba bo'yicha aniq epizod tanlovi. Bu yerda bu kokpitdagi bitta compose qadamidir, va natija oddiy ma'lumotlar to'plamidir — qarang: o'qitish hujjatlari. Hech qanday vosita siz uchun qilmaydigan narsa — qaysi nisbat qaysi egri chiziqni hosil qilganini qayd qilishdir.
4-tuzoq: inson izchil ekspert emas
DAgger nazariyasi ekspertni nazarda tutadi. Siz texnik ma'noda ekspert emassiz: sizning tuzatishlaringiz harakatlar ustidagi qat'iy shartli taqsimotdan olingan namunalar emas. ACT mualliflari nozik manipulyatsiyaga to'sqinlik qiluvchi omillarni sanab o'tishda buni ta'kidlaydi — xatolar vaqt o'tishi bilan jamlanadi, va inson demonstratsiyalari nostatsionar bo'lishi mumkin. Shunga qaramay, ularning tizimi o'nta daqiqalik demonstratsiyalardan oltita real vazifada 80 dan 90 foizgacha muvaffaqiyatga erishadi, demak muammo hal qilib bo'lmaydigan emas, balki boshqarish mumkin bo'lgan muammodir.
robomimic tadqiqoti buni ma'lumotlar tomonidan ko'rsatadi. Beshta simulyatsiya va uchta real dunyo ko'p bosqichli vazifalarida oltita oflayn algoritm bo'yicha, uning xulosalari orasida dizayn tanlovlariga sezgirlik, demonstratsiya sifatiga bog'liqlik va — bu yerda eng ko'p og'riq keltiradigani — to'xtash mezonlaridan kelib chiqadigan o'zgaruvchanlik bor, chunki o'qitish va baholash maqsadlari bir-biridan farq qiladi. Eng past loss'ga ega checkpoint har doim ham eng yuqori muvaffaqiyat darajasiga ega bo'lavermaydi.
Buning uskunaviy versiyasi ham bor: kirish (input) rejimi tuzatishning shaklini belgilaydi. Bir leader-follower sozlamasi uzluksiz, inson tezligidagi trayektoriyalarni hosil qiladi. Klaviatura orqali beriladigan turtkilar server tomonidan qattiq cheklanadi — qo'l bo'g'inlarida har chaqiruvga ikki gradus, gripperda esa to'rtta — shuning uchun bir xil niyat kichik qadamlar zinapoyasi sifatida yetib boradi. Slayderlar absolyut nishonlarni yuboradi va server har chaqiruvda ularga tomon eng ko'pi bilan olti gradus siljiydi. Uchta rejim, uchta harakat taqsimoti; barcha uchtasini bitta tuzatishlar to'plamiga aralashtirib, keyin nega yaqinlashish asabiylashib qolganidan hayron bo'lish — bu o'z-o'zidan qilingan xatodir. teleoperatsiya hujjatlari har bir rejim nimani yuborishini yoritadi.
Aralashuvlarni tortish (vaznlash): IWR va undan keyingilar
Agar tuzatishlar qimmatli ozchilik bo'lsa, tamoyilli yechim — eksklyuzivlik emas, balki tortish (vaznlash). Intervention Weighted Regression bunga asosiy amalga oshirish namunasidir: ma'lumotlar aralashuv va aralashuvsiz namunalarga bo'linadi, va o'qitish davomida ikkala qism ham teng nisbatda tanlanadi. Freymlarning bor-yo'g'i besh foizini tashkil qiluvchi tuzatishlar to'plami shunda gradientning yarmini beradi, oddiy xatti-harakat esa taqsimotdan yo'qolib ketmaydi.
Teng nisbat — bu qonun emas, balki boshlang'ich nuqta. Sirius buni binar bo'linishni taxminiy inson ishonchidan olingan uzluksiz vazn bilan almashtirib umumlashtiradi; Sirius-Fleet esa qarorni yuqoriroqqa ko'chiradi va insondan qachon umuman so'ralishini hal qilish uchun vizual dunyo modeli va anomaliya bashoratchilaridan foydalanadi. Umumiy jihat shuki: aralashuv belgisi shunchaki hisob-kitob ustuni emas, balki o'qitish signalidir.
| Usul | Inson qachon harakat qilishini kim hal qiladi | Aralashuv ma'lumotlari qanday ishlatiladi | Xabar qilingan natija |
|---|---|---|---|
| DAgger (2011) | Qat'iy jadval; ekspert tashrif buyurilgan holatlarni belgilaydi | Bitta o'sib boruvchi, vaznlanmagan ma'lumotlar to'plami | Afsuslanishsiz onlayn o'rganishga qisqartirish sifatida ta'riflangan |
| HG-DAgger (2019) | Inson, real tizimda boshqaruvni nazorat qiladi | Jamlangan; qo'shimcha ravishda model noaniqligi bo'yicha o'rganilgan xavfsizlik chegarasi | Haydashda DAgger va BC'dan yaxshiroq; aralashuv soni berilmagan |
| IWR (2020) | Inson, masofaviy teleoperatsiya orqali | Aralashuv va aralashuvsiz namunalar teng nisbatda tanlanadi | Teng namuna sonida aralashuvsiz demonstratsiyalardan ustun keladi |
| Sirius (2022) | Inson, joylashtirish davomida | Tortilgan BC, vaznlar taxminiy inson ishonchidan olinadi | Simulyatsiyada 8 % o'sish, real uskunada 27 %; 2 barobar tezroq konvergensiya |
| ThriftyDAgger (2021) | Tizim, yangilik va xavf asosida nazorat qiladi | Nazorat byudjeti doirasida interaktiv yig'ish | Foydalanuvchilar tadqiqoti (N=10): keyingi eng yaxshi usulga nisbatan insonda 58 % va robotda 80 % yuqori samaradorlik |
| Fleet-DAgger (2022) | Tizim, e'tiborni flot bo'ylab taqsimlaydi | Flot o'rganishi Return on Human Effort (ROHE) bo'yicha baholanadi | Bazaviy usullarga nisbatan 8.8 barobargacha yuqori ROHE |
| Sirius-Fleet (2024) | O'z-o'zidan moslashuvchi mezonlarga ega anomaliya bashoratchilari | Vizual dunyo modeli bilan ko'p vazifali o'rganish | Avtonomiya yaxshilangani sari aralashuv so'rovlari kamayadi |

Daraja yonida qayd qilishga arziydigan to'rtta metrika
- Yugurish boshiga qo'lga olishlar soni. Yigirmata qisqa tuzatish va bitta uzun tuzatish o'xshash darajalarni beradi, ammo turlicha siyosatlarni tasvirlaydi — biri asabiy (titroq), ikkinchisida esa bitta ko'r nuqta bor.
- O'rtacha aralashuv uzunligi. Soni kamayayotgan holda uzunlikning ortishi qolgan xatolar qiyin turdagi ekanini bildiradi, va kech taraqqiyot aynan shunday ko'rinadi.
- Birinchi aralashuvgacha bo'lgan vaqt. Yordamga muhtoj bo'lishdan oldin uzoqroqqa boradigan siyosat, hatto jami daraja o'zgarmagan bo'lsa ham, yaxshilanmoqda demakdir.
- Aralashuvlar qayerda to'planadi. Belgini normallashtirilgan epizod jarayoni bo'yicha guruhlang; bosqichlar bo'ylab barqaror cho'qqi bitta tor joyga (bottleneck) ishora qiladi.
Amalda bajarishingiz mumkin bo'lgan bosqich protokoli
O'lchangan bosqich oltita qadamdan iborat va jurnalda bitta qator hosil qiladi. Dastlabki to'rttasi — tsiklning o'zi; oxirgi ikkitasi esa uni o'lchovga aylantiradi.
- 1Nolinchi bosqichdan oldin baholash protokolini qotiring
Boshlang'ich pozani, buyumlar joylashuvini, kameralarni, sinovlar sonini, timeout'ni va muvaffaqiyat mezonini yozib qo'ying. Stolni suratga oling. Agar hujjatni o'zgartirish kerak bo'lsa, seriya qaytadan boshlanadi.
- 2Bazaviy ko'rsatkichni o'lchang
Protokolni hech qanday aralashuvsiz o'tkazing va muvaffaqiyatlarni qayd qiling; keyin boshqaruvni qo'lga olish yoqilgan holda bitta instrumentatsiyalangan sessiya o'tkazing va darajani qayd qiling. Bu ikkita son — nolinchi bosqichdir.
- 3Tuzatishlarni bitta izchil uslubda yig'ing
Har bir bosqichda bitta kirish (input) rejimi, imkon bo'lsa bitta operator. Ovoz chiqarib aytib bera oladigan mezon bo'yicha boshqaruvni qo'lga oling — masalan, 'gripper yaqinlashishda ikki santimetrdan ko'proq chetga chiqqan' — va uni bosqich davomida ushlab turing.
- 4Har bir epizodni o'sha kuniyoq saralang
Tuzatish, baholash yoki chiqindi. Noaniq epizodlar 'ko'proq ma'lumot foyda qiladi' degan nazariya bilan saqlanmasdan, chiqindiga chiqariladi — o'zingiz xato qilgan tuzatish epizodning yo'qligidan ham yomonroqdir.
- 5Aralashmani aniq tarzda tuzing
Asl demonstratsiyalar plyus tuzatishlar, manba bo'yicha epizod tanlovi. Bazaviy sonni, tuzatishlar sonini va har qanday vaznlashni qayd qiling — bu uch haftadan keyin kerak bo'ladigan maydondir.
- 6Checkpoint'dan davom eting, keyin qayta o'lchang
Tuzilgan ma'lumotlar to'plamini bazaviy model o'rniga oldingi checkpoint'dan o'qiting, qotirilgan protokol plyus bitta instrumentatsiyalangan sessiyani o'tkazing, qatorni qo'shing va oldingi ikkita bosqich bilan solishtiring.
Ikkita cheklov zaif bosqichni qanday talqin qilishingizga ta'sir qiladi. Checkpoint'dan davom etish vaznlarni undan boshlash demakdir — bu optimizatorni davom ettirish emas, shuning uchun jadval qaytadan boshlanadi va yaqinlashgan checkpoint'dan qisqa yugurish juda oz siljishi mumkin. Va qo'lga olish boshidagi leader-tekislash harakati zanjirdagi hamma narsa ichida real uskunada eng kam sinovdan o'tgan qismidir; agar barcha tuzatishlar g'alati o'tkinchi holat bilan boshlansa, aralashmani ayblashdan oldin o'sha yerga qarang.
O'lchangan tsikl — allaqachon tayyor
ay-robots ushbu oltita qadamni mahsulot funksiyalari sifatida amalga oshiradi: yugurish davomida leader qo'l, klaviatura yoki slayderlar orqali boshqaruvni qo'lga olish, aralashuv freymlari avtomatik belgilanadi; har bir epizodni tuzatish, baholash yoki chiqindi sifatida saralash; keyingi ma'lumotlar to'plamini asl demonstratsiyalar plyus tuzatishlardan, manba bo'yicha aniq epizod tanlovi bilan tuzish; va keyingi o'qitish yugurishini bazaviy model o'rniga oldingi checkpoint'dan boshlash.
DAgger tsikli qanday ishlashini ko'ringRaqamlar sizga ayta olmaydigan narsalar
Bularning hech biri hal qilingan emas, va tekis egri chiziq sizni buning aksiga ishontirmasligi kerak. Aralashuv darajasi qo'shma tizimni — siyosat, uskuna, operator, xona — o'lchaydi va o'z-o'zidan hech narsani biror sababga bog'lamaydi. U tuzatishlar yaxshi bo'lganmi yoki yo'qmi haqida hukm chiqara olmaydi, va uch hafta davomida buyum ikki santimetr yaqinroq surilib, vazifa osonlashgani sababli quvonch bilan pasayib ketaveradi.
U qiladigan narsa — noaniq taassurotni siz bahslasha oladigan ustunga aylantirishdir. Muqobil variant — bu yaxshiroq metrika emas; bu egri chiziq uchinchi bosqichdan keyin sizga to'xtatishni aytadigan tuzatishlarni yig'ish bilan o'tkazilgan uch haftadir. Sharh adabiyoti interaktiv taqlid orqali o'rganishni robot ishlash jarayonida vaqti-vaqti bilan beriladigan, xatti-harakatni onlayn yaxshilashga imkon beruvchi inson fikr-mulohazasi sifatida ta'riflaydi; bu oila keng, va uning hech qanday tuzilishi bosqich boshiga bir sonsiz ishlamaydi. Shuningdek qarang: SO-100 uchun taqlid orqali o'rganish qo'llanmasi — aralashtirish uchun bazaviy ma'lumotlar to'plami bo'yicha, siyosatni ishga tushirish — inference tomoni bo'yicha, va DAgger tsikli sahifasi — amalga oshirilgan pipeline bo'yicha.
Aralashuv darajasi shunchaki birdan muvaffaqiyat darajasini ayirilgani emasmi?▾
Yo'q. Daraja yugurishning qancha qismini o'zingiz boshqarganingizni o'lchaydi; muvaffaqiyat darajasi esa vazifa sizsiz bajarilganmi yoki yo'qmi ekanini o'lchaydi. Yugurish 30 foizlik aralashuv darajasi bilan ham muvaffaqiyatli bo'lishi mumkin, va hech qanday aralashuvsiz yugurish butunlay muvaffaqiyatsizlikka uchrashi mumkin. Ular shovqin (nois) jihatidan ham farq qiladi: daraja minglab bog'liq freymlar bo'ylab silliq harakatlanadi, muvaffaqiyat darajasi esa bir nechta binar natijalar orasida sakraydi. Ikkalasini ham qayd qiling.
Muvaffaqiyat darajasi biror ma'noga ega bo'lishi uchun nechta baholash sinovi kerak?▾
Oqilona tuyulgandan ko'proq. Normal taqribiy hisoblashga ko'ra, haqiqiy 60 foizlik muvaffaqiyat darajasidagi 20 ta sinov taxminan 11 foiz punktlik standart xatolikka ega, shuning uchun bosqichlar orasidagi 10 punktlik siljishni shovqindan ajratib bo'lmaydi; 50 ta sinov esa bu ko'rsatkichni taxminan 7 gacha tushiradi. Agar 50 tasini o'tkaza olmasangiz, sinovlar sonini bosqichlar bo'ylab bir xil saqlang va kichik siljishlarni noaniq deb hisoblang.
Demonstratsiyalar va tuzatishlar o'rtasidagi qaysi aralashma nisbatidan boshlashim kerak?▾
Hujjatlashtirilgan boshlang'ich nuqta IWR'nikidir: ma'lumotlarni aralashuv va aralashuvsiz namunalarga bo'ling va ularni teng nisbatda tanlang, shunda tuzatishlar freymlarning qanchalik kichik qismini tashkil qilishidan qat'i nazar, gradientning yarmini beradi. Agar sozlamangiz namuna olishni vaznlay olmasa, ma'lumotlar to'plamini tuzishda buni epizodlar soni orqali taxminlashtiring va nisbatni qayd qiling. Faqat tuzatishlarga o'qitish — rad etilishi kerak bo'lgan variantdir.
Bosqichdan keyin aralashuv darajam oshib ketdi. Bosqich behuda ketdimi?▾
Shart emas, ammo avval zerikarli tushuntirishlarni tekshiring: boshqargan checkpoint'ingiz o'qitgan checkpoint'ga mos keldimi, kamera indeksi yoki o'rnatgichi o'zgarganmi, buyum joylashuvi siljiganmi, tuzatish uslubi izchil bo'lganmi. Agar to'rttasi ham toza bo'lsa va juftlashtirilgan muvaffaqiyat darajasi ham pasaygan bo'lsa, aralashmadan shubhalaning — tuzatishlarga nisbatan bazaviy demonstratsiyalar juda kam, yoki tuzatishlar bir-biriga zid. Haqiqiy regressiya chiqindiga emas, jurnalga tegishli.
Qat'iy baholash protokolini o'tkazib yuborib, shunchaki aralashuv darajasini kuzatsam bo'ladimi?▾
Faqat yaxshilanishni odatlanishdan (habituatsiya) ajrata olmasligingizni qabul qilsangizgina. Daraja sizning real vaqtdagi aralashish chegarangizga bog'liq, va bu chegara siyosatning o'ziga xosliklariga o'rganib qolganingiz sari pasayadi. Qotirilgan protokol — bu o'lchovning chegarangiz yeta olmaydigan qismi — lenta bilan belgilangan nishonlar, yozib qo'yilgan uy pozasi, qat'iy sinovlar soni, bosqichdan oldin hal qilingan mezon. U seriya davomida o'zgarmasdan qolishi shart.
Jurnalni daftarda emas, repozitoriyda saqlang: bosqichlar orasida kunlar bor, uskuna qayta yig'iladi, va oktyabrda egri chiziqni o'qiyotgan odam — bu avgustni eslay olmaydigan sizning o'zingizsiz. hujjatlar bo'yicha ko'p so'raladigan savollar (FAQ) bu yerda qoldirilgan operatsion tafsilotlarni yoritadi.
Sources
- Ross, Gordon & Bagnell (2011): A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning (DAgger)
- Ross & Bagnell (2010): Efficient Reductions for Imitation Learning (AISTATS, PMLR v9)
- Kelly, Sidrane, Driggs-Campbell & Kochenderfer: HG-DAgger - Interactive Imitation Learning with Human Experts (arXiv 2018, ICRA 2019)
- Mandlekar et al. (2020): Human-in-the-Loop Imitation Learning using Remote Teleoperation
- IWR project page (Stanford): Intervention Weighted Regression
- Mandlekar et al. (2021): What Matters in Learning from Offline Human Demonstrations for Robot Manipulation (robomimic)
- Liu, Nasiriany, Zhang, Bao & Zhu (2022): Robot Learning on the Job - Human-in-the-Loop Autonomy and Learning During Deployment (Sirius)
- Liu et al. (2024): Multi-Task Interactive Robot Fleet Learning with Visual World Models (Sirius-Fleet)
- Hoque et al. (2022): Fleet-DAgger - Interactive Robot Fleet Learning with Scalable Human Supervision
- Hoque et al. (2021): ThriftyDAgger - Budget-Aware Novelty and Risk Gating for Interactive Imitation Learning
- Celemin et al. (2022): Interactive Imitation Learning in Robotics - A Survey
- Atreya et al. (2025): RoboArena - Distributed Real-World Evaluation of Generalist Robot Policies
- Li et al. (2024): Evaluating Real-World Robot Manipulation Policies in Simulation (SIMPLER)
- Zhao, Kumar, Levine & Finn (2023): Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware (ACT)
Ready for high-quality robotics data?
AY-Robots connects your robots to skilled operators worldwide.
Get Started