Mæling á DAgger-lykkju: Ingrip tíðni, matsútstöð og gildru á milli

Þegar DAgger umferð finnst framleiðin meðan þú ert í henni. Þú rekur stefnuna, tekur yfir þegar hún ruglar greppirninga, vistar leiðréttingarnar, þjálfar aftur, og næsta rekstri lítur út - þú myndir deilast - svolítið sléttari. Tvær umferðir seinna geturðu ekki sagt hvort eitthvað breyttist, vegna þess að "svolítið sléttari" er ekki magn.

Lykkjan þarf eina tölu fyrir hverja umferð, og í mannlegri hlutgátt lykku er sú tala næstum ókeypis: hlutfall rekstrarinnar sem þú áttir stjórn á í stað stefnunnar. Þessi grein skilgreinir það svo tveir menn reikni sama gildið, skrá það, lesa afleiðandi feril, og nefna fjórar leiðirnar sem það villir þig þegar það stendur eitt. Fyrir kenninguna sem þetta brot gerir ráð fyrir, sjá DAgger útskýringuna og mannleg gátt afbrigðin; handleggilegir hliðstæðir er rekstri DAgger lykkju á SO-100.

Hvers vegna umferð þarf tölu yfir höfuð

DAgger er til vegna dreifingarvandamáls, og dreifingarvandamál eru ósýnileg fyrir auganu. Ross og Bagnell sýndu að tekjur náms á fastri sýnilegri setti leiðir til samsettra villna og iðrun bundins sem vex ferningslega í tímamóta: þegar lærdómsmaðurinn fer frá þeim ástöndum sem sýnileginn heimsótti, engu í gögnunum segir því hvernig á að koma til baka. DAgger lagar þetta með endurtekningu - rekstri stefnunnar, merkingu ástanda sem hún heimsækir, uppsöfnun, endurþjálfun - sem Ross, Gordon og Bagnell ramma sem niðurskurð á endalausri netkenningu.

Sú rammi hefur afleiðingu sem menn slökkva. Ábyrgðin snertir röð stefna yfir endurtekningu, ekki neina einanga rekstri. Það segir ekkert um hvort þín umferð þrjú hjálpuðu. Eina leiðin til að vita er að mæla hverja endurtekningu. Kelly og samstarfsmenn kynntu HG-DAgger vegna þess að klassískt DAgger biðir sérfræðinginn um aðgerðarmerkingar meðan nýnungurinn er enn við stjórnun, sem greinin heldur að geti minnkað öryggið og með mannlegum sérfræðingum er líklegt að skerða gæði merkinga með tilfinningu um aðgerðarseinkun. HG-DAgger lærir einnig öryggisþröskuld fyrir óvissa mælingar áhættueiginleika og tilkynnir betri árangur yfir bæði DAgger og hegðun klónun á akstur verkefni. Það gefur ekki út ingrip talningar; þær framleiðir þú sjálf.

Skilgreining tíðnina svo tveir fá sama tölu

Skilgreiningin er ein lína: ingrip rammar deilt með römmum rekstrarinnar. Allt erfitt felst í hvað telst rammi og hvað telst rekstri.

Rammar, ekki þættir

Telling þættir með að minnsta kosti einni ingrip er gagnslaus: tíu þættir með einni ýti hver og tíu sem þú rekur áttatíu prósent gefa báðir "10/10". Rammafjöldinn aðgreinir þá, og það er smærri kornið sem skráningin hefur þegar - í LeRobot gagnasafns sniði hver tímamark er röð, svo ingrip fanni er ein boolsk dálkur við hlið ástands og aðgerðar. Hér er það skrifað á ramma augnablikinu takeover byrjar og hreinsuð þegar stjórn skil.

Nefnarinn inniheldur leiðréttingarnar

Tveir nefnarar eru varnir - heildar rammar rekstrarinnar, eða rammar stefnan rekur sjálfstætt - og þeir fara illa í háum ingrip stigum. Tektu yfir fyrir 400 af 1000 römmum og sú fyrri gefur 40 prósent, sú seinni 67 prósent. Samanburður á einni umferð mæld sú fyrri leið á móti þeirri næstu mæld sú seinni leið er hvernig raunveruleg framför hverfur. Taktu heildar ramma og aldrei endurnæmdu valið miðu flokks.

Ákvarða einu sinni hvað gerist á hendi rammi

Það er alltaf saumur. Þegar stjórn fer yfir, sumir rammar tilheyra hvorugri hliðinni: handleggurinn er haldinn, forystumennirnir eru á jöfnuði, skráningin er fraus. Í þessari línyrðingu þeir handi rammar haldast í hráum straumi og aldrei fara inn í gönguðu þáttur - þeir eru hvorki stefnu hegðun né leiðrétting virði þjálfun. Telja sauminn sama leið hverja umferð: við 30 Hz, sex takeover með tveggja sekúndu sauminn hver er 360 rammar, nóg til að hreyfa prósentustafl.

Skrá það svo talan lifir setu

Mælikvarði á stöðu plötu rekstrandi ferlis er lestur: hann hverfur við endurræsingu og getur ekki verið plötuð. Ein stafa-ein lína fyrir hvern rekstri nær yfir alla röðina - þar á meðal hverjum gátastöð þú dróf, þar sem það breytist hverja umferð og þreytanir þær ógildir hvað á eftir.

{"round": 2, "run_id": "inf-2026-08-24-1108", "checkpoint": "ckpt-8500",
 "frames": 5412, "intervention_frames": 611, "rate": 0.113,
 "takeovers": 7, "input": "keyboard", "denominator": "total_run_frames",
 "handover_frames": "excluded", "episodes_kept_as_correction": 5,
 "train_mix": {"base_demos": 120, "corrections": 41},
 "eval_protocol": "protocol-A", "eval_trials": 20, "eval_successes": 11}

Tveir dálkar bera þyngdina. train_mix er það sem þú fóðraðir næsta þjálfun starf; án þess ekkert getur verið eignaðar. eval_protocol nöfn föst prófun sem þú rekur eftir, og er dálkurinn oftast skilinn auður. Í ay-robots flugkokk takeover staða skýrirfær ingrip rammar talning fyrir rekstrandi setu, svo skrá er umflutningur frekar en tólarhluti; gagnasafns skjöl taka þar sem fyrir-rammar dálkar lenda.

Lesning feril: þrjár umferðir, ein úrskurður

Þrjár umferðir er lágmark fyrir lestur, vegna þess að tveir punktar eru alltaf lína. Taflan hér fyrir neðan er bókhald sniðmát með staðgengill tölum, ekki mælingar frá neinum rekstri. Þú ert að leita að einruna lækkun samkeppt með hækkun árangur á föstu prófi.

Umferðir ein og tvær eru að vinna starf. Umferð þrjú er ekki: 11.3 á móti 11.1 prósent er innan rekstri-til-rekstri dreifingu hverra mæling á líkamlega handlegginn, og fjórð umferð sömu leiðréttingar eyðir kvöldi fyrir ekki neitt. Flatir hlutinn segir breyta eitthvað skipulagt.

• Eftir standi misheppnun eru ekki leiðrétta með fjarmælingu - hlutur úti úr nánd, greppur rúmfræði, liðir við mörkum. Engin leiðrétting gögn lagfæra kinematika vegg.
• Leiðréttingarnar eru of fá gegn grunnlína gagnasafni að hreyfa brekkur, og ekkert vegur þá.
• Leiðréttingarnar mótsaga hvor aðra, svo stefnan meðaltöl tvær aðferðir og lendir á milli þeirra.
• Misheppnunin er framleiðandi: myndavél flutti, birtustig breyttist, handleggir sýn passar ekki lengur þjálfun.
• Verkefnið er við þak þessarar stefnu flokk á þessari vélbúnaðinum, og næsta stig er meiri grunnlína gögn.

Seinastuir tveir eru ekki misheppnun lykkjunnar. Í Sirius-Fleet lækkandi þörf fyrir manneskjuna er hönnuð niðurstöðu: þar sem vélmenni sjálfræði bætist, þess frávika gáir laga þeirra spá viðmiðun, sem leiðir til færri beiðni um mannlega ingrip og smám saman minnkar mannlegum álagi yfir tíma. Þar viðmiðunin lagar vitandi. Í handleggilegri lykkju þín lagar of það, hljóðlaus - svo tíðni sem flatar vegna þess að verkefnið er við þak hennar looks eindilega eins og ein sem flötuðu vegna þess að rekstraraðila hætti takið eftir. Sem er næsti vandamál.

Gildra 1: fallandi tíðni er ekki hækkandi árangur tíðni

Ingrip tíðnin mælir exactly ein hluti: hversu mikið af rekstrinum þú ákvaðstu að eiga. Sá ákvörðun er þín, gerð í rauntíma, og hún hreyfast. Í umferð núll þú tekur yfir í fyrstu slæmu aðgangs horni; af umferð þrjú þú hefir horft á stefnunni endurheimta frá tugum af þeim og þú leyfir því að reyna. Þinn þröskuldur hreyfast; stefna má ekki hafa. Tíðnin fellur hvort sem er.

Mannleg traust er að minnsta kosti mótuð magn í bókmenntunum frekar en gert ráð fyrir fastu. Sirius re-vegur þjálfun sýni með áætluðu mannlegri trausti og bætir stefnunnar með vog hegðun klónun, skýra 8 prósent uppörvun í eftirlíkingu og 27 prósent á raunverulegum vélbúnaðinum yfir þáverandi-arts í stefnu árangur tíðni, á tvöföldu flýtilausn hraða. Þess meðhöndlar traust sem þyngd á gögnum. Það lagfærir ekki þröskuldinn í þínu höfði á milli umferðar núll og umferðar þrjú.

Þú getur ekki fjarlægð tröskinn, svo pörun tíðnina við eitthvað þín þröskuldur getur ekki snert: föst sett prófunum sem þú gert ekki ingrip yfir höfuð, stigaðir á móti viðmiðun skrifaðu fyrir umferðir. Tíðni sem fellur meðan pöruðu árangur tíðni helst fer er undirskrift drykkvarsnauðsynjar - virði að grípa, vegna þess að frá því inn lykkjunnar finnst það sem framfarir.

Gildra 2: án föst samskiptamáta, þú mælir herbergið

Raunverulegur vélmenni mat er dýrt og erfitt að endurtaka. SIMPLER höfundar hvetja herma mat með athugasemd að raunveruleika-mat af slíkum stefnu er ekki aukinn og þess standa fyrir framtíðar sem stefnu víkka verkefnum svið. RoboArena ákall það frá öðru hliðinni, með meiri en 600 tvíhliða raunverulegur-vélmenni matsúttöð þáttur yfir sjö almennir stefnu, rekinn af matsaðilum á sjö akademísk stofnunum á DROID verkvangi. Matsaðilar hans velja þeirra eigin verkefni og umhverfi en verður dæm pörunum stefnu tvöfalt-blind; greinin skýrirfær að þessir mannfjöldi-uppruni röðun rekur almennir-stefna árangur nákvæmari en hefðbundið, miðstöð mat.

Þú munt ekki rekstri 600 pöruðu þáttur á einni SO-100 í verkstæði. Hvað þú getur gert er fjarlægja dreifingu þú stjórna - listi svo leimulig að það venjulega fær slökktu.

Þá reiknimaðurinn, bardagafullt á tilraun fjöldanna verkstæði hafa efni á. Undir venjulegri nálgun, 60 prósent árangur yfir 20 tilraunir bera staðalskekkju nær 11 prósentuflokkar - ferningur rótin 0.6 sinnum 0.4 yfir 20 - og munur á milli tveggja slíkus umferðir berar um 15. Stökkva frá 60 til 70 prósent er þess vegna samkvæmt með ekki neinu þeim gerst. Fimmtíu tilraunir leiða til um-umferðir myndar til um 7 flokkar, og kostnað kvöldi.

Þessi ójöfnuður er rökstuðningur fyrir ingrip tíðni: reiknaðir yfir þúsundir rammar frekar en tuttugu tvöfalt útkomur, það hreyfast fyrr og sléttari. The caveat er að rammar innan þáttur eru þunglega tengd - ein slæm greppur gefur hundrað samfelld ingrip rammar - svo virka sýnishorn stærð er nær fjölda takeover. Meðferð tíðni sem snemma bending og árangur tíðni sem hægur grund sannleikur.

Gildra 3: þjálfun eingöngu á leiðréttingum bendi stefnunnar

Leiðréttingarnar eru faglegur gögn, svo eðlibrigði er þjálfa á þeim. Ekki. Þeir koma með smíði frá þröngri sneið ástands rúm þar stefna var þegar misheppnun og segir næstum ekkert um flest af rekstrinum sem vann. Fín-þjálfa á þessari sneið ein og þú fá stefna góð við endurheimtur frá misnum nálgun sem gleymir hvernig á að gera hrein ein.

Mandlekar og samstarfsmenn byggðir þeirra fjarmælingu ingrip kerfi um þetta. Þeirra rammi: breytandi verkefni innu flöskuhálsa svæði sem krefst röð nákvæm aðgerðir - setja pota í kaffivél er þeirra dæmi - þar sem lítil frávik leiða inn ástanda sýnileikinn aldrei dekket. Reiknirit þeirra þjálfir vinnandi á nýju gögnum svo stefna lærir að ferðast þessum flöskuhálsa, og þeir tilkynntu að umboðsmenn þjálfuð á ingrip gögnum slá umboðsmenn þjálfuð á jöfnu fjölda sýni frá ekki-ingripar sýningarmönnum.

Blöndun hlutfall er of-breytu og á skrifa niður. Samsett næsta gagnasafn er þar það er ákveðnu: frumrit sýning plús leiðrétting setur, þáttur val skýr fyrir uppruna frekar en regla sem hljóðlaus dregur inn hvað sem er tiltækt. Hér sem ein samsett stig í kokk, og niðurstöðu er venjulegur gagnasafn - sjá þjálfun skjöl. Hvað ekkert tól gerir fyrir þig er skrá sem hlutfall framleidd hver feril.

Gildra 4: manneskjan er ekki stöðug sérfræðingur

DAgger kenning gerir ráð fyrir sérfræðingur. Þú ert ekki ein í tæknilega sense: þín leiðréttingu eru ekki sýni frá föstu skilyrðum dreifingu yfir aðgerðir. ACT höfundar nöfn þess þegar lista hindranir til fín breytingu - villur samsetja yfir tíma, og mannleg sýning geta verið ekki-kyrrstæðir. Þeirra kerfi nær enn 80 til 90 prósent árangur á sex raunverulegur verkefni frá tíu mínútum sýning, svo vandamálið er tækja, ekki fjarverandi.

robomimic rannsókn gerir punkturinn frá gögnum hliðinni. Yfir sex án-neta reiknirit á fimm herma og þrjú raunverulegur margfasa verkefni, lærdómar þess inni næmni til hönnun val, fylgi við sýning gæði, og - ein sem slær mest hér - breytileiki stafar af stöðva viðmiðun, vegna þess þjálfun og mat hluti fara. Gátastöðin með lægstu tapi er ekki áreiðanlega ein með hæstu árangur tíðni.

Það er vélbúnaðar útgáfa af þessu: inntakið hátt móta leiðréttingu. A forystumönnum-fylgjandi uppsetning framleiðir samfelld, mannlega-hraða brautir. Lyklaborð ýta eru klemmt þungt af netþjóni - tveir gráðu fyrir arm liðir, fjórir á greppi - svo sama ætlun kemur sem fallegur lítill skref. Sleðar senda alger markmið og netþjónn hreyfast mest sex gráðu í átt þeim per símtal. Þrír ham, þrír aðgerðir dreifingu; blöndun allir þrír inn ein leiðrétting setur og þá undri hvers vegna nálgun snéaðist twitchy er sjálf-framfylgt. fjarmælingu skjöl taka hvað hver ham sendir.

Vogun ingripunum: IWR og hvað kom eftir

Ef leiðréttingu eru verðmæt minnihluti, meginregla laga er þyngd frekar en einokun. Ingrip Vogaðir Aðhvarf er tilvísun útfærslu: gögn er skipt inn ingrip og ekki-ingrip sýni, og tveir deildir eru sýnuðu í jöfnum hlutföllum meðan þjálfun. A leiðrétting setur sem er fimm prósent rammar þá stuðla hálf brekkur, án nafn hegðun hverfandi frá dreifingu.

Jöfn hlutfall er upphafning, ekki lög. Sirius almenn það með þjóðskiftingu tvöfalt deilingu með samfelld þyngd frá áætluðu mannlegri trausti; Sirius-Lota hreyfast ákvörðun uppstreymi, með sjón heimsmynd og frávika gáir til ákveða þegar manneskja spurt yfir höfuð. Samþætting geta: ingrip fanni er þjálfun boð, ekki bara bókhald dálk.

Fjórar mælikvarðar virði skrá næst við tíðni

• Takeover fyrir rekstri. Tuttugu stutt leiðréttingu og ein löng ein gefa svipaðar tíðni og lýsa mismunandi stefnu - ein twitchy, ein með einni blindri fletti.
• Meðal ingrip lengd. Hækkandi lengd með fallandi talning þýðir þau eftir standa misheppnun eru erfið ein, sem er hvað seint framfarir líta út.
• Tími til fyrstu ingrip. A stefna sem fær lengra fyrir þörf hjálp er bæta jafnvel þegar heildar tíðni er flatt.
• Þar ingripar draugn. Bak fanni af venjulegum þáttur framvindu; kyrrstæður toppur yfir umferðir punktir á ein flöskuhálsa.

A umferð samskiptamáta þú getur raunverulega rekstri

A mælt umferð hefur sex skref og framleiðir ein röð í logga. Fyrstu fjórir eru lykkjunni; síðustu tveir gera það mæling.

1. 1
   Frys matsútstöð fyrir umferð núll

   Skrifaðu niður upphafsstað, hlutur staðsetning, myndavélar, tilrauna fjöldi, endanleika og árangur viðmiðun. Ljósmynda borðið. Ef skjal hefur til breyta, röðin endurræsingu.

2. 2
   Mæla grunnlína

   Rekstri samskiptamáta með engin ingripar og skrá árangur; þá rekstri ein tóluð setu með takeover virkjuð og skrá tíðni. Þessir tveir tölur eru umferð núll.

3. 3
   Safna leiðréttingu í ein stöðug stíll

   Ein inntak ham fyrir umferð, ein rekstraraðila ef þú getur stýrt henni. Taka yfir á viðmiðun þú getur yfirlýst hærðu út - 'greppur meira en tveir sentímetrar af við nálgun' - og halda því fyrir umferð.

4. 4
   Triage hvert þáttur sama dag

   Leiðrétting, mat eða henda. Tvískoðuð þáttur fá hentu, ekki vista á kenningu sem fleiri gögn hjálpa - leiðrétting sem þú sjálf ruglaðist er verra en núll þáttur.

5. 5
   Samsett blöndun beint

   Frumrit sýning plús leiðréttingu, þáttur val fyrir uppruna. Skrá grunnlína talning, leiðrétting talning og allir vogun - þetta er reitur þú vill í þremur vikum.

6. 6
   Halda á frá gátastöðinni, þá endur-mæla

   Þjálfa samsett gagnasafn frá fyrri gátastöðinni frekar en grunnlína módel, rekstri fraust samskiptamáta plús ein tóluð setu, tengsla röðina, og samanburðar á móti fyrri tveir umferðir.

Tveir mörk breyta hvernig þú lestu veik umferð. Halda á frá gátastöðinni frumstilla þyngd frá því - ekki optimiser endurséning, svo áætlun byrjar fresh og stutt rekstri frá breitt gátastöð getur hreyfast mjög lítið. Og forystumennirnir-á jöfnuði hreyfing á byrja takeover hefur minnstu mílur á raunverulegur vélbúnaðinum af hvergju sem er í keðjunni; ef leiðréttingu allir byrja með ódæðilega bráðablikur, líta þar fyrir blaming blöndunin.

Hvað tölurnar geta ekki sagt þér

Engu af þessu er leyst, og hreinn feril ætti ekki fá þig annars. Ingrip tíðnin mælir samþættir kerfi - stefna, vélbúnaðar, rekstraraðila, herbergi - og eigun ekkert á eigin. Það getur ekki dæma hvort leiðréttingu voru góð, og það mun fellur ánægjulega á verkefni sem varð auðvelda vegna þess hlutur rekinn tveir sentímetrar nær á þremur vikum.

Hvað það gerir er kveikja óskýr þrykstingu inn dálk þú getur deilt með. Vali er ekki betri mælikvarði; það er þrjú vikur af söfnun leiðréttingu feril myndu sagt þér, eftir umferð þrjú, til stöðva söfnun. Könnun bókmenntunum skilgreinir gagnvirk tekjur nám sem mannleg ábending gefin ótilvlljóslega meðan vélmenni útfærslu, heimild á-línunni bætir hegðun; fjölskyldan er breið, og engin fyrirkomulag af því verk án tölu fyrir umferð. Sjá einnig SO-100 tekjur náms leiðbeining fyrir grunnlína gagnasafn þú blöndun á móti, rekstri stefna fyrir útfærslu hliðina, og DAgger lykkjunni síðu fyrir útfærða línyrðingu.

Halda logga í geymslunni, ekki í anteckningabók: umferðir eru dögum á sundur, vélbúnaðis fær endurbyggðir, og sá maður lesandi feril í október er þú með engin minning af ágúst. skjöl spurning taka rekstrandi smáatriði skilið út hér.