Empirikus kockázatminimalizáló
Empirikus kockázat (empirikus Risk) - az átlagos algoritmus hiba a tanító.
A módszer a tapasztalati kockázat minimalizálása (empirikus kockázatok csökkentésével, ERM) - ez egy közös megközelítés a problémák széles osztálya problémák képzés precedens. Az első helyen - képzési feladatokat a tanár. beleértve a feladatok besorolását és regresszió.
meghatározzák
A feladat a képzés előzményei
Let - sok leírásokat tárgyak - a készlet lehetséges válaszokat. Azt feltételezik, hogy van egy ismeretlen cél függőség - azt mutatja: \ „/>, melynek értéke ismert csak a végső edzés Mintaterületeim.
a precedens feladata a tanítás, hogy létrehozzunk egy algoritmus ami járna ismeretlen cél függőség, mint a minta sejt, és az egész készlet.
veszteségek és empirikus kockázati függvény
Bevezetése veszteségek funkció jellemző a válasz értéke eltérés a helyes választ, hogy egy tetszőleges objektumot.
Bevezetett modell algoritmusok, ahol keresni kell kijelző, amely megközelíti ismeretlen cél függőség.
Empirikus kockázat - a minőség a funkcionalitás jellemzi az átlagos hiba az algoritmus egy minta:
A módszer a tapasztalati kockázat minimalizálására, hogy egy adott modell algoritmusok találni egy olyan algoritmus, mely a legkisebb értékét empirikus kockázat funkcionális:
Faj veszteség funkciók
Az osztályozási problémák, a legtermészetesebb választás küszöb funkciója veszteség
Amikor a funkció szakaszos elvesztése, empirikus kockázat minimalizálására egy komplex kombinatorikus optimalizálási problémák. Sok esetben gyakorlati jelentősége van, ez csapódik le, hogy megtalálja a maximális konzisztens alrendszer a rendszerben az egyenlőtlenségek (egyenlőtlenségek szám egybeesik az objektumok száma a tanulmány), és NP -teljes.
Együtt a veszteség határértéket fuktsii használt mindenféle folyamatos közelítés. lehet használni elég hatékony klasszikus módszerek folyamatos fejlesztésére, beleértve a gradiens-módszereket. Sőt, úgy tűnik, hogy a használata bizonyos közelítések, amelyek javítják a teljesítményt általánosítás osztályozási algoritmus. További részletek a folyamatos közelítések tárgyaljuk a cikk „A lineáris osztályozó”.
A regressziós problémák a leggyakoribb választás egy kvadratikus függvény
Előnyök és hátrányok a módszer
A fő előnye abban rejlik, hogy ez egy konstruktív és rugalmas megközelítést, amely csökkenti a problémát a tanulás a problémák numerikus optimalizálás.
A fő hátránya - a jelenség átnevelés. amely akkor következik be, amikor szinte mindig módszerrel minimálisra empirikus kockázatot.
Fajta modell algoritmusok
- Lineáris osztályozási modellt
- Lineáris regressziós modell
- A nemlineáris osztályozási modellt
- Nem-lineáris regressziós modellek