3.10 Zovšeobecňovanie, nedostatočná adaptácia a nadmerná adaptácia

Predstavte si, že Mike, Ana a Luka sa pripravujú na skúšku z matematiky a všetci používajú rovnakú zbierku. Mike sa flákal a cvičil úlohy len mierne, Ana bola usilovná a celý týždeň cvičila starostlivo a komplexne, zatiaľ čo Luka sa rozhodol zapamätať si úlohy. Uhádnete, kto si v teste počínal najlepšie? Samozrejme, Ana!

Súbor problémov si možno predstaviť ako abstraktný súbor údajov pozostávajúci zo vstupov (textov úloh) a výstupov (riešení). Model strojového učenia sa môže, podobne ako Pera, naučiť len niekoľko súvislostí v dátach a v praxi urobiť veľa chýb. Takáto vlastnosť modelu sa nazýva nedostatočné prispôsobenie. Model môže tiež preháňať úroveň detailov, ako Luke, a stratiť schopnosť spracovať niektoré nové údaje. Takáto vlastnosť modelu sa nazýva overfiting. Najlepšie by bolo, keby model prijal správne informácie a mohol, podobne ako Anna, úspešne riešiť známe aj niektoré nové úlohy. Táto vlastnosť modelu sa nazýva zovšeobecnenie.

Príklad nedostatočnej a nadmernej adaptácie možno ilustrovať na nasledujúcom obrázku. Predstavte si, že pozdĺž osi x sú hodnoty atribútu, pozdĺž y-oce sú hodnoty cieľovej premennej a že prerušovaná čiara zobrazuje model. Model vľavo nie je najlepšou voľbou vzhľadom na usporiadanie bodiek, zdá sa príliš jednoduchý. Údaje vyzerajú skôr ako "pohár", takže štvorcový model, ktorý má túto formu, môže byť lepším riešením. Môžeme ho vidieť na strednom obrázku. Na obrázku vpravo vidíme model, ktorý dôsledne sleduje každý bod v súbore údajov a je mu úplne prispôsobený.

Príklad nedostatočnej adaptácie a nadmernej adaptácie

Úloha nájsť optimálny model a vyvážiť medzi nedostatočnou a nadmernou výbavou nie je jednoduchá. Našťastie oblasť strojového učenia definuje protokoly a techniky, ktoré môžeme použiť na sledovanie každej z týchto situácií. Napríklad veľké rozdiely vo výkonnosti modelu na trénovacom súbore a testovacom súbore naznačujú, že model bol znovu prispôsobený. Zvyčajne je to spôsobené výberom zložitejšieho modelu, ako je potrebné (ako na obrázku vpravo hore), alebo trénovaním modelu na dlhší čas. Na druhej strane, nízke hodnoty meraní kvality v trénovacom súbore aj v testovacom súbore naznačujú, že model sa z údajov nenaučil dostatočne, je príliš jednoduchý (ako na obrázku vľavo hore) alebo potrebuje viac atribútov.

Dobré zovšeobecnenie je vlastnosť, ktorá umožňuje úspešnú aplikáciu modelov strojového učenia v praxi. Len malá časť dostupných údajov sa používa na ich trénovanie, a napriek tomu očakávame, že sa budú správať dobre počas aplikácie a nad novými dátami, s ktorými sa nikdy nestretli. Preto je dôležité, aby súbory údajov boli reprezentatívne, t. j. aby boli dostatočne bohaté a rozmanité, aby vyhovovali riešenému problému, ako aj dôkladné monitorovanie možných nedostatočných a nadmerných adaptácií modelu.