Ident: P06b Praktické aspekty lineárnej regresie II.

Zhrnutie prednášky

Prednáška nadväzuje na tému praktických aspektov lineárnej regresie a predstavuje postupnú (stepwise) selekciu premenných pomocou intervalov spoľahlivosti parametrov: ak interval obsahuje nulu, príslušný regresor pravdepodobne nevysvetľuje výstup a možno ho z modelu vylúčiť. Zavádza sa kritérium kvality modelu RMSE a koeficient determinácie R na druhú. Na vizuálnom príklade fitovania polynómov rastúceho stupňa (konštanta, priamka, parabola, až polynóm 8. stupňa presne interpolujúci deviatimi bodmi) sa demonštruje nebezpečenstvo pretrénovania a extrapolácie mimo rozsah nameraných dát, pričom sa ukazuje, že jednoduchší model je pri neistote bezpečnejšou voľbou.

• - Postupná (stepwise) regresia a výber premenných podľa intervalu spoľahlivosti
• - Vylúčenie parametra, ak jeho interval spoľahlivosti obsahuje nulu
• - Kritériá kvality modelu RMSE a koeficient determinácie R na druhú
• - Demonštrácia fitovania polynómov rôzneho stupňa na tie isté dáta
• - Riziko pretrénovania (overfitting) pri polynóme vysokého stupňa
• - Nebezpečenstvo extrapolácie mimo rozsah nameraných dát a preferencia jednoduchších modelov

Zhrnutie pripravené s pomocou AI z prepisu videa.