IDENT_20110329 03 Metóda najmenších štvorcov - statický prípad

Zhrnutie prednášky

Prednáška odvodzuje metódu najmenších štvorcov pre statický lineárny model výstupu ako funkcie regresorov a vektora parametrov s aditívnou chybou merania. Kritérium je definované ako súčet štvorcov odchýlok medzi nameraným a odhadovaným výstupom, vyjadrený maticovo ako súčin transponovaného vektora chýb so sebou samým. Derivovaním kritéria podľa vektora parametrov a položením derivácie rovnej nule sa odvodia normálne rovnice a následne explicitný vzorec pre odhad parametrov pomocou inverzie matice regresorov. Ďalej sa za predpokladu normálneho rozdelenia šumu s nulovou strednou hodnotou dokazuje, že odhad je lineárnou funkciou dát a je nevychýlený, teda jeho stredná hodnota sa rovná skutočnej hodnote parametrov. Na záver sa odvodzuje kovariančná matica odhadu parametrov pomocou kovariančnej matice výstupu a šumu.

• - Statický lineárny model: výstup je súčet súčinov parametrov a regresorov plus aditívny šum.
• - Kritérium najmenších štvorcov = súčet štvorcov odchýlok medzi nameraným a odhadovaným výstupom, maticovo v transponované v.
• - Derivovaním kritéria podľa parametrov a položením rovnej nule sa získajú normálne rovnice X'Xθ = X'y.
• - Odhad parametrov: θ̂ = (X'X)⁻¹X'y.
• - Za predpokladu bieleho šumu s normálnym rozdelením je aj výstup y normálne rozdelený so strednou hodnotou Xθ a kovarianciou σ²I.
• - Dôkaz, že θ̂ je lineárnou funkciou dát a nevychýleným odhadom (E[θ̂] = θ).
• - Odvodenie kovariančnej matice odhadu θ̂ pomocou kovariančnej matice y a rozptylu šumu σ².

Zhrnutie pripravené s pomocou AI z prepisu videa.