Funktioiden estimointi (kevät 2007)

Sali M101, ti klo 10 - 12 ja ke klo 10 - 12, 13 - 14

Laajuus 10 op

Taso: Syventävät opinnot

Soveltuvuus: Sopii sekä matematiikan, sovelletun matematiikan että tilastotieteen opiskelijoille

 
 

---

Kurssin tavoite

Matematiikan soveltaja kohtaa funktioiden estimointitehtäviä monissa eri yhteyksissä. Esimerkkejä ovat todennäköisyystiheysfunktion estimointi hahmontunnistuksessa, regressioanalyysit, satunnaisprosessin intensiteettifunktion mallintaminen sekä tehospektrin estimointi aikasarja-analyysissä ja signaalinkäsittelyssä.

Monille nykypäivän data-analyysitehtäville on tyypillistä sisäiseltä rakenteeltaan monimutkainen aineisto, jonka käsittely voi olla hankalaa klassisen tilastotieteen parametrisilla menetelmillä. Tämä on yhdessä huimasti kasvaneen tietokoneiden laskentatehon kanssa synnyttänyt voimakkaan kiinnostuksen joustaviin parametrittomiin estimointimentelmiin, jotka eivät perustu epärealistisille oletuksille aineiston jakaumaominaisuuksista. Luennoitava kurssi esittelee parametrittomien funktion estimointimenetelmien teoriaa ja käytäntöä painottaen erityisesti suosittuja ydinmenetelmiä (kernel estimation methods). Estimointitehtävistä keskitytään tiheysfunktion ja regressiofunktion estimointiin. Kurssi sopii sisältönsä puolesta sekä matematiikan, sovelletun matematiikan että tilastotieteen opiskelijoille.

Luentojen seuraaminen ei edellytä laajoja todennäköisyyslaskennan tai tilastotieteen taustatietoja. Todennäköisyyslaskennan perus- ja jatkokurssin tiedot riittävät. Analyysin osalta edellytetään pääosin vain Analyysi I:n ja Analyysi II:n tiedot, jonka lisäksi voi olla hyötyä funktionaalianalyysin alkeiden tuntemuksesta (Hilbertin avaruus, L^p). Kurssi pyrkii kauttaaltaan kuitenkin olemaan mahdollisimman itseriittoinen.

Opetus koostuu luennoista sekä laskuharjoituksista. Lasketuista kotilaskuista saa hyvitystä kurssin jälkeisessä ensimmäisessä tentissä.
 

---

 

Kurssin sisältö

1.  Esimerkkejä funktion estimoinnista

2.  Parametrinen ja parametriton funktion estimointi

- Suurimman uskottavuuden menetelmä
- Konvergenssinopeus
- Tiheys- ja regressiofunktion estimointi
- Johdattelua parametrittomaan estimointiin;
   edut ja haitat parametriseen lähestymistapaan nähden

3.  Parametriton tiheysfunktion estimointi

            Ydinmenetelmä

                    - Heuristinen johto
                    - Virhekriteerit
                    - Asymptoottinen virhe
                    - Minimax-optimaalisuus
                    - Optimaalinen ydin, korkeamman kertaluvun ytimet
                    - Silotuksen tason määrääminen käytännössä
                    - Adaptiivinen estimointi, ongelmat estimointialueen reunoilla
                    - Moniulotteinen tapaus, dimensiokirous

             Muita menetelmiä

- Lähinaapurimenetelmä
- Ortogonaalisarjakehitelmät
- Sakotettu suurimman uskottavuuden menetelmä

4.  Parametriton regressio

  Ydinmenetelmä

- Nadarayan-Watsonin estimaattori
- Asymptoottinen virhe
- Variaatioita perusideasta - muita ydinestimaattoreita
- Lokaali polynominen regressio
- Silotusparamterin valinta
- Luottamusvälit

  Muita menetelmiä

- Silottava splini
- Ortogonaalisarjakehitelmät, aallokkeet (wavelets)

---

Luentomateriaali

Luentomoniste (pdf)

Harjoitustehtävät

Harjoitus 1 (pdf)
Harjoitus 2 (pdf)
Harjoitus 3 (pdf)
Harjoitus 4 (pdf)
snowfall.txt
snowfall.m
Harjoitus 5 (pdf)
Harjoitus 6 (pdf)
Harjoitus 7 (pdf)
Harjoitus 8 (pdf)
Harjoitus 9 (pdf)
Harjoitus 10 (pdf)
mcyc.m
Harjoitus 11 (pdf)
Harjoitus 12 (pdf)
Harjoitus 13 (pdf)

---

Lisätietoja

Luentoja ja laskuharjoituksia ei pidetä viikolla 15 pääsiäisloman johdosta.