Funktioiden estimointi (kevät 2014)

Luennot: sali M101, ke klo 10 - 13

Laskuharjoitukset: sali KO143, ke 8-10

Ensimmäinen luento 15.1, viimeinen 9.4

Lopputentti:aika ilmoitetaan myöhemmin

Laajuus 10 op

Taso: Syventävät opinnot

Soveltuvuus: Sopii sekä matematiikan, sovelletun matematiikan että tilastotieteen opiskelijoille

 
 

---

Kurssin tavoite

Matematiikan soveltaja kohtaa funktioiden estimointitehtäviä monissa eri yhteyksissä. Esimerkkejä ovat todennäköisyystiheysfunktion estimointi hahmontunnistuksessa, regressioanalyysit, satunnaisprosessin intensiteettifunktion mallintaminen sekä tehospektrin estimointi aikasarja-analyysissä ja signaalinkäsittelyssä.

Monille nykypäivän data-analyysitehtäville on tyypillistä sisäiseltä rakenteeltaan monimutkainen aineisto, jonka käsittely voi olla hankalaa klassisen tilastotieteen parametrisilla menetelmillä. Tämä on yhdessä huimasti kasvaneen tietokoneiden laskentatehon kanssa synnyttänyt voimakkaan kiinnostuksen joustaviin parametrittomiin estimointimentelmiin, jotka eivät perustu epärealistisille oletuksille aineiston jakaumaominaisuuksista. Luennoitava kurssi esittelee parametrittomien funktion estimointimenetelmien teoriaa ja käytäntöä painottaen erityisesti suosittuja ydinmenetelmiä (kernel estimation methods). Estimointitehtävistä keskitytään tiheysfunktion ja regressiofunktion estimointiin.

Luentojen seuraaminen ei edellytä laajoja todennäköisyyslaskennan tai tilastotieteen taustatietoja. Todennäköisyyslaskennan peruskurssin tiedot täydennettynä useampiulotteisten jakaumien perusasioilla esimerkiksi todennäköisyyslaskennan jatkokurssin tai satunnaismuuttujat ja jakaumat -kurssin pohjalta pääosin riittävät. Analyysin osalta edellytetään vain perusasiat yhden ja useamman muuttujan differentiaali- ja integraalilaskennasta. Näiden lisäksi voi olla hyötyä funktionaalianalyysin alkeiden tuntemuksesta (Hilbertin avaruus, L^p). Kurssi pyrkii kauttaaltaan kuitenkin olemaan mahdollisimman itseriittoinen.

Opetus koostuu luennoista sekä laskuharjoituksista. Lasketuista kotilaskuista saa hyvitystä kurssin jälkeisessä ensimmäisessä tentissä.
 

---

 

Kurssin sisältö

1.  Esimerkkejä funktion estimoinnista

2.  Parametrinen ja parametriton funktion estimointi

- Suurimman uskottavuuden menetelmä
- Konvergenssinopeus
- Tiheys- ja regressiofunktion estimointi
- Johdattelua parametrittomaan estimointiin;
   edut ja haitat parametriseen lähestymistapaan nähden

3.  Parametriton tiheysfunktion estimointi

            Ydinmenetelmä

                    - Heuristinen johto
                    - Virhekriteerit
                    - Asymptoottinen virhe
                    - Minimax-optimaalisuus
                    - Optimaalinen ydin, korkeamman kertaluvun ytimet
                    - Silotuksen tason määrääminen käytännössä
                    - Adaptiivinen estimointi, ongelmat estimointialueen reunoilla
                    - Moniulotteinen tapaus, dimensiokirous

             Muita menetelmiä

- Lähinaapurimenetelmä
- Ortogonaalisarjakehitelmät
- Sakotettu suurimman uskottavuuden menetelmä

4.  Parametriton regressio

  Ydinmenetelmä

- Nadarayan-Watsonin estimaattori
- Asymptoottinen virhe
- Variaatioita perusideasta - muita ydinestimaattoreita
- Lokaali polynominen regressio
- Silotusparamterin valinta
- Luottamusvälit

  Muita menetelmiä

- Silottava splini
- Ortogonaalisarjakehitelmät, aallokkeet (wavelets)

---

Luentomateriaali

Luentomoniste (pdf)

Harjoitustehtävät

Harjoitus 1 (pdf)
Harjoitus 2 (pdf)
Harjoitus 3 (pdf)
Harjoitus 4 (pdf)
snowfall.txt
snowfall.m
Harjoitus 5 (pdf)
Harjoitus 6 (pdf)
Harjoitus 7 (pdf)
Harjoitus 8 (pdf)
Harjoitus 9 (pdf)
Harjoitus 10 (pdf)
mcyc.m
Harjoitus 11 (pdf)
Harjoitus 12 (pdf)
Harjoitus 13 (pdf)

 

Lasse Holmström <Lasse.L.Holmstrom at oulu.fi> Last modified: Tue Nov 30 12:00:00 2013