S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 1 Bayesin verkot Mallinnus metodeita.

Esitys aiheesta: "S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 1 Bayesin verkot Mallinnus metodeita."— Esityksen transkriptio:

1 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 1 Bayesin verkot Mallinnus metodeita 2/2

2 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 2 Sisältö Aikaleimatut mallit (Time-stamped models) Eksperttien erimielisyydet (expert disagreements) Interventiot (Interventions) Jatkuvat muuttujat (Continuous variables) Erityisominaisuudet

3 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 3 Aikaleimatut mallit (1/6) Yli ajan kehittyvät mallit. Jokaisella ajanhetkelle voidaan esittää aikasiivu (time slice). Aikasiivut yhdityvät aikalinkeillä (temporary links)

4 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 4 Esimerkiksi ennestään tuttu tapaus ”infektoitunut maito”: Tässä yksi aikasiivu näyttää seuraavalta Aikaleimatut mallit (2/6)

5 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 5 Aikaleimatut mallit (3/6) Määritelmiä –Jos aikasiivut ja aikalinkit ovat identtisiä, mallia kutsutaan nimellä repetitive temporal model. –Kun lisäksi muuttujien todennäköisyydet säilyvät samoina, malli on stricktly repetitive. –Jos verkko on stricktly repetitive ja lisäksi sillä on Markov-ominaisuus (menneisyys ei vaikuta tulevaisuuteen, jos nykyinen hetki tunnettu), sitä kutsutaan hidden Markov malliksi.

6 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 6 Aikaleimatut mallit (4/6) Hidden Markov malliksi muuttaminen –Edellä esitetty ”infektoitunut maito” ei ole Hidden Markov, mutta siitä saadaan tehtyä sellainen lisäämällä jokaiseen aikasiivuun kopio edellisen aikasiivun infektioarvosta.

7 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 7 Aikaleimatut mallit (5/6) Kalman suodatin (Kalman filter) –Hidden Markov malli, jossa ainoastaan yksi muuttuja kommunikoi tulevaisuuden tai menneisyyden kanssa. –Esim. Markovin ketju

8 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 8 Aikaleimatut mallit (6/6) Kätevä tapa kuvata repetitive temporal model –Aikasiivu –Aikalinkit merkitään kaksoisnuolella. Vieressä oleva numero viittaa kuinka monenteen aikasiivuun aikalinkki viittaa. Jos numeroa ei ole, viitataan seuraavaan aikasiivuun. –Kuvan vieressä neliössä on mallin aikasiivujen lukumäärä

9 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 9 Eksperttien erimielisyydet (1/3) Toisinaan asiantuntijoilla eriäviä mielipiteitä mallin todennäköisyyksistä. Ongelma voidaan ratkaista laskemalla –arvioista keskiarvo, kun asiantuntijan yhtä luotettavia –painotettu keskiarvo luottamuksen mukaan –Lisäämällä malliin muuttuja

10 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 10 Eksperttien erimielisyydet (2/3) Muuttujan lisäys. –Olkoon malli esimerkiksi seuraava, jossa erimielisyydet koskevat todennäköisyyksiä P(A) ja P(D|C,B). –Tällöin muuttujan lisäys tapahtuu seuraavasti. –S:n tilojen lukumäärä vastaa tällöin riitelevien eksperttien lukumäärää.

11 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 11 Eksperttien erimielisyydet (3/3) Eksperttien mukautus (adaptation). –Edelle tulimme muotoilleeksi mallin, jonka avulla voimme tarkastella asiantuntijoiden arvioiden onnistumista. –Aina evidenssiä saadessamme saadaan P(S|e). –Esitelmä aiheesta adaption ensi viikolla.

12 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 12 Interventiot (1/2) Toisinaan jonkin muuttujan tilaa halutaan muuttaa. –Ongelma (persistence) on että alkuperäinen ongelma saattaa muuttua toiseksi siinä samassa. –Ongelma ratkeaa lisäämällä malliin muutamia muuttujia.

13 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 13 Interventiot (2/2) Esimerkki, auton käynnistyminen –Auton omistaja haluaa uuden mallin tilanteesta, jossa hän on puhdistanut sytytystulpat. –Alkuperäiset muuttujat ovat keltaisia. –Puhditettu –muuttujan jälkeläisillä ei ole merkitystä ennen kuin tulpat puhdistetaan. Tällaisia muuttujia merkitään neliöllä. –Lisätyt muuttujat ovat vihreitä ”Sytytystulpat 2” on tn, jolla henkilö osaa puhdistaa tulpat kunnolla. ”Käynnistys 2” on tn, jolla auto käynnistyy tulppien puhdistumisen jälkeen.

14 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 14 Jatkuvat muuttujat (1/3) Bayes-vekossa voidaan käyttää jatkuvia muuttujia seuraavin edellytyksin –Käytettään vain ehdollisia Gaussin jakaumia (conditional Gaussian distribution). Jälkeläiset vanhempien jakaumien lineaarikombinnatioita. –Jatkuvalla muuttujalla ei voi olla diskreettejä jälkeläisiä. Tällä kurssilla jatkuvia muuttujia ei käsitellä vaan ne muunnetaan diskreeteiksi.

15 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 15 Jatkuvat muuttujat (2/3) Diskretointi –Jaetaan jatkuva muuttuja äärelliseen määrään intervalleja. –Lasketaan todennäköisyysmassa kullekin intervallille.

16 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 16 Jatkuvat muuttujat (3/3) Esimerkki – angina ja flunssa –Kuume on jatkuva muuttuja –Määritetään intervallit ei kuumetta: T < 37.5º. kohtalainen kuume 37,5º  T  38,5º. korkea kuume T > 38,5º. –Määritetään intervallien todennäköisyydet normaalijakaumasta.

17 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 17 Erityisominaisuudet (1/4) Erityisominaisuuksien kuvaamisessa käytetään esimerkkinä alla olevaa flunssa- angina – mallia.

18 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 18 Erityisominaisuudet (2/4) Yhteistodennäköisyystaulukot (Joint probability tables) –Koska flunssa ja angiina esiintyvät usein yhdessä, saattaa näiden yhteistodennäköisyys olla kiinnostava. P(angiina, flunssa|e) = P(angiina|flunssa, e)P(flunssa|e) P(flunssa|e) saadaan mallista. P(angiina|flunssa, e) katsotaan mallista käymällä läpi flunssan tilat ja laskemalla anginan painotetut todennäköisyydet. –Useamman muuttujan yhteistodennäköisyyksien laskeminen erittäin raskasta.

19 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 19 Erityisominaisuudet (3/4) Todennäköisin selitys eli MPE (Most probable explonation) –Kiinnostuksen kohteena esimerkiksi flunssan ja angiinan todennäköisin konfiguraatio. –Jos muuttujasta ei ole evidenssiä, käytetään sen todennäköisintä tilaa. –Menetelmä on muuten sama kuin sankoeliminointi, mutta marginalisoinnin sijaan valitaan maksimi. –jos A  dom(  1 )  max(  1  2 ) =  1 max(  2 ) Maksimointi tapahtuu siis muutujan A yli.

20 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 20 Erityisominaisuudet (4/4) Tietokonfliktit (Data conflict) –Jos evdenssi ei ole lainkaan samansuuntainen muiden evidenssien kanssa, on sen oikeellisuutta syytä epäillä. Esimerkiksi, jos ei ole kurkkukipua eikä kuumetta, on vahva evidenssi keltaisista pilkuista epäilyttävä. –Määritetään evidenssijoukon konfliktimitta (conflict measure) conf(e)=log 2 [ (P(e 1 ) *... * P(e m )) / P(e) ] –Jos konfliktimitta saa positiivisen arvon, evidenssien välillä ei ole positiivista korrelaatiota. –Korkea konfliktimitta kielii ristiriitaisista evidensseistä.

21 S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 21 Kotitehtävä 1. Pura kuvan aikasiivumalli normaaliksi malliksi. (2p) 2. Kurssisivuilla on laatimani Metabolisen oireyhtymän malli, sekä taulukko painoindeksin diskretoimista varten. Tehtäväsi on korvata mallin paino -muuttujan uudella paino – muuttujalla, jonka todennäköisyydet lasket normaalijakaumasta liitteenä olevan taulukon mukaisesti. Anna vastauksena laatimasi P(paino|metab. oireyhtymä) -taulukko ja laske lisäksi P(veritulppa = kyllä|paino = normaali, verenpaine koholle = kyllä). (3p)