S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 1 IEJ-puut, yhteisjakaumat, A-kyllästetyt liitospuut, maksimitodennäköisyys- konfiguraatiot ja leviämisaksioomat s Juho Kokkala

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 2 Sisältö 1. Alkuevidenssileikkauspuut (IEJ-puut) 2. Yhteisjakaumat 3. A-kyllästetyt liitospuut 4. Maksimitodennäköisyyskonfiguraatiot 5. Leviämisaksioomat

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 3 Konfiguraation todennäköisyys Evidenssi e P(e) saadaan marginalisoimalla kaikki muuttujat separaattorin S viestien tulosta P(S,e)

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 4 Konfiguraation todennäköisyys Konfiguraatio c (A=a, B=b, C=c) P(e) Syötetään evidenssi c ja uusitaan leviäminen, saadaan P(c,e) Perussääntö Entä jos halutaan P(e’) useille e’  e?

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 5 Neljä postilaatikkoa: 2 sisään, 2 ulos Kaksi leviämistä, viestit alkuperäisestä ja uudesta leviämisestä Verkon eri osiin liittyvät evidenssit e V, e W Alkuevidenssiliitospuut VW S ФVФV ФeVФeV ФeWФeW ФWФW

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 6 Alkuevidenssiliitospuut P(S) =Ф V Ф W P(S, e V  e W )=Ф e V Ф e W P(S,e V )=Ф e V Ф W P(S,e W )=Ф V Ф e W

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 7 Yhteisjakaumat P(A,B)? Liitospuun solmun osajoukolle helposti Jokaisen konfiguraation syöttäminen evidenssinä raskasta Leviäminen s.e. jätetään halutut muuttujat eliminoimatta

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 8 A-kyllästetyt liitospuut P(A|X) useille muuttujille X Suoritetaan täysi leviäminen eliminoimatta A:ta -> A-kyllästetty liitospuu Muuttujajoukko W: W-kyllästetty liitospuu

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 9 Todennäköisyydet kyllästetystä leikkauspuusta Olkoon T W-kyllästetty leikkauspuu ja e evidenssi. 1.Valitaan solmu V tai separaattori S, joka sisältää X:n 2.P(V  W,e) on V:n potentiaalijoukon ja saapuvien viestien tulo. 3.P(W,X,e)=

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 10 Todennäköisyydet kyllästetystä liitospuusta Kullekin X P(X|W,e) yhdellä paikallisella operaatiolla W-kyllästetyt alkuevidenssileikkauspuut

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 11 Maksimitodennäköisyyden konfiguraatio Hevossiittolaesimerkki: kenen jälkeläinen todennäköisimmin ei-kantaja? Yksinkertainen verkko A->B->C

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 12 Maksimitodennäköisyyden konfiguraatio Maksimoinnin distributiivisuus: Muuttujien pois maksimointi -> max-marginaali max:lla samantyyppiset ominaisuudet kuin ∑:lla -> max-leviäminen vastaavasti kuin (summa-)leviäminen

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 13 Maksimitodennäköisyyden konfiguraatio, lause 6.1 Olkoon jakaumaa P(U) esittävä Bayes- verkko BN, sen liitospuu T ja evidenssi e, {e 1,…,e m } Suoritetaan täysi max-leviäminen –Jokaiselle separaattorille S separaattorin viestien tulo on max U\S P(U,e) –Jokaiselle solmulle V V:n potentiaalien ja saapuvien viestien tulo on max U\V P(U,e)

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 14 Leviämisaksioomat Arvotusten joukko Ψ ja universumi U Jokaiseen arvotukseen v liittyy Arvotuksien yhdistelyoperaattori × ja projektio- operaattori v ↓V

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 15 Leviämisaksioomat (i) (ii) (iii) (iv) (v) (vi) (Yleensä oletetaan, yhdistelyn neutraalialkio)

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 16 Leviämisaksioomat Kun aksioomat (i)-(vi) toteutuvat, mielivaltaiselle X voidaan laskea leviämisalgoritmillä Bayes-verkoissa yhdistely vastaa tuloa ja projektio marginalisointia Max-leviämisessä projektio vastaa max- marginalisointia Muita sovelluksia?

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 17 Yhteenveto Alkuevidenssiliitospuut Yhteisjakaumat A-kyllästetyt liitospuut Maksimitodennäköisyyden konfiguraatio max-leviämisellä Leviämisaksioomat

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 18 Kotitehtävä 23 (1/2) Bayes-verkko BN: AB C D

S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 19 Kotitehtävä 23 (2/2) (a) Muodosta BN:n C-kyllästetty liitospuu (b) Selvitä D:n tila todennäköisimmässä konfiguraatiossa max-leviämisellä