Kausaaliverkot ja todennäköisyyslaskennan kertaus Sivut 3-17

Slides:



Advertisements
Samankaltaiset esitykset
TODENNÄKÖISYYSLASKENTA
Advertisements

Komponenttien rakenteellinen tärkeys
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä 10 – Juho Kokkala Optimointiopin seminaari - Syksy 2010 Kernel-tasoitus.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 2 - Kim Björkman Optimointiopin seminaari - Kevät 2007 / 1 Yksiulotteiset kuvaukset.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 3 - Riikka-Leena Leskelä Optimointiopin seminaari - Syksy 2005 / 1 2. Mallien rakentaminen.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Fraktaalit – Ville Brummer Optimointiopin seminaari - Kevät 2007 Fraktaalit Ville Brummer.
2.3. Riippumattomuus ja kertolaskusääntö
4. Jakaumien teoriaa Jos diskreetin satunnaismuuttujan x
Kalakantojen arviointi: Merkintä-takaisinpyynti
TMA.003 / L3 ( )1 3. Funktioista 3.1. Kuvaus ja funktio Olkoon A ja B ei-tyhjiä joukkoja. Tulojoukon A  B = {(x,y) | x  A, y  B} osajoukko on.
Todennäköisyyslaskennan alkeet ennen esikoulua
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 15 – Mikko Harju Optimointiopin seminaari - Kevät 2010 Kotitehtävä 15.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 16 - Jarto Niemi Optimointiopin seminaari - Kevät 2007 Kaaos differentiaaliyhtälöissä,
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 2 - Jarno Leppänen Optimointiopin seminaari - Kevät 2008 Evoluutiopeliteoria: stabiilisuudesta.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 28 – Tuukka Sarvi Optimointiopin seminaari - Syksy 2005 / 1 Ratkaisu kotitehtävään 28 Tuukka.
Tommi Kauppinen ja Tuukka Sarvi
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 27 – Tommi Kauppinen Optimointiopin seminaari - Syksy 2005 / 1 Oppiminen Bayes-verkoissa.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 29 – Janne Ojanen Optimointiopin seminaari - Syksy Dynaamiset Bayesverkot Osa 1.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Kotitehtävä 14 – Tom Lindström Optimointiopin seminaari - Syksy 2005 Kotitehtävän 14 ratkaisu Tom.
Päätöspuut (‘decision trees’)
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 21 – Osmo Salomaa Optimointiopin seminaari - Syksy 2005 / 1 Kolmioimattomat määrittelyalueverkot.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 11 - Teemu Mutanen Optimointiopin seminaari - Syksy 2005 / 1 Lisätiedon arvo.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 11 - Teemu Mutanen Optimointiopin seminaari - Syksy 2005 / 1 Kotitehtävä 11 - ratkaisu.
tilastollinen todennäköisyys
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä 18 – Otto Sormunen Optimointiopin seminaari - Syksy 2010 Tukivektorikoneet.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 9 – Henri Hytönen Optimointiopin seminaari - Kevät 2007 Kaoottiset attraktorit
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 15 – Mikko Harju Optimointiopin seminaari - Kevät 2010 Korreloitu tasapaino ja sosiaaliset.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 19 - Heikki Henttu Optimointiopin seminaari - Syksy 2005 / 1 Verkko-teoreettinen esitystapa.
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä # - Esitelmöijän nimi Optimointiopin seminaari - Syksy 2010 Lineaarinen.
Todennäköisyyslaskentaa
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 24 – Teppo Voutilainen Optimointiopin seminaari - Syksy 2005 / 1 Datakonflikti ja herkkyys.
Bayesilainen tilastoanalyysi - priorijakaumista
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 19 - Heikki Henttu Optimointiopin seminaari - Syksy 2005 / 1 Ratkaisu kotitehtävään 19.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 9 - Jaakko Niemi Optimointiopin seminaari - Syksy 2005 / 1 Virittäminen (Tuning) s
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 4 – Jussi Kangaspunta Optimointiopin seminaari - Kevät 2007 Kaksiulotteiset kuvaukset 2/2.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Mallinnusmenetelmät 5 – Emilia Partanen Optimointiopin seminaari - Syksy 2005 Mallinnusmenetelmät.
S ysteemianalyysin Laboratorio Aalto-yliopiston Teknillinen korkeakoulu Esitelmä 10 – Epäoikeudenmukaisuuden karttaminen Tuomas Nummelin Optimointiopin.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 18 – Juho Kokkala Optimointiopin seminaari - Kevät 2007 Stabiilit monistot ja kriisit Mat
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä 17 – Tuomas Nummelin Optimointiopin seminaari - Syksy 2010 Tukivektorikoneet.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 6 - Erkka Ryynänen Optimointiopin seminaari - Syksy 2005 / 1 Bayesin verkot Mallinnus metodeita.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 2 - Jirka Poropudas Optimointiopin seminaari - Kevät 2005 / 1 Bayes-verkoista s
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 14 - Tom Lindström Optimointiopin seminaari - Syksy 2005 Vaikutuskaaviot Sivut
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 15 – Anna Matala Optimointiopin seminaari - Syksy 2008 Kotitehtävän ratkaisu Anna Matala.
Hyöty ja yhden toiminnan mallit
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmöijän nimi Systeemitieteiden kandidaattiseminaari – Syksy/Kevät 200X Informaation leviäminen.
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä 11 – Tuomas Nummelin Optimointiopin seminaari - Syksy 2010 Lokaalit uskottavuusmenetelmät.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 5 – Matti Sarjala Optimointiopin seminaari - Kevät 2008 Evoluutiopeliteoria: Viivytystaistelu.
Todennäköisyyslaskentaa
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Kotitehtävä 19 – Ville Koponen Optimointiopin seminaari - Syksy 2009 Kotitehtävä 19 (Kirja12.7)
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 25 - Mark Mehtonen Optimointiopin seminaari - Syksy 2005 / 1 The Chain Rule for Influence.
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Ohjaamaton oppiminen– Heikki Vesterinen Optimointiopin seminaari - Syksy 2010 Ohjaamaton.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 1 - Jirka Poropudas Optimointiopin seminaari - Syksy 2000 / 1 Kotitehtävän 2 ratkaisu Jirka.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 23 – Juho Kokkala Optimointiopin seminaari - Syksy 2005 / 1 IEJ-puut, yhteisjakaumat, A-kyllästetyt.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 9 - Jaakko Niemi Optimointiopin seminaari - Syksy 2005 / 1 Kotitehtävä 9 Ratkaisu.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 4 – Topi Tahvonen Optimointiopin seminaari - Syksy 2005 / 1 Ehdollisten todennäköisyyksien.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Kotitehtävä 24 – Teppo Voutilainen Optimointiopin seminaari - Syksy 2005 Kotitehtävän 24 ratkaisu.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 21 – Osmo Salomaa Optimointiopin seminaari - Syksy 2005 / 1 Kotitehtävän 21 ratkaisu Osmo.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 12 – Jukka Luoma Optimointiopin seminaari - Kevät 2007 Jaksolliset radat ja rajajoukot.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 13 – Tommi Nykopp Optimointiopin seminaari - Syksy 2005 / 1 Päätösteoreettinen vianhaku.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 4 – Janne Nurmi Optimointiopin seminaari - Kevät 2008 Kotitehtävä 4 - Ratkaisu
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 17 – Olli Mahlamäki Optimointiopin seminaari - Syksy 2005 / 1 HUGIN-ohjelmisto Olli Mahlamäki.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 5 – Henri Tokola Optimointiopin seminaari - Syksy 2009 Kotitehtävä 5: LEKIN-ohjelman käyttö.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 12 – Alexander Franck Optimointiopin seminaari - Kevät 2010 Rationalisoituvuus ja yleinen.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 8 – Reda Guerfi Optimointiopin seminaari - Syksy 2009 Taloudellisen tuotantoerän skedulointi.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä 5 – Matti Sarjala Optimointiopin seminaari - Kevät 2008 Kotitehtävien ratkaisut
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä 22 – Jussi Kangaspunta Optimointiopin seminaari - Syksy 2010 Ohjaamaton.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Esitelmä # - Esitelmöijän nimi Optimointiopin seminaari - Syksy 2000 / 1 Potentiaalien kertaus ja.
S ysteemianalyysin Laboratorio Aalto-yliopiston teknillinen korkeakoulu Esitelmä 11 – Tuomas Nummelin Optimointiopin seminaari - Syksy 2010 Tukivektorikoneet.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Fraktaalit – Ville Brummer Optimointiopin seminaari - Kevät 2007 Fraktaalit - Kotitehtävän vastaus.
S ysteemianalyysin Laboratorio Teknillinen korkeakoulu Kotitehtävä 4 – Topi Tahvonen Optimointiopin seminaari - Syksy 2005 / 1 4. Kotitehtävän ratkaisu.
Esityksen transkriptio:

Kausaaliverkot ja todennäköisyyslaskennan kertaus Sivut 3-17 Juuso Liesiö

Sisältö Päättely epävarmuuden vallitessa Kausaaliverkot Erilaiset kytkennät, evidenssin välittyminen d-erotuksen käsite Todennäköisyyslaskennan kertaus Todennäköisyys Satunnaismuuttujat Ehdollinen riippumattomuus Potentiaalit

Päättely epävarmuuden vallitessa Esim. Auton käynnistymisen epävarmuus Kuinka todennäköisesti auto käynnistyy? Käynnistymiseen vaikuttavat polttoaineen määrä ja sytytystulppien puhtaus ja ne ovat epävarmoja Toisaalta näyttääkö polttoainemittari oikein? Jos totean mittarin näyttävän tankin olevan täynnä, onko käynnistymisen epävarmuus muuttunut? Jos auto ei käynnistynyt ja mittari näyttää tankin olevan täynnä, muuttuuko sytytystulppien puhtauteen liittyvä epävarmuus

Päättely epävarmuuden vallitessa Ongelmamme sisältää Tilaltaan epävarmat muuttujat Muuttujien mahdolliset tilat Kausaalisuhteet (syy-seuraussuhteet) Tämä on kausaaliverkko! Polttoainetta? {kyllä, ei} Puhtaat sytytystulpat {kyllä, ei} Käynnistyykö? Mittarin asento {0%,50%,100%}

Kausaaliverkot (1/2) Kausaaliverkko on suunnattu verkko Solmut kuvaavat muuttujia Muuttujalla äärellinen määrä mahdollisia tiloja Tila yksikäsitteinen, mutta epävarma Kaaret kuvaavat kausaalisuhteita Käyttö: Vaikuttaako epävarmuuden muutos yhden muuttujan tilasta toisen muuttujan tilojen epävarmuuteen? Ei kiinnitetä epävarmuuden laskennallista mallia

Kausaaliverkot (2/2) Muuttujien suhteista C B D Muuttujien suhteista B on A:n lapsi A on B:n vanhempi Lapset ja vanhemmat ovat naapureita B, C ja D ovat A:n jälkeläisiä Epävarmuus muuttujien tilasta Evidenssi: tietoa tilojen epävarmuudesta Kova evidenssi  tila tunnetaan, tila ilmentynyt Pehmeä evidenssi  tilan epävarmuus muuttuu

Sarjakytkentä Evidenssi voi välittyä sarjakytkennän läpi (kumpaankin suuntaa), ellei kytkennässä olevan muuttujan V tila ole tunnettu (ilmentynyt) Flussa lisää pahoinvoinnin todennäköisyyttä, mikä puolestaan lisää kalpeuden todennäköisyyttä Jos ihminen voi pahoin, ei tieto flunssasta muuta kalpeuden todennäköisyyttä A B V Pahoinvointi Flunssa Kalpeus

Haarautuva kytkentä Evidenssi voi välittyä lapsien välillä ellei haarassa olevan muuttujan V tila ole tunnettu (ilmentynyt) Pitkä ihminen on todennäköisesti mies ja miehillä on todennäköisesti on lyhyet hiukset Jos tiedät että kyseessä on mies, ei tieto pituudesta vaikuta hiustenpituuteen liittyvään epävarmuuteen V C B E ... Sukupuoli Hiusten pituus Pituus

Yhdistyvä kytkentä C B E ... Evidenssi välittyy vanhempien välillä vain jos jälkeläisten ( ) tilasta on evidenssiä (muuta kuin vanhemmista johdettua informaatiota) Sekä salmonella että flunssa voivat aiheuttavaa paihoinvointia, eikä tieto flunsasta muuta salmonellan epävarmuutta Jos henkilö todetaan kalpeaksi, tieto että flunssaa ei ole nostaa salmonellan todennäköisyyttä Salmonella Pahoinvointi Flunssa Kalpeus

D-erotus (1/5) Määritelmä: d-erotus (direction dependent criterion of connectivity) Kaksi muuttujaa A ja B ovat d-erotetut jos kaikilla poluilla A:sta B:hen löytyy muuttuja V s.e. 1) kytkentä on sarjakytkentä tai haarautuva kytkentä ja V on ilmentynyt 2) tai kytkentä on yhdistyvä ja V tai sen jälkeläiset eivät ole saaneet evidenssiä A B V ... A B ... V A B ...

D-erotus (2/5) Väite: Jos A ja B ovat d-erotettuja, niin epävarmuuden muutos A:ssa ei vaikuta B:n epävarmuuteen Ilman tietoa auton käynnistymisestä, tieto sytytys-tulppien puhtaudesta ei vaikuta polttoaineen olemassaolon tai mittarin asentoon liittyvään epävarmuuteen Polttoainetta? {kyllä,ei} Puhtaat sytytystulpat {KYLLÄ, ei} Käynnistyykö? {ei,kyllä} Mittarin asento {0%,50%,100%}

D-erotus (3/5) Kun e on kova evidenssi, F on d-erotettu A:sta E:stä D:n kautta sarjakytkentä, D ilmentynyt B:n kautta sarjakytkentä, B ilmentynyt E:stä B:n kautta haarutuva kytkentä, B ilmentynyt G:stä D:n kautta haarautuva kytkentä, D ilmentynyt

D-erotus (4/5) Kun e on kova evidenssi, A on d-erotettu ainoastaan G:sta: Evidenssi A:sta välittyy polkua A-D-H-K-I-E-C-F-J-L

D-erotus (5/5) Kun e on kova evidenssi E ei ole d-erotettu F:stä, B:stä tai A:sta Evidenssi välittyy polkua E-H-F-B-D-A E on siis d-yhdistetty F:n, B:n ja A:n kanssa, vaikka kaikki E:n naapurit ilmentyneet

Markov-peite (1/2) Määritelmä: Markov-peite Huomio Muuttujan A Markov-peitteeseen kuuluvat A:n vanhemmat ja lapset sekä lasten muut vanhemmat Huomio Jos A:n Markov-peitteen kaikki muuttujat ilmentyneet, niin A on d-erotettu muusta verkosta

Markov-peite (2/2) Punaisella E:n Markov-peite, jonka kaikki muuttujat ovat ilmentyneet Nyt E on d-erotettu A:sta ja B:stä, koska kaikilla poluilla on sarjakytkennässä ilmentynyt muuttuja Siis muuttujat C, D ja F

Tapahtumat ja todennäköisyys Tapahtuman a todennäköisyys P(a) i) Tapahtuma a on varma, jos P(a)=1 ii) Jos tapahtumat a ja b ovat toisensa poissulkevia eli niin Ehdollinen todennäköisyys a:n todennäköisyys jos b on tapahtunut on x Merkintä P(a|b)=x Huom! Merkintä olettaa että kaikki muut tapahtumat ovat epäoleellisia a:lle

Perussääntö ja Bayesin kaava Todennäköisyyslaskun perussääntö , missä P(a,b) on todennäköisyys että tapahtuu a ja b Ehdollistaminen tapahtuman c suhteen Bayesin kaava Perussäännöstä seuraa , eli Bayesin kaava

Likelihood Ehdollinen todennäköisyys P(a|b) Nimitetään myös “a:n likelihood ehdolla b” ja merkitään L(a|b) Esim. eri skenaarioita joilla vaikutus a:n tapahtumiseen ja tiedetään että a on tapahtunut. Kuinka todennäköistä on, että on a:n syy kun ?

Satunnaismuuttujat (1/4) Satunnaismuuttuja A Mahdolliset (toistensa poissulkevat) tilat A:n Todennäköisyys jakauma yli tilojen Todennäköisyys sille, että Kun on selvä mihin satunnaismuuttujaan viitataan, merkitään

Satunnaismuuttujat (2/4) Olkoon B satunnaismuuttuja, jolla tilat P(A,B) on n kertaa m taulukko, jossa alkioina todennäköisyydet P(A|B) on n kertaa m taulukko, jossa alkioina todennäköisyydet Taulukoilla laskeminen Merkitään Lasketaan

Satunnaismuuttujat (3/4) Marginalisointi P(A,B):n avulla voidaan laskea reunajakauma P(A) Tapahtumat toistensa poissulkevia, joten ii)-aksiooman perusteella Merkintä

Satunnaismuuttujat (4/4)

Ehdollinen riippumattomuus (1/2) Ajatellaan sarjaan kytkentää Jos tiedetään ei tieto C:stä vaikuta A:n epävarmuuteen Muuttuja A ja C ovat riippumattomat annettuna muuttuja B Todennäköisyyksillä asia ilmaistaan Merkitään , vaikka taulukot ovat eri dimensiota A C B

Ehdollinen riippumattomuus (2/2) Ehdollinen riippumattomuus on symmetrinen Jos pätee niin käyttämällä Bayesin kaavaa Seuraus Jos pätee , niin A C B

Potentiaalit Todennäköisyystaulukoita nimitetään yleisemmin potentiaaleiksi Esim. , jolloin potentiaalin määrittelyjoukko on Näitä voidaan kertoa ja marginalisoida, kuten edellä nähtiin Tuloksena uusi potentiaali Kertomisella ja marginalisoinnilla tärkeitä ominaisuuksia

Potentiaalien kertominen Olkoon A ja B satunnaismuuttujia Alkioittain pätee Olkoon A, B ja C satunnaismuuttujia

Potentiaalien marginalisointi (1/4) iv) Yksikköpotentiaalille 1 pätee Marginalisointi Merkintä eli “summataan yli A:n” Mariginalisointi järjestys on vaihdettavissa Esim.

Potentiaalien marginalisointi (2/4) Marginalisointia C:n suhteen ei tarvitse tehdä potentiaaleille, joiden määrittelyalueeseen C ei kuulu Esim.

Potentiaalien marginalisointi (3/4) Ehdollistetun muuttujan marginalisointi tuottaa yksikkö potentiaalin Esim. on summa toistensapoisulkevien tapahtumien yli ja toisaalta on varmaa että A saa jonkin arvon, joten

Potentiaalien marginalisointi (4/4) Vaihtoehtoinen merkintä marginalisoinnille V joukko muuttujia, joita “ei summata yli” “Projektoidaan V:lle” Ominaisuudet uudella notaatiolla