Machine learning og bioinformatik

Hjælpe politiet med at forudse 3 gerningsmænds øjenfarve

Forestil dig, at politiets efterforskere sender dig DNA-materiale fra 3 forskellige forbrydelser. Du har derefter behandlet DNA-sporene og undersøgt dem for mutationer, som bestemmer øjenfarven. Nu skal du lave en ML-model, der kan forudse gerningsmændenes øjenfarve.

DNA-fænotyping: fra DNA til gerningsmand

DNA-fænotyping er at bruge DNA til at forudsige, hvordan en person ser ud.  Har politiet fundet et DNA-spor som ikke matcher tidligere gerningsmænd i deres database, kan de bruge DNA-fænotyping til at få information om gerningsmandens udseende. Det svarer til politiets fantomtegninger, men her laves tegningen ud fra DNA sporets information.

I dette modul skal du

• læse om hvorfor øjne har forskellige farver
• læse om forskellen på statistisk og Machine Learning
• lave et program i Orange
• træne din ML-model
• teste din ML-model
• forudse øjenfarven for de 3 DNA-spor, du har modtaget
• undersøge hvilke mutationer ML-modellen bruger til forudsigelser

Melanin i øjnene bestemmer øjenfarven

Dit DNA bestemmer, hvor meget af farvestoffet melanin, der dannes i de forreste lag i din øjne. Der er flere gener, som koder for produktionen af melanin.

Nogle mennesker har mutationer i de gener, som koder for melanin. Derfor har de nedsat eller ingen melanin i øjnene, og øjnene er grønne eller blå.

I dette modul skal vi lave en Machine Learning model, som kan forudse øjenfarve ud fra mutationer i de gener, som styrer produktionen af melanin.

I matematik har du lært at lave statistik. Du kan beregne gennemsnittet af kvinders højde eller lave et boksplot, som viser fordelingen af højder. Du kender også sandsynligheds regning, som du kan bruge til at forudse sandsynligheden for, at en tilfældig person er 172 cm høj eller har blå øjne.

Machine learning går skridtet videre. Her kan du ud fra nogle oplysninger om personen, forudse andre egenskaber. Computeren undersøger data om mange personer og laver en model ud fra data. Når modellen derefter fordres med data om en ny person, kan den f.eks. forudse personens øjenfarve..

Statistik

I statistik beskriver man data med frekvens, middelværdi, spredning og andre statistiske deskriptorer. F.eks. kan øjenfarven for befolkningen i Danmark beskrives i en tabel med frekvensen for hver øjenfarve.

Sandsynlighedsregning

Her kan vi besvare spørgsmål af typen:

• Hvor stor er sandsynligheden for, at en tilfældigt valgt person i Danmark har blå øjne?
• Hvor stor er sandsynligheden for, at en blåøjet mor og en brunøjet far får et blåøjet barn?

Svaret på det første spørgsmål er “sandsynligheden for at en tilfældigt valgt person har blå øjne er 70%”. Sandsynlighedsregning bygger ofte videre på statistikken. Man skal først observere mange personers øjenfarve = statistik, før man har en sandsynlighed for, at en persons øjenfarve er blå.

Korrelationer i statistik

Ofte undersøger man sammenhængen mellem 2 hændelser, f.eks. sammenhængen mellem mutationer i vores DNA og øjenfarve. Hvis alle eller næsten alle med blå øjne også har den samme mutation i DNA, siger man, at der er en sammenhæng. Sammenhængen kalder man en korrelation.

Korrelation forklarer ikke sammenhængen mellem hændelser. Kun at de to hændelser optræder hos de samme mennesker. Hvis mutation A giver blå øjne og mutation B giver lys hud, vil vi ofte se, at personer med blå øjne også har mutation B, selv om mutation B ikke påvirker øjenfarven.

Genome-wide association study (GWAS)

Søger man efter den genestiske årsag til en sygdom eller f.eks. øjenfarve, skal man først finde de DNA-mutationer, som optræder sammen med sygdommen. Man finder altså korrelationer (associations) mellem bestemte mutationer i DNA’et og den hændelse, at personen har en bestemt egenskab eller sygdom.

Korrelationerne hjælper med at finde de mutationer, som kan være årsag til sygdommen. Man skal derfor undersøge færre mutationer for at finde årsagen til sygdommen, da man kun behøver at undersøge betydningen af de mutationer, der optræder sammen med sygdommen.

Med resultaterne fra GWAS kan man igen svare på sandsynlighedsspørgsmål, f.eks. hvor stor er sandsynlighed for, at en tilfældig person med mutation A, B og C har blå øjne.

Machine Learning

I Machine Learning (ML) går vi skidtet videre. Med Machine Learning vil vi gerne kunne forudse om en bestemt person har en bestemt sygdom eller en bestemt egenskab f.eks. øjenfarve. I ML træner man en ML-model på en computer med DNA-data for nogle personer, hvor øjenfarven også er kendt.

Efter træning af ML-modellen, kan den forudse en persons øjenfarve, når ML-modellen får DNA-data om en person. Finder politiet et DNA-spor fra en gerningsmand, kan man derfor forud se gerningsmandens øjenfarve f.eks. blå øjne og dermed udelukke alle mistænkte med brune øjne.

ML-modeller kan bruge mange forskellige metoder. Nogle metoder kan vi forstår og i princippet regne efter i hånden. Det gælder kNN og SVM, som vi brugte i 1. modul. Andre ML-modeller kalder vi black-boks, fordi vi ikke kan forstå præcis, hvordan ML-modellen når frem til resultaterne ud fra træningsdata. Det gælder f.eks. Neurale netværk.

Opgave 1

Svar på følgende spørgsmål:

• Hvilken øjenfarve har du?
• Hvilken hårfarve har du?
• Er dine øreflipper fastgroede eller frie?
• Er du højrehåndet, venstrehåndet eller lige god til at bruge venstre og højre hånd?
• Hvilken af dine tær er længst? Fx. storetåen eller nr. 2 tå.
• Har du fregner?
• Har du kløftet eller ikke kløftet hage?

Opgave 2

Denne øvelse laver I fælles i klassen – du skal bruge dine svar fra øvelse 1

Genetisk mutationer

Du har to kopier af hvert gen i dit DNA. Den ene kopi af genet har du arvet fra din mor og den anden fra din far. Har du en mutation, kan mutationen findes enten i den ene kopi eller i begge kopier af genet. Har du arvet mutationen fra begge forældre, har du altså den samme mutation i begge kopier af genet.

I det datamateriale, du skal arbejde med, er mutationerne navngivet med rs efterfulgt af 8 tal. Hver række svarer til en person. Label angiver øjenfarve for personen. For hver person angives om mutationen findes i ingen (0), den ene (1) eller begge kopier (2) af genet.

I den første opgave skal du undersøge, hvilke mutationer, som optræder oftere hos personer med blå øjne eller hos personer med brune øjne.

Opgave 1: indlæs DNA-data om mutationer, samt øjenfarve

Download først filen “gendata” til din computer.

Åben et nyt workflow i programmet Orange.

• Tilføj “CSV File Import” fra paletten “Data”
• Dobbelt klik “CSV File Import” og vælg filen “gendata.csv” – er vedhæftet nederst på denne side
• Vælg “Semicolon” ud for “Cell delimiter”
  
• Marker alle kolonner og vælg “Categorical” ud for “Column type”
  
• Klik ok
• Du kan altid komme tilbage til dette vindue ved at klikke på “Import Options…” i “CVS File Import“-vinduet.
• Husk at gemme dit workflow, så du ikke mister det, du har lavet

Opgave 2: Statistik over mutationer

• Tilføj “Distributions” fra paletten “Visualize”
• Forbind “CSV File Import” og “Distributions”
  
• Dobbelt klik på “Distributions”
• I Distributions-vinduet kan du undersøge fordelingen for antallet af mutationer for de forskellige gener. Her kan du se fordelingen for mutationen rs12913832. Der er lidt mere end 100 personer som har mutationen på begge kopier af genet, og lidt færre end 20 personer som ingen mutationer har på dette gen.
  
• Undersøg de forskellige mutationer på listen

Opgave 3: Sammenhængen mellem mutationer og øjenfarve

• Nederst i Distributions-vinduet sættes “Split by”  til “label”
  
• Nu skal du undersøge alle mutationerne og se om mutationerne optræder forskelligt for de forskellige øjenfarver. Vælg én mutation, 1 efter 1, og noter de mutationer, hvor der er stor forskel på de 3 øjenfarver
  
• Noter hvilke mutationer, der kan være med til at bestemme øjenfarven = er forskelligt fordelt
  – noter de 3 du synes ser mest betydningsfulde og diskuter jeres resultater i klassen

Forudsigelse af øjenfarve vha. DNA-spor

Først skal du træne en Machine Learning model, som du kan bruge til at forudse øjenfarve ud fra nye DNA-spor.

Opgave: Træning af modellen

Åben dit workflow fra aktivitet “2.4 – Øjenfarve go mutationer”

• Tilføj “Select Columns” fra paletten “Transform”
• Forbind “CSV File Import” og “Select Columns”

• Dobbelt klik på “Select Columns”
• I “Select Columns”-vinduet flyttes “label” til Target-feltet – dermed har du valgt at modellen skal trænes til at forudse øjenfarve – luk vinduet
  
• Tilføj “Tree” fra paletten “Model“
• Forbind “Select Columns” og “Tree”

Hvordan virker en træ-model

I 1. modul arbejdede du med ML-modellerne kNN og SVM. I dette modul bruger du Decision Tree (beslutningstræ). Det passer bedre til de data vi har her, da alle features har værdierne 0, 1 eller 2.

Træ-modeller deler træningsdatasættet i mindre og mindre grupper, indtil alle eller næsten alle i gruppen har sammen label. Her deler vi ud fra mutationerne, indtil alle i en gruppe har samme øjenfarve.

For hver mutation udregner træ-modellen, hvor stor procentdel der har brun, blå og anden øjenfarve. For rs12913832 kan du se i tabellen at både 0 og 1 mutation stort set kun forekommer for brun og anden øjenfarven. Godt halvdelen med 2 mutationer har blå øjne.

Træ-modellen deler derfor personerne i 2 grupper. Dem med 0 og 1 mutation (mest brune og andet) , og dem med 2 mutationer (fleste med blå). Derefter undersøges de 2 grupper hver for sig. Og grupperne deles i mindre grupper vha. de mutationer for andre gener.

Illustration af Decision Tree

Træ-modellen vises som et omvendt træ, hvor man begynder øverst. I den øverst boks vises at 43,5% af de 200 personer i datasættet har brune øjne. Derefter deles datasættet ud fra mutationen rs12913832. Den ene gruppe består af 81 personer med 0 eller 1 mutation på rs12913832. Af dem har  79% brune øjne. Af de 119 med 2 mutationer har 52% blå øjne.

Når man bruger modellen til forudsigelser, følger man træet fra top til bund. Hvis vi begynder med en person med 1 mutation på rs12913832, går vi til højre i træet. Da der står “Brown” på højre boks vil vi forudse at personen med 79% sikkerhed har brune øjne.

Tag et skærmbillede af dit workflow i Orange, hvor man kan se, hvordan dit program ser ud nu. Sæt billedet ind i dine noter, så du kan finde tilbage til hvordan programmet så ud, og du kan vise det til din lærer.

Forudsigelse af øjenfarve vha. DNA-spor

Nu skal du teste din Machine Learning model for at se, hvor god den er til at forudse øjenfarve ud fra DNA-spor.

Opgave: test din Machine Learning model

• Tilføj “Predictions” fra paletten “Evaluate”
• Forbind “Select Columns” til “Predictions”
• Forbind “Tree” til “Predictions”
  
• Dobbelt klik på “Predictions” og undersøg, hvor god modellen er til at forud se øjenfarve
  – gør det samme som i aktivitet “1.2.6 – Test din ML-model” i 1. modul.
• Svar på spørgsmålene nedenfor ud fra “Predictions”-vinduet
  • Hvilken øjenfarve forudser modellen for person nr. 1?
  • Hvilken sikkerhed giver modellen for denne forudsigelse af øjenfarven for person nr. 1?
  • Hvilken øjenfarve forudser modellen for person nr. 15?
  • Hvilken sikkerhed giver modellen for denne forudsigelse af øjenfarven for person nr. 15?
  • Er forudsigelsen for person nr. 15 korrekt?

Nu er du klar til at hjælpe politiet

Vi har 3 forskellige DNA-spor fra 3 forskellige forbrydelser. Du skal forudse øjenfarve i alle 3 sager og angive hvor sikker modellen er i forudsigelserne.

Retsmedicinsk institut laver analyser for politiet. De kan f.eks. hjælpe politiet med at bestemme alder, øjen-, hår- og hudfarve, samt etnisk oprindelse. Når politiet afleverer et DNA-spor fra en gerningsmand til analyse, kan de få disse oplysninger om gerningsmandens udseende.

Det er også vigtigt at beregne, hvor sikker modellen er i forudsigelsen af f.eks. øjenfarve. Hvis modellen er meget usikker på øjenfarven, kan politiet ikke bruge oplysningen som bevis i en retssag.

Opgave: Bestem gerningsmandens øjenfarve

Vi vil bruge den trænede model til at forudse gerningsmændenes øjenfarver. Du har modtaget DNA-sporene i en csv-fil. Du kan downloade filen her: DNA_spor_farve.

Du skal fortsætte i det workflow, du har lavet i 2.5.3

• Tilføj “CSV File Import” fra paletten “Data”
• Dobbelt klik på “CSV File Import” og indlæs det DNAsporet i filen “DNA spor farve.csv” – husk at vælge “Semicolon” i “Cell delimiter” og “Categorial” i “Column Type”
• Tilføj “Select Columns” fra paletten “Transform”
• Forbind “CSV File Import” og “Select Columns”
• Dobbelt klik på “Select Columns”
• I “Select Columns”-vinduet flyttes alle DNA-data til Features-feltet

Nu er du klar til at bestemme øjenfarven

• Tilføj “Predictions” fra paletten “Evaluate”
• Forbind “Select Columns” til “Predictions”
• Forbind “Tree” fra den tidligere opgave til den nye “Predictions”
• Dobbelt klik på den nye “Predictions”
• I Predictions-vinduet skal du vælge “Classes known to the model”
  
  gøre Tree-kolonnen bredere så du kan se sandsynlighederne
• Hvilken øjenfarve forudser modellen for de 3 DNA-spor?
• Hvilke sandsynligheder angives for de 3 mulige øjenfarver?

Noter svarene og sammenlign i klassen

Sådan ser dit workflow ud nu

White box og Black box modeller i Machine Learning

Nogle Machine Learning modeller kan vi undersøge og forstå, hvordan de når frem til et bestemt svar. Vi kalder dem White Box modeller. kNN og SVM modellerne fra 1. modul er White Box modeller, fordi vi kan undersøge placeringen af træningsdata i et koordinatsystem, og hvor de forskellige kategorier er placeret i koordinatsystemet.

Neurale Netværk kan ikke analyseres på samme måde og vi kalder dem derfor for Black Box modeller. De bruges ofte til billedegenkendelse – f.eks. når computeren skal afgøre, om der er et ansigt på et foto.

I dette modul bruger du Decision Tree (beslutningstræ). Det passer bedre til de data vi har her, da alle features har værdierne 0, 1 eller 2. Træ-modeller er også White Box. I træ-modellen deles data i grupper ud fra forskellige features, så man hver gang får delt træningsdata bedst muligt i forhold til de kategorier man skal forudse.

Hvordan virker en træ-model?

Træ-modeller deler træningsdatasættet i mindre og mindre grupper, indtil alle eller næsten alle i gruppen tilhører samme kategori. Her deler vi ud fra mutationerne, indtil alle i en gruppe har samme øjenfarve.

For hver mutation udregner træ-modellen, hvor stor procentdel der har brun, blå og anden øjenfarve. For rs12913832 kan du se i tabellen, at både 0 og 1 mutation stort set kun forekommer for brun og anden øjenfarven. Godt halvdelen med 2 mutationer har blå øjne.

Træ-modellen deler derfor personerne i 2 grupper. gruppen med 0 og 1 mutation (mest brune og andet) , og gruppen med 2 mutationer (fleste med blå). Derefter undersøges de 2 grupper hver for sig. Og grupperne deles i mindre grupper vha. mutationer for andre gener.

Illustration af Decision Tree

Træ-modellen vises som et omvendt træ, hvor man begynder øverst. I den øverst boks vises at 43,5% af de 200 personer i datasættet har brune øjne. Derefter deles datasættet ud fra mutationen rs12913832. Den ene gruppe består af 81 personer med 0 eller 1 mutation på rs12913832. Af dem har  79% brune øjne. Af de 119 med 2 mutationer har 52% blå øjne.

Når man bruger modellen til forudsigelser, følger man træet fra top til bund. Hvis vi begynder med en person med 1 mutation på rs12913832, går vi til højre i træet. Da der står “Brown” på højre boks vil vi forudse, at personen med 79% sikkerhed har brune øjne.

Opgave 1: forstå hvilke gener som bruges i forudsigelsen af øjenfarven

Åben dit workflow fra aktivitet 2.5.4

• Tilføj “Tree Viewer” fra paletten “Visualize”
• Forbind “Tree” og “Tree Viewer”
• Dobbelt klik på “Tree Viewer”
• I vinduet “Tree Viewer” kan du undersøge hvilke mutationer modellen bruger til at forudse øjenfarve.
  De små cirkler viser fordelingen af øjenfarver i denne gruppe.
  
• Indstil Depth til “2 levels”.
• Hvilken mutationer bruger modellen til at forudse øjenfarven?
• Indstil Depth til “3 levels”.
• Hvilke ekstra mutationer bruger modellen nu til at forudse øjenforfarven?

Opgave 2

Om en person får du følgende information:

• rs12913832 har 1 mutation
• rs11800407 har 2 mutationer

Hvilken øjenfarve forudser modellen?

Hvilken sandsynlighed giver modellen for denne øjenfarve?

Du får nu den ekstra information, at rs7170852 har 0 mutationer.
Ændrer denne oplysning på modellens forudsigelse?