FY835: Informationsteori, inferens og læringsalgoritmer

BEMÆRK at kursets undervisningsform er speciel – se uddybende beskrivelse af undervisningsformer nedenfor.

Kurset har til formål at give den studerende et kendskab til den Bayesianske måde at tænke på og løse inferensproblemer, samt tankerne bag informationsteori (Bayesiansk inferens er en metode hvor almindelig sandsynlighedsteori udvides til at kunne vurdere f.eks. plausibilitet af hypoteser, og udgør dermed et alternativ til frekventistisk statistik. Informationsteori omhandler effektiv lagring og kommunikation af data).

Kurset giver et fagligt fundament for at anvende Bayesianske metoder til at analysere data, som f.eks. kan være opnået via eksperimenter, simuleringer eller registreringer. Dette kan bl.a. anvendes i projekter i resten af uddannelsen. Kurset givet også et kendskab til sammenhængen mellem informationsteori og begrebet entropi i statistisk fysik.

I forhold til uddannelsens kompetenceprofil har kurset eksplicit fokus på at:

• forskningsbaseret viden om fysikkens grundlæggende teoridannelser og eksperimentelle metoder.
• beskrive, formulere og formidle problemstillinger og resultater til såvel fagfæller som ikke-specialister, samarbejdspartnere og brugere

Læringsmålet for kurset er, at den studerende demonstrerer evnen til at:

• Selvstændigt tilegne sig den viden om Bayesiansk inferens og informationsteori der er beskrevet under Indhold
• Løse opgaver om fitting af parametre og modeludvælgelse
• Præsentere teori og opgaver
• Anvende den tillærte viden indenfor et selvvalgt emne (afsluttende projekt)

Kurset indeholder følgende faglige hovedområder:

• Fortolkning af sandsynlighed
• Modeludvælgelse
• Fitning af parametre
• Bayes’ sætning
• Shannon entropi
• Kodningsteori

På naturvidenskab er undervisningen tilrettelagt efter trefasemodellen dvs. intro, trænings- og studiefasen.

• Introfase (forelæsninger, holdtimer) - Antal timer: 16
  
• Træningsfase: Antal timer: 15, indeholdende 15 timer eksaminatorer

Undervisningsformen er bygget op omkring at det er de studerende der skal præsentere stoffet for hinanden. Til hver dobbelttime vil der typisk være 5-6 studerende der hver bruger ca. 10-15 minutter på at fremlægge et afsnit eller opgave fra lærebogen. Imellem dobbelttimerne står underviserne til rådighed hvis de der skal fremlægge, har spørgsmål til deres stof eller opgave. På grund af det ekstra arbejde med at forberede fremlæggelserne er antallet af klassetimer mindre end sædvanligt.

Aktiviteter i studiefasen:

• Studie af lærebog
• Løsning af opgaver
• Forberedelse af fremlægninger
• Udførelse af projekt