FY835: Informationsteori, inferens og læringsalgoritmer

Kurset har til formål at give den studerende en introduktion til specielt informationsteori, men også Bayesiansk inferens og neurale netværk, og vise hvordan disse emner er forskellige sider af samme sag.

Informationsteori spiller en stor rolle i statistisk fysik som den matematiske teori for entropi, og inferens og maskinlæring er centrale for bl.a. analyse af eksperimentelle data. Kurset kan derfor finde anvendelse i projekter i resten af uddannelsen.

I forhold til uddannelsens kompetenceprofil har kurset eksplicit fokus på:

• forskningsbaseret viden om fysikkens grundlæggende teoridannelser og eksperimentelle metoder.
• at beskrive, formulere og formidle problemstillinger og resultater til såvel fagfæller som ikke-specialister, samarbejdspartnere og brugere

Læringsmålet for kurset er, at den studerende demonstrerer evnen til at:

• Selvstændigt tilegne sig den viden om informationsteori, inferens og maskinlæring der er beskrevet under Indhold
• Præsentere teori og opgaver
  
• Anvende den tillærte viden indenfor et selvvalgt emne (afsluttende projekt)

Kurset indeholder følgende faglige hovedområder:

• Fortolkning af sandsynlighed
• Modeludvælgelse og parameterfitning
• Shannon-entropi
• Datakomprimering
• Kommunikation over støjfyldte kanaler
• Monte Carlo metoder
• Neurale netværk

På naturvidenskab er undervisningen tilrettelagt efter trefasemodellen dvs. intro, trænings- og studiefasen.

• Introfase (videoforelæsninger) - Antal timer: ca. 16
  
• Træningsfase: Antal timer: 30, i form af møder med underviser.

Undervisningen er hovedsageligt bygget op omkring en række videoforelæsninger, studie af lærebog og løsning af opgaver. En gang om ugen er der møde med underviser, hvor videoforelæsninger og lærebogsmateriale diskuteres, og opgaver gennemgås.

Aktiviteter i studiefasen:

• Studie af lærebog
• Løsning af opgaver
• Forberedelse af fremlægninger
• Udførelse af afsluttende projekt