Titel des Moduls: Maschinelles Lernen 1 Verantwortlicher für das Modul: Müller
Sekr.: FR 6-9
LP (nach ECTS): Kurzbezeichung: 9 MINF-IS-ML1.W12 Email:
[email protected]
Modulbeschreibung 1. Qualifikationsziele Am Ende der Veranstaltung sind die Teilnehmer in der Lage, eigenständig die wesentlichen Verfahren des maschinellen Lernens auf neuen Daten anzuwenden. Dies umfasst Methoden zur Klassifikation, Regression, Dimensionsreduktion und Clustering. Darüberhinaus vermittelt die Veranstaltung das theoretische Rüstzeug (Wahrscheinlichkeitstheorie, Optimierungstheorie), um Verfahren weiterzuentwickeln und theoretisch zu analysieren. In der Wahlpflichtveranstaltung kann der Teilnehmer je nach Vorkenntnissen und Interessen folgende Schwerpunkte wählen: Matlab Programmierung für Maschinelles Lernen und Datenanalyse: dieser Kurs vermittelt das praktische Rüstzeug zur Entwicklung, Anwendung und Untersuchung von Verfahren des Maschinellen Lernens. Mathematische Grundlagen für Maschinelles Lernen: dieser Kurs wiederholt, vertieft und spezialisiert die mathematischen Kenntnisse aus den Grundlagen Modulen des Informatik Studiums. Seminar Maschinelles Lernen: im Seminar wird das selbstständige Einarbeiten und Präsentieren von Wissenschaftlichen Ergebnissen geübt Die Veranstaltung vermittelt überwiegend Fachkompetenz 50% Methodenkompetenz 40% Systemkompetenz 0% Sozialkompetenz 10% 2. Inhalte Grundlagen der Wahrscheinlichkeitstheorie, Schätztheorie (Maximum-Likelihood, EM-Algorithmus). Grundlegende Methoden des maschinellen Lernens: Dimensionsreduktion (PCA, ICA), Clustering (Agglomeratives Clustering, K-Means Clustering), überwachtes Lernen (Least-Squares Regression, LDA, SVM, Ridge Regression, Gaußprozesse) Je nach Wahlpflichtveranstaltung: Vertiefung in ein spezielles Anwendungsgebiet oder Lernproblem (Seminar), Datenanalyse in Matlab (Kurs) oder Mathematische Grundlagen (Kurs). Das Seminar „Classical Topics in Machine Learning“ findet jedes Semester statt, darüber hinaus werden in unregelmäßigen Abständen spezielle Seminare angeboten; die Modulbeschreibung wird dementsprechend ergänzt. 3. Modulbestandteile LV-Titel Maschinelles Lernen 1 Matlab Programmierung für Maschinelles Lernen und Datenanalyse Diplomanden- und Doktorandenseminar
LV-Art SWS
LP (nach ECTS)
Pflicht(P) / Wahlpflicht(WP)
Semester (WiSe / SoSe)
IV
4
6
P
WiSe
KU
2
3
WP
WiSe und SoSe
SE
2
3
WP
WiSe und SoSe
Classical Topics in Machine Learning Mathematische Grundlagen für Maschinelles Lernen Machine Learning for Intelligent Robots
SE
2
3
WP
WiSe
KU
2
3
WP
WiSe und SoSe
SE
2
3
WP
Unregelmäßig
Feature Selection
SE
2
3
WP
Unregelmäßig
Halbüberwachtes Lernen
SE
2
3
WP
Unregelmäßig
Lernen unter Nichtstationaritäten
SE
2
3
WP
Unregelmäßig
Moderne Verfahren des Maschinellen Lernens: Kausalanalyse Learning on Structured Data Regression and Optimization Methods in Robotics Dimensionsreduktion
SE
2
3
WP
Unregelmäßig
SE
2
3
WP
Unregelmäßig
SE
2
3
WP
Unregelmäßig
SE
2
3
WP
Unregelmäßig
Bayes-Verfahren im Maschinellen Lernen
SE
2
3
WP
Unregelmäßig
Boosting and Model Averaging
SE
2
3
WP
Unregelmäßig
Machine Learning for Computer Vision
SE
2
3
WP
Unregelmäßig
Brain-Computer-Interfacing
SE
2
3
WP
Unregelmäßig
Representations in Machine Learning
SE
2
3
WP
Unregelmäßig
Kernels for Structured Data
SE
2
3
WP
Unregelmäßg
Maschinelles Lernen in der IT-Sicherheit
SE
2
3
WP
Unregelmäßig
Singular Learning Theory
SE
2
3
WP
Unregelmäßig
4. Beschreibung der Lehr- und Lernformen Die Veranstaltung besteht aus einem Vorlesungsteil (Frontalunterricht vor allen Teilnehmern zur Vermittlung des Stoffes) und einem Anteil praktischer Arbeit. Letztere besteht aus dem selbstständigen Bearbeiten von Übungsaufgaben. Der Kurs besteht aus einer mehrtägigen Blockveranstaltung, in der gemeinsam unter Anleitung Übungsaufgaben bearbeitet werden. Die Seminarvorträge werden unter Anleitung eines Betreuers erarbeitet und in einem Blockseminar präsentiert und diskutiert. 5. Voraussetzungen für die Teilnahme Programmierkenntnisse, gute Grundlagen in Mathematik, insbesondere Lineare Algebra, Analysis, Wahrscheinlichkeitsrechnung. Der Kurs „Mathematische Grundlagen des Maschinellen Lernens“ bietet eine kompakte Einführung bzw. Auffrischung dieser Themen. Dieses Modul ist auch für Bachelor Studenten geeignet. 6. Verwendbarkeit Masterstudiengang Informatik / Studienschwerpunkt Intelligente Systeme Masterstudiengang Technische Informatik / Studienschwerpunkt Informationssysteme. Masterstudiengang Technische Informatik StO/PO 2012: -Studienschwerpunkt Digitale Medien (Digital Media; Elektrotechnik oder Technische Informatik) -Studienschwerpunkt Mensch- Maschine- Interaktion und Design ( Human- Computer Interaction and Design; Technische Informatik) -Studienschwerpunkt Kognitive Systeme (Cognitive Systems and Robotics; Informatik) -Studienschwerpunkt: Informationssysteme (Information Systems; Informatik) Master Elektrotechnik (Studienschwerpunkt Informationstechnologie). Service-Veranstaltung für andere Studiengänge (vor allem aus dem natur- und ingenieurwissenschaftlichen Bereich und der Mathematik) 7. Arbeitsaufwand und Leistungspunkte LV-Art Maschinelles Lernen 1: Präsenz Nachbearbeitung Übungsblätter Prüfungsvorbereitung Zwischensumme Matlab für Machine Learning und Datenanalyse Präsenz Nachbearbeitung Literaturrecherche Übungsblätter
Berechnung
Stunden
15*4 15*2 15*4
60 30 60 30 180 = 6 LP
15*2
30 10 10 10
Prüfungsvorbereitung Zwischensumme Mathematische Grundlagen für Maschinelles Lernen Präsenz Nachbearbeitung Literaturrecherche Übungsblätter Prüfungsvorbereitung Zwischensumme Maschinelles Lernen Seminar: Präsenz Literaturrecherche Lesen Vortragsausarbeitung Zwischensumme Summe
30 90 =3 LP 15*2
30 10 10 10 30 90 = 3 LP
15*2
30 15 15 30 90= 3 LP 270 = 9 LP
8. Prüfung und Benotung des Moduls Die Modulprüfung ist eine schriftliche Klausur. Wiederholungsprüfungen sind mündliche Prüfungen. Voraussetzungen für die Teilnahme an der Modulprüfung: 1. 50% der Übungen in der Integrierten Veranstaltung; und 2. je nach Wahlpflichtkomponente: a. bestandene schriftliche Prüfung im Kurs „Matlab Programmierung ...“ b. bestandene schriftliche Prüfung im Kurs „Mathematische Grundlagen...“ c. erfolgreiche Präsentation in einem Seminar 9. Dauer des Moduls 1 Semester 10. Teilnehmer(innen)zahl Keine Teilnehmerbeschränkung. 11. Anmeldeformalitäten Keine. 12. Literaturhinweise, Skripte
Skripte in Papierform vorhanden Skripte in elektronischer Form vorhanden
nein nein
Literatur: Folgene Bücher geben eine umfassende Einführung in den Bereich des Maschinellen Lernens. • Christopher M. Bishop (2006) Pattern Recognition And Machine Learning , Springer. • Richard O. Duda, Peter E. Hart, David G. Stork (2001) Pattern Classification , Wiley (2. Auflage). • Trevor Hastie, Robert Tibshirani, Jerome Friedman (2001) The Elements of Statistical Learning, Springer. Folgende Bücher geben eine umfassende Einführung in die Wahrscheinlichkeitstheorie und in die Statistik. • G. Bamberg, F. Baur (2006) Statistik, Oldenbourg-Verlag, 12. Auflage • Fahrmeir, R. Künstler, I. Pigeot, G. Tutz (2004) Statistik , Springer, 5. Auflage • L. Wasserman (2004) All of Statistics, Springer Die wichtigsten Gleichungen für das Rechnen mit Matrizen und insbesondere die Ableitungsregeln für höherdimensionale Funktionen findet man hier: • K. B. Petersen, M. S. Pedersen (2007) The Matrix Cookbook. Technical University of Denmark 13. Sonstiges Die Vorlesung wird jeweils zum Wintersemester angeboten.