Spezialvorlesung (Special Lecture)

Maschinelles Lernen (Machine Learning)
Prof. Dr. Sperschneider, Manuel Blum

• Vorlesungen und Übungen:
  • Dienstag, 12:15 - 13:45, Geb. 101 - SR 01-009/13
  • Mittwoch, 12:15 - 13:45, Geb. 101 - SR 01-009/13
• Kreditpunkte:
  • 6 ECTS
• Sprache:
  • 2013: Englisch (alle 2 Semester im Wechsel mit Englisch)
• Sprechstunde:
  • Dienstags, 11:00 - 12:00, Geb. 079 - 00 009, oder nach Vereinbarung

• Start am Dienstag, 16. April 2013, 12:15
• Übungstermine: 14.5., 15.5., 25.6., 26.6., 9.7., 10.7.
• Termine am 16.7. und 17.7. entfallen, statt dessen abschließende Vorlesung am Freitag, 19.7., 14-16 Uhr
• Gastvortrag: Lena Scheubert, “Using genetic algorithms and SVMs to detect Alzheimer biomarkers”, Freitag 19.7.13, 16-18 Uhr
• Wichtig: Wegen Krankheit entfallen die Vorlesungen am Dienstag, den 11.6. und Mittwoch, den 12.6. Statt dessen gibt es einen zusätzlichen Termin am Montag, den 17.6., 12-14 Uhr
• Am Mittwoch, den 3.7. findet keine Vorlesung statt
• Am Mittwoch, den 10.7. findet keine Übung statt

Die Vorlesung gibt eine Einführung in das Forschungsgebiet Maschinelles Lernen. Behandelt werden Methoden des überwachten, unüberwachten und optimierenden Lernens. Themengebiete sind unter anderem: Lernen im Hypothesenraum, Entscheidungsbäume, neuronale Netze, Case Based Reasoning, …

1. Introduction
   • 01_intro.printer.pdf
2. Concept Learning
   • 02_conceptlearning.printer.pdf
   • haussler1988inductive-bias.pdf
   • vs-complexity.pdf
   • 7_version_show.ppt
3. Decision Trees
   • 03_decisiontrees.printer.pdf
   • g_exponential.pdf
4. Perceptron
   • 04_perceptrons.printer.pdf
   • 08perzeptron.pdf
   • 09toweralgorithmus.pdf
   • 10upstartalgorithmus.pdf
   • sensitivity.pdf
   • falseperceptronlearning.pdf
5. Rosenblatt Perceptron
   • 11rosenblattperzeptron.pdf
6. MLP Theory
   • 05_mlps.printer.pdf
   • 12mlp_theorie.pdf
   • 13mlp_anwendungen.pdf
7. MLP Generalization
   • 06_mlp_generalisation.printer.pdf
   • 14mlp_heuristiken.pdf
   • 15lernbarkeit.pdf
   • 16rechtecklernen.pdf
8. Hopfield Networks
   • hopfield.pdf
9. Boltzmann Networks
   • boltzmann.pdf
10. Support Vector Machines
    • svm.pdf
    • riedmiller_svm.pdf
11. Probabilities, Bayes Learning
    • 07_probabilities.printer.pdf
    • 08_bayes.printer.pdf
    • bayes.pdf
12. Hidden Markov Model Learning
    • hiddenmarkovmodel.pdf
13. Principal Component Analysis
    • pca.pdf
    • blum_pca.pdf
14. Winner Takes All, Clustering
    • wta.pdf
    • 10_wtan.pdf
15. Evolutionary Algorithms
    • evolution.pdf
16. The impact of representation
    • representation.pdf
17. Guest Lecture

• Toy Popularity Prediction Task
• backprop.pdf
• to_know_to_do.pdf (updated 15.7.13)

• Sheet 1: Concept Learning and Decision Trees
  • Solutions
  • ID3 python code
• Sheet 2: Perceptron Learning
  • Solutions
• Sheet 3: Multi-layer Perceptrons
  • Solutions
  • MLP C++ code
• Sheet 4: Hopfield Learning and Boltzmann Learning
  • Hopfield programming assignment
  • Hopfield programming assignment solution
  • Solutions
• Sheet 5: Support Vector Machines
  • Solutions
  • SVM programming assignment solution
• Sheet 6: Probabilities
  • Solutions
• Sheet 7: Winner Takes All
  • Solutions
  • WTA programming assignment
• Sheet 8: PCA
  • Solutions
  • PCA programming assignment
• Sheet 9: Evolutionary Algorithms
  • Solutions
  • EA programming assignment

• Anmeldung übers Prüfungsamt
  • Master, schriftlich, 90 min, Dienstag 20.08.2013, 10:00 - 12:00 Uhr im Gebäude 101, Seminarraum 010/14
  • Bachelor, mündlich, jeweils 30 Minuten, Einzelprüfungen, 19.08., 20.08 in Raum 079/00009