Der EM-Algorithmus,
CoLi, Universität des Saarlands, Wintersemester 2001/2002
zweistündige Vorlesung des 2. Studienabschnitts
Leitung:
Detlef Prescher, Language Technology Lab, DFKI GmbH.
Voraussetzungen:
etwas Analysis und Wahrscheinlichkeitsrechnung wird hilfreich sein
Schein (2 Punkte):
Mündliche Prüfung am DI 19. März 2002, 9-11 (Anmeldung
bis FR 15. Februar 2002)
Zeit:
Do 9-11
Ort:
Bau 17.2, Seminarraum
Beginn:
Do 25.Oktober 2001 (Vorbesprechung)
Inhalt:
In dieser Vorlesung soll der EM-Algorithmus
(Erwartungswert-Maximierungs-Algorithmus) vorgestellt werden, um zu
zeigen, dass die wohl wichtigsten stochastischen Modelle der
maschinellen Sprachverarbeitung (die n-gram Modelle, die
Markov-Modelle, die Hidden-Markov-Modelle, die Baumbank-Grammatiken
und die probabilistischen kontextfreien Grammatiken) einfache
Instanzen des EM-Algorithmus sind. Wenn wir zeitlich dazu kommen
sollten, werden wir zeigen, dass sich zu diesen Modellen noch ein
probabilistisches Klassifizierungsverfahren für mehrdimensionale
linguistische Datentypen, lexikalisierte probabilistische kontextfreie
Grammatiken, sowie die auf log-linearen Modellen basierenden
stochastischen unifikationsbasierten Grammatiken gesellen werden. In
Abwandlung eines bekannten Zitats sollte die Welt daher nicht als
endlicher Automat, sondern als ein EM-Algorithmus angesehen werden.
Literatur:
Die Vorlesung folgt in grossen Teilen der Darstellung in:
Die für die Vorlesung wichtigsten Abschnitte sind (in der Reihenfolge,
in der sie in der Vorlesung bearbeitet wurden):
Ergänzende Literatur wird in der Vorlesung bekanntgegeben.
Sonstiges:
Last updated: March 2002.