Institute for Numerical Simulation
Rheinische Friedrich-Wilhelms-Universität Bonn
maximize

Vorlesung im Sommersemester 2016:

Wissenschaftliches Rechnen II (V3E2/F4E1)

Prof. Dr. Jochen Garcke

Assistent: Sebastian Mayer

Mitteilungen

Announcements

Termine für die mündliche Prüfung

Am 21. und 22. September findet die zweite Runde der mündlichen Prüfungen statt. Für einen Termin, bitte in die Wegelerstr. 6, Raum 6.003 kommen. Dort hängt neben der Tür die Liste der Termine. Bitte für einen Termin eintragen, und auf der Teilnehmerliste unterschreiben. Die Anmeldung muss spätestens eine Woche vor den Prüfungen geschehen sein.
Die Prüfungen finden alle in Raum 6.003 in der Wegelerstraße 6 statt.

Dates for oral examination

On 21st and 22nd of September the second round of oral exams will take place. For a date and time, please come to Room 6.003 in Wegelerstraße 6. Next to the door is a list of dates, please enter your name in one of the slots, and also sign your name on the sheet called "Teilnehmerliste". The registration for the oral exam has to take place at least a week before the exams.
The exams will take place in Room 6.003 in Wegelerstraße 6.

  

Blatt 8, H3 zählt nicht für die Hausaufgabenpunkte

Aufgabe H3 von Blatt 8 wird bei der Ermittlung der Hausaufgabenpunkte für die 50%-Regel nicht berücksichtigt.

Sheet 8, H3 excluded from homework grading

Exercise H3 from Sheet 8 will be disregarded for the 50 % rule.

Literatur

Literature

  • Lecture notes (password-protected; last update: September 08 2016)
    by now proof-read and checked against my hand written notes, some errors will still be there.
  • John A. Lee and Michel Verleysen
    Nonlinear dimensionality reduction
    Springer, New York.
  • Carl Edward Rasmussen and Christopher K. I. Williams
    Gaussian Processes for Machine Learning
    (Link to the book's homepage)
  • Robert Schaback and Holger Wendland
    Kernel techniques: From machine learning to meshless methods
    (Link to online article available from the university network)
  • Bernhard Schölkopf and Alexander J. Smola
    Learning with Kernels
    The MIT Press, Cambridge
  • Gregory E. Fasshauer
    Meshfree Approximation Methods with MATLAB
    World Scientific
  • Robert Schaback
    Lecture Notes on Kernel-Based Meshless Methods
  

Zeiten und Ort

Dates and Location

Die Vorlesung findet wöchentlich Dienstags, 10(c.t) - 12 Uhr sowie Donnerstags, 8(c.t) - 10 Uhr im Zeichensaal, Wegelerstr. 10 statt. Erster Termin ist Dienstag, 12.04.2016.

Siehe auch die Veranstaltungsseite im elektronischen Vorlesungsverzeichnis BASIS .

Extra- und Ersatztermine werden hier gesondert angekündigt.
The lecture takes place Tuesdays, 10am(c.t) - 12am as well as Thursdays, 8am(c.t) - 10am in the lecture hall Zeichensaal, Wegelerstr. 10. The first lecture will be on Tuesday, April 12th 2016.

See also the lecture's page in the online course catalog BASIS .

Extra and alternative dates will be announced here on this site.
  

Übungen

Exercises

Gruppe 1: Donnerstags, 12 - 14 Uhr, Raum We6 5.002
Gruppe 2: Freitags, 14 - 16 Uhr, Raum We6 5.002

Siehe auch hier (BASIS).
Group 1: Thursdays, 12am - 2pm, Room We6 5.002
Group 2: Fridays, 2pm - 4pm, Room We6 5.002

See also here (BASIS).
  

Übungensblätter/Exercise sheets

No.SheetNotebookSolutions
1 sheet1.pdf sheet1-notebook.ipynb (preview)
2 sheet2.pdf sheet2-notebook.ipynb (preview) Group exercises
3 sheet3.pdf Group exercises
4 sheet4.pdf Group exercises
5 sheet5.pdf sheet5-notebook.ipynb (preview) Group exercises, Notebook (preview)
6 sheet6.pdf sheet6-notebook.ipynb (preview) Group exercises
7 sheet7.pdf sheet7-notebook.ipynb (preview), wissrech2.py, training data, test data Group exercises, Notebook 7
8 sheet8.pdf Group exercises
9 sheet9.pdf Group exercises
10 sheet10.pdf sheet10-notebook.ipynb (preview), notebook10.zip, sample-plot.png Complete solution
11 sheet11.pdf sheet11-notebook.ipynb (preview), notebook11.zip, Complete solution
12 sheet12.pdf Group exercises
13 sheet13.pdf
  

Allegemeines zu Hausaufgaben

General remarks on homework

Die Hausaufgaben werden in Hausaufgabengruppen bestehend aus zwei Studierenden bearbeitet und abgegeben. Diese Zweiergruppen werden durch die erste Abgabe für das Semester festgelegt. Abgabezeitpunkt ist jeweils am Anfang der darauffolgenden Übungsstunde. Sollten beide Studierende einer Hausaufgabengruppe nicht zu einem Übungstermin kommen können, so ist die Hausaufgabe in der Donnerstagsvorlesung vor dem entsprechenden Übungstermin abzugeben. The homework has to be handed in at the beginning of the following exercise session. Not each student separately hands in his/her solutions, but you form groups of two students, which hand in one written report together. The group is determined for the rest of the semester by the first report you hand in. In case that both students of a homework group can not make it to some exercise session, then the report has to be handed in at the beginning of the thursday lecture preceding the concerned exercise session.
  

Allgemeines zu Programmieraufgaben

General remarks on programming exercises

Ein Teil der Übungsaufgaben werden Programmieraufgaben sein. Programmiersprache ist Python. Als Programmierumgebung verwenden wir Jupyter Notebooks (ehemals IPython Notebooks).

An Python-Packeten werden numpy, matplotlib und jupyter benötigt. Wer bereits über eine Python-Installation verfügt, kann diese einfach mit Hilfe eines Packet-Managers nachinstallieren (z. B. pip oder conda).

Wer Python-Neuling ist oder sich noch nicht sicher im Umgang mit Python-Distributionen fühlt, dem empfehlen wir die Distribution Anaconda zu verwenden. Diese ist einfach auf allen gängigen Betriebssystemen zu installieren und enthält standardmäßig alle von uns benötigten Packete (und noch viele, viele mehr).

Für das Bearbeiten der Programmieraufgaben ist entscheidend, dass sie sich mit der Bedienung von Jupyter Notebooks vertraut machen. Hilfestellungen dazu finden Sie hier.
Some of the exercises will be programming tasks. Programming language is Python. As programming environment we use Jupyter Notebooks (formerly known as IPython Notebooks).

The following Python packages are required: numpy, matplotlib und jupyter. If you already have a Python installation, then you can install the packages via a package manager (for instance, pip or conda).

For Python beginners and those who are not confident with installing packages, we recommend to use the Anaconda distribution. It is easy to install on common operating systems and comes with all required packages preinstalled (and many, many more packages).

To work on the programming exercises it is essential that you know how to use Jupyter Notebooks. Tutorials on this topic can be found here.
  

Inhalt der Vorlesung

Content

Wissenschaftliches Rechnen ist eine angewandte Disziplin. Im Kern geht es um die Entwicklung von Techniken und Algorithmen, die mit Hilfe von Datenauswertung tiefergehende Einblicke in Prozesse aus den Ingenieurs- und Naturwissenschaften erlauben.

Die Vorlesung konzentriert sich auf zwei Themenbereiche:
  1. Kernbasierte Methoden zur Funktionsapproximation
  2. Nichtlineare Dimensionsreduktion/Lernen von Mannigfaltigkeiten
Im ersten Teil der Vorlesung werden wir uns mit positiv-definiten Kernen und radialen Basisfunktionen zur Approximation von Funktionen beschäftigen. Es werden sowohl theoretische Resultate zur kernbasierten Approximation behandelt als auch deren Anwendungen. Diese finden sich z. B. im maschinellen Lernen, in der Metamodellierung, in der räumlichen Statistik, bei Randwertprobleme, oder in der Finanzmathematik. Schwerpunktmäßig werden wir Anwendungen im maschinellen Lernen betrachten. Anwendungen in anderen Gebieten werden wir nach Interessenslage der Teilnehmer diskutieren.

Der zweite Teil der Vorlesung ist der nichtlinearen Dimensionsreduktion gewidmet, insbesondere dem Lernen von Mannigfaltigkeiten. Neben den mathematischen Grundlagen werden wir uns mit der Anwendung der Verfahren für die Datenanalyse beschäftigen.
Scientific Computing is an applied discipline which deals with methods, techniques, and algorithms that are necessary to obtain advanced insight into processes which stem from engineering tasks or natural sciences.

The lecture focuses on two topics:

  1. Kernel-based methods for function approximation
  2. Nonlinear dimensionality reduction/manifold learning
The first part of the lecture concerns kernel-based methods for function approximation in the form of positive definite kernels and radial basis functions. The lecture covers theoretical results on kernel-based approximation methods and their application, which includes machine learning, surrogate modeling, spatial statistics, boundary value problems, and finance. In particular machine learning will be addressed in the lecture, depending on the audience others as well to some extend.

The second part of the lecture covers nonlinear dimensionality reduction / manifold learning for data analysis. The mathematical foundation of the algorithm and the numerical schemes which can be applied will be described, and examples for applications given.
  

Vorkenntnisse

Prerequisites

Voraussetzungen sind die Vorlesungen zur Numerischen Mathematik. Insbesondere Vorwissen zur numerischen linearen Algebra und zur numerischen Optimierung ist relevant. Die Vorlesungsthemen in Richtung Datenanalyse erfordern Vorwissen im Bereich der Stochastik, wie es z. B. in der Vorlesung Algorithmische Mathematik II vermittelt wird. Weiteres Hintergrundwissen im Bereich Statistik kann hilfreich sein.

Das Modul Wissenschaftliches Rechnen I ist keine Voraussetzung.
Lectures on numerical mathematics are recommended, in particular knowledge in numerical linear algebra and numerical optimization is needed for the algorithmic aspects. Due to the data analysis topic stochastics is required, i.e. the contents of Algorithmische Mathematik II, more statistics can be helpful. Any standard introductory textbook on these topics will suffice.

Knowledge of Module Wissenschaftliches Rechnen I is not required.