Uli Schell

Maschinelles Lernen mit R

Daten aufbereiten und verarbeiten mit H2O und Keras

Künstliche Intelligenz ist einer der Haupt-Innovationstreiber der Gegenwart. Hätten Sie noch vor wenigen Jahren damit gerechnet, dass 2021 das erste Gesetz zum autonomen Fahren in Deutschland in Kraft treten würde? Ohne künstliche Intelligenz und maschinelles Lernen wäre das nicht möglich geworden.

Maschinelles Lernen – dieser Begriff weckt vielfältige Assoziationen. Zum einen erhofft man sich, dass damit der Alltag bequemer und sicherer gemacht wird. Zum anderen befürchtet man, dass immer noch intelligentere Geräte immer autonomer agieren. Vielleicht machen sie sich irgendwann sogar noch selbständig und stellen Unfug an? Um das besser beurteilen zu können, lohnt sich die Beschäftigung mit diesem Thema.

Und da liegt wahrscheinlich das eigentliche Problem: Es gibt noch wenig Einstiegsliteratur in das Thema „Maschinelles Lernen“, aber die technologischen Entwicklungen nehmen keine Rücksicht darauf. So kommt die Angst auf, dass man diesen rasanten Entwicklungen nicht mehr folgen kann, man fühlt sich „abgehängt“ und verschließt womöglich noch die Augen davor.

Ich denke, das muss nicht sein. Sie sehen das wahrscheinlich auch so, denn Sie haben sich dazu entschlossen, in dieses Thema einzusteigen, weil Sie gerade dieses Buch lesen.

Es war mir ein Ansporn, Ihnen diesen Weg mit vielen Beispielen zu ebnen und Ihnen möglichst viele Möglichkeiten einer Vertiefung zu bieten.

Allen Gesprächspartnern, die mich hierbei mit vielen guten Anregungen unterstützt haben, möchte ich an dieser Stelle sehr herzlich danken, insbesondere Frau Sylvia Hasselbach, Frau Irene Weilhart, Herrn Dr. Jochen Hirschle und Herrn Jürgen Dubau.

Trotz großer Sorgfalt lässt sich der eine oder andere Fehler nicht vermeiden. Wenn Sie also Kritik, Anmerkungen oder auch Wünsche haben, bitte ich Sie um eine Mail an uli.schell@gmx.de, damit ich mich darum kümmern kann.

Ich wünsche Ihnen, dass Ihnen der Einstieg in das maschinelle Lernen gut gelingt, dass dieses Buch einen Beitrag dazu leisten konnte, und vor allem: dass Sie dabei Ihre Freude haben!

Uli Schell, Dezember 2021

Auf unserem Download-Portal finden Sie zu diesem Titel:

       die Codebeispiele aus dem Buch zum direkten Aufruf

       die Daten zu den Buchbeispielen und Aufgaben

       den originalen MNIST-Datensatz

Geben Sie auf

https://plus.hanser-fachbuch.de

diesen Code ein:

plus-xNea5-U69cd

In diesem Kapitel werden die Begriffe künstliche Intelligenz, Expertensysteme und maschinelles Lernen gegeneinander abgegrenzt. Weiterhin werden die Zielsetzungen und die Vorgehensweise in diesem Buch erläutert.

1.1	Informatik und künstliche Intelligenz

Seit vielen Jahrhunderten bemüht man sich, Berechnungsmethoden so zu beschreiben, dass sie fehlerfrei zu einem Ergebnis führen:

       Schon vor 2300 Jahren hatte Euklid bereits ein Verfahren zum Bestimmen des größten gemeinsamen Teilers beschrieben.

       Al-Khwarizmi hatte vor über 1200 Jahren Rechenregeln zum Lösen quadratischer Gleichungen formuliert. Sein Name stand Pate zum Begriff des Algorithmus [Bau09].

       Die Arbeiten von Leibniz zum Dualsystem zum Ende des 17. Jahrhunderts bildete die Basis heutiger Rechenanlagen [Wik21c].

Eine Vielzahl von weiteren Ansätzen waren ihrer Zeit weit voraus, konnten aber wegen fehlender Umsetzungsmöglichkeiten nicht realisiert werden wie z. B. die Analytical Engine von Babbage [Wik21b].

Als in der Mitte des letzten Jahrhunderts erste elektronische Anlagen zur Durchführung der Informationsverarbeitung zur Verfügung standen, war eine neue Epoche eingeläutet: Der Begriff „Informatik“ kam im Jahr 1957 auf [Wik21d].

Bereits 14 Jahre zuvor erschien ein Artikel von McCulloch und Pitts [MP43], in dem Betrachtungen zu nervlichen Aktivitäten und deren Logik angestellt werden. Dieser Artikel gilt als erster Beitrag zum Thema „künstliche Intelligenz“. Als Geburtsstunde der künstlichen Intelligenz (KI oder AI, Artificial Intelligence) wird eine Konferenz angesehen, die im Jahre 1956 am Dartmouth College in Hanover, New Hampshire (USA), stattfand [RN12]. John McCarthy, der Organisator der Konferenz, gilt als Gründungsvater dieser neuen Disziplin.

Es gab Überlegungen, die künstliche Intelligenz als Teilgebiet der Regelungstheorie, des Operations Research, der Entscheidungstheorie, als Zweig der Mathematik oder der gerade in Gründung befindlichen Informatik einzugruppieren. Sie entwickelte sich jedoch zunächst unabhängig.

Der Begriff „künstliche Intelligenz“ ist in der Fachwelt nicht einheitlich umrissen. Woher sollte das aber auch kommen? – Schon der Begriff „Intelligenz“ ist nicht allgemein definiert, es ist lediglich ein Sammelbegriff für die Gesamtheit unterschiedlich ausgeprägter kognitiver Fähigkeiten und daher nicht allgemeingültig definierbar [Wik21e].

Als Lösungsansatz für eine Entscheidung, ob man von künstlicher Intelligenz reden kann oder nicht, hat Turing ein Experiment vorgeschlagen [TUR50]: Ein Nutzer kommuniziert über fünf Minuten an einem Schalter mit einem Gegenüber über online eingegebene Nachrichten, ohne zu wissen, ob sich ein Programm oder eine Person hinter dem Schalter befindet. Er muss dann entscheiden, ob das Gegenüber ein Programm oder eine Person ist. Das Programm besteht den Test, wenn es in 30 % der Fälle vortäuschen kann, es sei eine Person.

Turing hatte vorausgesagt, dass diese Entwicklung im Jahr 2000 soweit sein sollte; dies hat sich bekanntermaßen nicht bewahrheitet.

Generell aber war die Namensgebung „künstliche Intelligenz“ ein sehr geschickter Schachzug: Arbeiten, die in anderen Disziplinen entstanden, waren automatisch auch ein Ergebnis der KI, wenn sie sich unter dieser Überschrift einsortieren ließen.

1.2	Expertensysteme

Anfang der siebziger Jahre wurden unter dem Projektnamen Mycin erste Programme zur Diagnose von Infektionen erstellt mit dem Ziel, den Einsatz von Antibiotika zu verringern. In Form von Dialogen, die einen Satz von Wenn-Dann-Regeln ähnlich einem Entscheidungsbaum abarbeiteten, sollte eine ärztliche Diagnose unterstützt werden. Mit einer Korrekt-Klassifikationsrate von 65 % konnte es zwar besser klassifizieren als nicht spezialisierte Ärzte, aber der Wert war deutlich schlechter als der von Spezialisten mit einer Korrekt-Klassifikationsrate von 80%. Diese Werte sind insgesamt nicht sonderlich gut: Ohne jegliche Kenntnisse erreicht man mit einem Münzwurf (Entscheidungen vom Typ Ja/Nein) bereits eine Korrekt-Klassifikationsrate von 50 %!Wegen damaliger fehlender Akzeptanz von Computern in der Medizin und wegen Haftungsfragen kam dieses System nicht länger zum Einsatz [Wik20c].

Erfolgreicher war der Computerbauer Digital Equipment Corporation. Dort wurde 1986 ein System R1 eingesetzt, welches half, Aufträge für neue Computersysteme zu konfigurieren. Es sparte dem Unternehmen etwa 40 Millionen Dollar jährlich ein [RN12].

Solche Systeme, die anhand einer Regelbasis Handlungsempfehlungen erzeugen, werden als Expertensysteme bezeichnet: In einer Wissenserwerbskomponente werden Regeln mit einem Regel-Editor in einer Wissensbasis verwaltet. Danach zieht ein Programm (die Problemlösungskomponente oder Inferenzmaschine) anhand der Regeln Schlüsse aus den Benutzereingaben. Eine Erklärungskomponente erläutert diese Folgerungen.

Bei einer Änderung der Wissensbasis bleibt die Inferenzmaschine unverändert. Je nachdem, wie die Inferenzmaschine gebaut wurde, ist auch eine allgemeinere Logik als nur die Verarbeitung von Wenn-Dann-Regeln möglich. Beispielsweise sind auch Regeln entsprechend einer Aussage „Wenn, dann trifft etwas zu 80 % ein“ denkbar.

1.3	Maschinelles Lernen

Unter Lernen versteht man allgemein den Erwerb von Fertigkeiten. Dies kann absichtlich und organisiert („Kurse“) erfolgen. Daneben erfolgt ein Großteil von Lernvorgängen beiläufig („Entdeckungen“ und „Aha-Momente“).

Maschinelles Lernen als ein Teilgebiet der künstlichen Intelligenz wird verwendet als ein Oberbegriff für die „künstliche“ Generierung von Wissen aus Erfahrung [Wik21f]. Der Begriff wurde 1959 durch Arthur Samuel im Zusammenhang mit Computerspielen geprägt [Sam59].

Eine Einstiegsfrage könnte in etwa lauten: Könnte ein Computer über das, „von dem wir wissen, wie wir es befehlen können“, hinausgehen und selbst erlernen, wie eine bestimmte Aufgabe erledigt wird? Könnte ein Computer automatisch Regeln erlernen, indem er Daten betrachtet, ohne dass Programmierer diese Datenverarbeitungsregeln von Hand erstellen müssen [CA18]?

Dies bedeutet eine Abkehr vom klassischen Weg der Programmierung. Beim maschinellen Lernen lernt ein Computer aus Daten, ohne dass man ihn explizit programmiert. Typische Aufgabenstellungen sind beispielsweise:

       Regressionen: Es werden Zusammenhänge zwischen einer abhängigen Variablen und einer bzw. mehreren unabhängigen Variablen untersucht.

       Klassifikationen: Gehört ein Objekt zu einer bestimmten Klasse?

       Clustering: Für eine vorgegebene Zahl von Clustern versucht man, Objekte zu finden, die gemeinsame Merkmale aufweisen, um diese den Clustern zuzuordnen.

       Faktoranalyse: Wie groß ist die Ähnlichkeit zwischen Merkmalen?

       Extrapolationen: Kann man die Temperatur von übermorgen vorhersagen, wenn man die Werte der letzten 100 Tage kennt?

Zu Beginn des Lernvorgangs wird ein Modell festgelegt, beispielsweise ein lineares Modell für eine Regression oder ein neuronales Netzwerk für eine Klassifikation. Auf der Basis des Modells wird der Lernvorgang an einer Stichprobe, den Lerndaten, durchgeführt. In den Parametern des Modells werden die Ergebnisse des Lernvorgangs abgelegt.

Danach erfolgt die Vorhersage (predict()) anhand des Modells und der erlernten Parameter für eine neue Stichprobe, den Testdaten. Je repräsentativer die Stichproben von Trainings- und Testdaten (bezüglich ihrer Merkmale) sind, desto präzisere Vorhersagen kann man erwarten.

Ein Modell wird nicht automatisch besser, indem man die Zahl der Parameter immer weiter erhöht. Wenn wir lediglich die Merkmalswerte einer Stichprobe (den Lerndaten) kennen und sonst keine weiteren Informationen vorliegen, liegt ein sinnvolles Modell irgendwo zwischen einem Nullmodell und einem Vollmodell:

Bei einem Nullmodell nimmt man an, dass die beobachteten Ergebnisse rein zufällig entstanden sind, ohne ursächlichen Zusammenhang mit anderen Variablen. Für dieses Modell benötigt man mindestens einen Parameter für die Beschreibung des gesamten Modells. Dies kann ein Mittelwert, der Achsenabschnitt (bei einer Regression) oder der geschätzte Anteil eines Merkmalswerts (z. B. weiße Kugeln in einer Urne) sein.

Ein Vollmodell (auch saturiertes Modell oder uneingeschränktes Modell) beschreibt die Stichprobe exakt, es gibt keine Abweichungen. Eine Beschreibung durch ein Vollmodell gelingt immer: Als Triviallösung könnte man für jede Beobachtung einen Parameter je Merkmal verwenden. Man hat damit zwar eine exakte Beschreibung der Stichprobe erzielt, der Lerneffekt ist aber Null. Eine Beschreibung mit noch mehr Parametern wäre unsinnig, weil man die Parameter nicht bestimmen könnte: Es gleicht dem Versuch einer Lösung eines Gleichungssystems mit mehr Variablen als Zeilen.

Das aktuelle Modell (auch eingeschränktes Modell oder reguläres Modell genannt) sollte also eine Parameterzahl aufweisen, die irgendwo zwischen dem Vollmodell und Nullmodell liegt. Ist sie zu groß, beschreibt sie zwar die Trainingsdaten vielleicht recht genau, weicht aber bei den Testdaten stark ab. Man spricht dann von Überanpassung.

Maschinelles Lernen ist organisiertes Lernen. Es wird oft unterteilt in die Kategorien

       überwachtes Lernen

       unüberwachtes Lernen

       verstärkendes Lernen.

1.3.1

Überwachtes Lernen

Beim überwachten Lernen liegen Form und Struktur des Lernergebnisses fest. Stellen Sie sich einfach vor, dass sich der Computer eine Tabelle mit vielen Spalten und Zeilen ansieht und versucht, die Zusammenhänge zu erkennen und daraus das Ergebnis (eine oder auch mehrere „Lernspalten“) zu bestimmen. Nach dem Lernvorgang soll er für neue Zeilen eine Vorhersage (predict()) für das Ergebnis machen.

1.3.2

Unüberwachtes Lernen

Nun lockern wir die Zügel beim Lernvorgang, indem wir nicht vorgeben, welches Merkmal zu einer Lernspalte wird. Erst wenn es zu einem predict() kommt, teilen wir mit, für welches Merkmal bzw. für welche Merkmale ein Ergebnis zu bestimmen ist.

Ein einfacher Weg bestünde darin, der Reihe nach einzelne Merkmale bzw. Kombinationen davon zu Lernspalten zu machen und beim predict() dann den jeweiligen Teil des Modells zu verwenden. Es gibt jedoch Verfahren wie z. B. die Hauptkomponentenanalyse (s. Abschnitt 7.2), welche keine Unterscheidung zwischen abhängigen und unabhängigen Merkmalen trifft.

1.3.3

Verstärkendes Lernen

Im Regelfall ist das Ziel von Lernvorgängen, ein Ergebnis möglichst genau vorherzusagen. Dies ist aber nicht die einzige mögliche Strategie. Wenn beispielsweise der Mähroboter den Rasen und das Blumenbeet nicht immer korrekt auseinanderhält, sollte man ihn darin bestärken, vermeintlichen Rasen im Zweifelsfall lieber als Blumenbeet zu erkennen als umgekehrt. Oder wenn mehrere Lernvorgänge hintereinander stattfinden und man häufig eine Überanpassung feststellt, kann man die Zielfunktion abändern, um eine Überanpassung zu reduzieren.

1.4	Methoden und Werkzeuge für das maschinelle Lernen

Bereits lange bevor der Begriff „maschinelles Lernen“ erstmals erwähnt wurde, waren grundlegende Prinzipien und Methoden bereits entwickelt und untersucht, so z. B. das Prinzip der bedingten Wahrscheinlichkeiten (1763) oder die Regressionsrechnung (1805). Diese und eine Vielzahl weiterer Verfahren sind heute Gegenstand der Statistik. Hierbei geht es nicht allein um die Frage, wie die Parameter bestimmt werden können, sondern auch um Maßzahlen (Metriken), welche etwas über die Qualität eines Ergebnisses aussagen.

Durch den Computereinsatz sind die statistischen Verfahren stark vorangetrieben worden. Das unter GNU verfügbare Standardwerkzeug R unterstützt diese Verfahren mit einer Riesenanzahl von Bibliotheken. Wer sich intensiver mit den statistischen Methoden auseinander setzen will oder muss, kommt an R kaum vorbei.

Eine Vielzahl von numerischen Methoden wie z. B. Simulationstechniken sind zwischenzeitlich entstanden und haben das Spektrum der Lernverfahren erheblich erweitert.

1957 haben Frank Rosenblatt und Charles Wightman den ersten erfolgreichen Neurocomputer gebaut, der mit einem 20x20-Pixel-Bildsensor bereits einfache Ziffern erkennen konnte [Kri07]: Die neuronalen Netzwerke kamen auf. Mittlerweile sind sie ein weit verbreitetes Werkzeug und beim maschinellen Lernen nicht mehr wegzudenken.

Im Bereich der neuronalen Netze haben sich zwischenzeitlich Werkzeuge etabliert wie

       Tensorflow® von Google https://www.tensorflow.org/

       H2O® https://www.h2o.ai/

       Caffe® der Universität Berkeley https://caffe.berkeleyvision.org/

       Torch® https://torch.io/

       Accord.Net® https://accord-framework.net/

       Apache Mahout® https://mahout.apache.org/

       Spark MLlib® https://spark.apache.org/mllib/ oder auch

       paddlepaddle® des chinesischen Suchmaschinenanbieters Baidu https://www.paddlepaddle.org.cn

Das Cognitive Toolkit CNTK® von Microsoft wird nicht mehr weiterentwickelt und durch das Open-Source-Produkt ONNX® (https://onnx.ai/) abgelöst. Es wird von Microsoft, Amazon, Facebook und weiteren Partnern gemeinsam entwickelt.

Damit diese Werkzeuge (auch Frameworks genannt) ihre Arbeit verrichten können, müssen sie mithilfe eines Programms gesteuert werden. Meist kann man die Anwendung (bei geringerem Datenvolumen) lokal auf einem PC ablaufen lassen. Reicht die Leistungsfähigkeit des eigenen PCs nicht mehr aus, kann man hierfür Serverdienste im Rahmen von Entgeltmodellen in Anspruch nehmen.

Unter den oben genannten Frameworks bietet H2O die größte Vielfalt von Methoden: Es unterstützt sowohl statistische Verfahren als auch einige neuronale Netzarchitekturen. Sie können alle nach dem gleichen Muster aufgerufen werden.

Das populärste Framework im Bereich neuronaler Netze ist zurzeit Tensorflow. Es wird beispielsweise häufig bei der Bilderkennung oder bei der Google Suche, Google Maps und Google Translate eingesetzt. Mit Tensorflow können sehr komplexe Netzwerkarchitekturen realisiert werden. Es ist für den Einsteiger weniger geeignet und richtet sich eher an erfahrene Anwender, die über solide Programmierkenntnisse (meist Python) verfügen.

Um Einsteigern den Zugang zu erleichtern, wurde das Framework Keras entwickelt. Es kapselt die komplizierteren Tensorflow-Aufrufe über einfachere Aufrufe. Man kann damit jedoch durchaus leistungsfähige Anwendungen realisieren. Auch für erfahrene Entwickler, welche schnell einen Prototypen bauen wollen, ist Keras interessant.

Die Frameworks H2O und Keras können sowohl über die Sprache Python als auch über R aufgerufen werden. Die Aufrufe selbst sind für beide Sprachen sehr ähnlich, sodass ein späterer Wechsel der Sprache keine allzu große Herausforderung mehr darstellt.

Macht man die Beliebtheit einer Programmiersprache daran fest, wie oft der Begriff „Tutorial“ in Verbindung mit dieser Sprache über eine Suchmaschine aufgerufen wurde, so findet man über trends.google.de (Stand September 2021) Python auf Platz 1, R folgt auf Platz 7 [Car21]. In Kombination mit „Statistik“ wird R erwartungsgemäß häufiger gesucht.

Python ist als Programmiersprache entwickelt worden und daher vielseitiger als R. Diese Vielseitigkeit kommt bei neuronalen Netzen zum Tragen, beispielsweise wenn die Tensorflow-Schnittstelle direkt (und nicht über Keras) aufgerufen werden soll. Auch bezüglich der Ausführungsgeschwindigkeit bei Lernvorgängen neuronaler Netze punktet Python.

R wurde von Statistikern für Statistiker entwickelt. Es gilt als das „Schweizer Taschenmesser“ für Statistiker und Data Scientists, wozu nicht zuletzt die Grafikfähigkeiten beitragen.

1.5	Zielsetzungen dieses Buchs und Vorgehensweise

Beim Durcharbeiten dieses Buchs können folgende Ziele eine Rolle spielen:

       einen Überblick über die gängigen Methoden des maschinellen Lernens gewinnen

       Daten für Lernverfahren visualisieren und vorbereiten

       die Grundlagen gängiger Lernverfahren verstehen

       gängige Methoden des maschinellen Lernens an Beispielen anwenden können

       Maßzahlen (Metriken) der verschiedenen Lernverfahren interpretieren können

       Beziehungen zwischen Merkmalen aufspüren und Merkmalsreduktion betreiben können

       neuronale Netze trainieren können und die wichtigsten Stellschrauben kennen

       trainierte neuronale Netze für ähnliche Aufgaben umtrainieren können

Diese Ziele prägen die Struktur dieses Buchs. Sie begründen auch die Verwendung von R als Werkzeug in diesem Lehrbuch. Falls Sie im Augenblick nur einen Überblick gewinnen möchten, können Sie ohne viel Statistikkenntnisse die Seiten überfliegen und dann entscheiden, wie Sie weiter vorangehen. Sind Ihnen jedoch alle diese Ziele gleichermaßen wichtig, werden Sie ohne Statistikkenntnisse nicht auskommen. Sie sollten dann beispielsweise den Themen in Anhang A problemlos folgen können. Fällt Ihnen das sehr schwer, sollten Sie zuvor beispielsweise eines der Statistiklehrbücher [Gro10], [Wol20], [Sac18] oder auch einzelne Kapitel von [HS18] heranziehen.

Das Buch ist wie folgt aufgebaut:

In Teil I wird ein Einstieg in den Umgang mit R vorgenommen. Sie sollen danach in der Lage sein, die präsentierten Beispiele gut zu verstehen und auch auf eigene Fragestellungen anzuwenden. Sollten Sie bereits einen Kurs in Statistik absolviert haben, ist Ihnen R vermutlich bereits bekannt, und Sie kennen diese Inhalte.

In Teil II werden wir uns mit der Datenaufbereitung und -visualisierung beschäftigen. An grafisch aufbereiteten Daten lassen sich häufig Besonderheiten in den Daten erkennen, welche auf mögliche Messfehler hinweisen können. R stellt hervorragende Werkzeuge wie ggplot2 zur Verfügung, mit der professionelle Grafiken erstellt werden können. Mit diesen Grafiken kann man sich dann sehen lassen, und sie können auch in Präsentationen und Berichten eingesetzt werden.

In der Praxis besteht oft ca. 80%des Projektaufwands darin, die Daten zu besorgen und sie in eine Form zu bringen, damit man aus ihnen lernen kann. Ein solcher Schritt war auch schon bei klassischen Statistikauswertungen regelmäßig erforderlich, bei dem R seine Leistungsfähigkeit unter Beweis stellen konnte. R wird häufig eingesetzt zur Feststellung, ob Werte zufällig streuen oder ob noch eine „andere Hand im Spiel“ war. Während geeignete Plots bei kleineren Datenumfängen relativ leicht Hinweise auf Besonderheiten liefern, kann dies bei sehr großen Datenmengen schwierig werden. Hierfür gibt es bei R Funktionen zur Ausreißererkennung, die ebenso in Teil II gezeigt werden. Für das Verständnis dieser Funktionen sind Statistikkenntnisse erforderlich.

Teil III befasst sich mit maschinellen Lernmethoden, welche auf statistische Verfahren zurückgehen. Wenn Sie tiefer einsteigen und beispielsweise verstehen wollen, wie die Verfahren funktionieren oder was die Metriken bedeuten, sind ebenso Statistikkenntnisse notwendig. Wollen Sie nur eine Übersicht über die Methoden gewinnen, können Sie sich auch zunächst nur die Beispiele ansehen und danach entscheiden, ob Sie diese Thematik vertiefen wollen.

In Teil IV erfolgt ein Einblick in neuronale Netze. Zuerst wird die Theorie in Kapitel 8 gezeigt. Dort wird auch der Optimierer angesprochen, für dessen Verständnis Kenntnisse in Differentialrechnung vorausgesetzt werden. Dieses etwas trockene Thema können Sie zunächst überschlagen und mit den Beispielen in Kapitel 9 und Kapitel 10 erste Erfahrungen sammeln, wie einfache neuronale Netze trainiert und eingesetzt werden können.

Convolutional-Netzwerke zur Erkennung von Bildern sowie rekurrente Netzwerke zur Behandlung von Zeitreihen werden in Kapitel 10 gezeigt. Die Beispiele, die hier sowie im Internet zum Ausprobieren zur Verfügung stehen, führen recht schnell zu brauchbaren Ergebnissen. Wenn Sie jedoch Änderungen an den Beispielen vornehmen, kann dies recht leicht zu unbefriedigenden Ergebnissen führen. In diesem Fall ist es hilfreich, wenn Sie die Funktionsweise des Optimierers kennen und herausfinden können, welche Gradientenkomponente vielleicht gerade Probleme bereitet. Hierzu sollen Ihnen dann die Ausführungen zur Theorie in Kapitel 8 weiterhelfen.

Fangen wir einfach an: Ich bin sicher, dass Sie Ihren Weg machen werden!