Kleines Handbuch Neuronale Netze

1 Einleitung.- 1.1 Begriff des neuronalen Netzes.- 1.1.1 Neurophysiologie als Vorbild.- 1.1.2 Aufbau und Funktionsweise neuronaler Netze.- 1.1.3 Vergleich mit herkömmlichen Computern.- 1.2 Hinweise für die Benützung des Buches.- 1.2.1 Zweck des Buches.- 1.2.2 Vorkenntnisse des Lesers.- 1.2.3 Übersicht über den Buchinhalt.- 1.3 Fuzzy-Logik.- 1.3.1 Begriff.- 1.3.2 Unscharfe Teilmengen.- 1.3.3 Unscharfe Mengenoperationen.- 1.3.4 Unscharfe logische Verknüpfungen.- 1.3.5 Vergleich mit neuronalen Netzen.- 1.4 Künstliche neuronale Netze.- I Grundlagen.- 2 Behandlung einzelner Neuronen.- 2.1 Bestandteile eines Neurons.- 2.2 Berechnung der Aktivität.- 2.2.1 Effektiver Eingang.- 2.2.2 Aktivierungsfunktionen.- 2.3 Berechnung des Ausgangs.- 2.3.1 Anforderungen an die Ausgangsfunktion.- 2.3.2 Schwellenwertfunktionen.- 2.3.3 Sigma-Funktionen.- 2.3.4 Weitere Ausgangsfunktionen.- 2.3.5 Anschauliche Deutung.- 2.4 Berechnung des Neurons.- 2.4.1 Berechnungsformeln.- 2.4.2 Standard-Neurontypen.- 2.4.3 Kennwerte der Neuronberechnung.- 3 Behandlung eines Netzes.- 3.1 Aufbau eines Netzes.- 3.1.1 Allgemeine Netzstruktur.- 3.1.2 Numerierung der Neuronen.- 3.1.3 Strukturierung des Netzes durch das Schichtenkonzept.- 3.1.4 Rückkopplung.- 3.1.5 Räumlich organisierte Schichten.- 3.1.6 Hinton-Diagramme.- 3.2 Reproduktionsmethoden.- 3.2.1 Struktur und Zustände eines neuronalen Netzes.- 3.2.2 Begriff der Reproduktion.- 3.2.3 Reproduktion in vorwärtsgekoppelten Netzen.- 3.2.4 Reproduktion in rückgekoppelten Netzen.- 3.2.5 Äquivalenz von vorwärts- und rückgekoppelten Netzen.- 3.2.6 Reproduktion in Wettbewerbs-Schichten.- 3.2.7 Beschreibung der Reproduktion durch Hamilton-Funktionen.- 3.2.8 Stochastische Reproduktion.- 3.3 Lernmethoden für überwachtes Lernen.- 3.3.1 Begriff des Lernens.- 3.3.2 Begriff des überwachten Lernens.- 3.3.3 Hebbsche Lernregel.- 3.3.4 Delta-Lernregel.- 3.3.5 Herleitung von Lernregeln aus Kostenfunktionen.- 3.3.6 Lernen durch Lohn und Strafe.- 3.4 Lernmethoden für unüberwachtes Lernen.- 3.4.1 Begriff des unüberwachten Lernens.- 3.4.2 Unüberwachtes Lernen durch Wettbewerb.- II Netze.- 4 Einfache überwacht lernende Netze.- 4.1 Muster-Assoziator.- 4.1.1 Allgemeiner Muster-Assoziator.- 4.1.2 Linearer Muster-Assoziator mit Hebbscher Lernregel.- 4.1.3 Linearer Muster-Assoziator mit Delta-Lernregel.- 4.1.4 Willshaw-Netze.- 4.1.5 Grenzen des Muster-Assoziators.- 4.2 Spezielle Muster-Assoziatoren.- 4.2.1 Perzeptron.- 4.2.2 ADALINE.- 4.2.3 MADALINE.- 4.3 Auto-Assoziator.- 4.3.1 Allgemeiner Auto-Assoziator.- 4.3.2 BSB-Modell.- 4.3.3 DMA-Modell.- 4.4 Fehlerrückführungs-Netz.- 4.4.1 Aufbau des Netzes.- 4.4.2 Lernregel für die Gewichte.- 4.4.3 Initialisierung der Gewichte.- 4.4.4 Zusammenfassung des Lernvorgangs.- 4.4.5 Lernregel für andere Parameter.- 4.4.6 Momentfaktor.- 4.4.7 Lokale Minima der Kostenfunktion.- 4.4.8 Fehlerrückführungsnetze mit Rückkopplung.- 4.5 Hopfield-Netz.- 4.5.1 Grundmodell.- 4.5.2 Hamilton-Funktion.- 4.5.3 Speicherkapazität.- 4.5.4 Unerwünschte Zustande.- 4.5.5 Varianten.- 5 Höher entwickelte Überwacht lernende Netze.- 5.1 BAM.- 5.1.1 Aufbau.- 5.1.2 Berechnung der Neuronen.- 5.1.3 Lernregel.- 5.1.4 Reproduktion.- 5.1.5 Mustervektoren ? {0,1}.- 5.1.6 Numerierungsvariante.- 5.2 Boltzmann-Maschinen.- 5.2.1 Aufbau.- 5.2.2 Lernregel.- 5.2.3 Reproduktion.- 5.2.4 Probleme.- 5.3 Gegenstrom-Netz.- 5.3.1 Vorstufe zum Gegenstrom-Netz.- 5.3.2 Reproduktion.- 5.3.3 Lernen.- 5.3.4 Gegenstrom-Netz.- 5.4 Netze mit Sigma-Pi-Neuronen.- 5.4.1 Prinzip.- 5.4.2 Reduktion der Schichtenzahl.- 5.4.3 Invariante Mustererkennung.- 5.4.4 Fehlerrückführung.- 5.5 Zusammenstellung überwacht lernender Netze.- 6 Unüberwacht lernende Netze.- 6.1 Selbstorganisierende Karten.- 6.1.1 Einbettung eines Netzes in einen Raum.- 6.1.2 Aufbau und Reproduktion.- 6.1.3 Festlegen der internen Gewichte.- 6.1.4 Lernen der externen Gewichte.- 6.1.5 Hinweise.- 6.2 ART-Netz.- 6.2.1 Aufgabe.- 6.2.2 Lösungsalgorithmus.- 6.2.3 Realisierung durch ein Netz.- 6.2.4 Gain.- 6.2.5 Reproduktion in der Eingangs-Vergleichsschicht.- 6.2.6 Reset.- 6.2.7 Reproduktion in der Klassifizierungsschicht.- 6.2.8 Lernen.- 6.2.9 Zusammenfassung.- 6.2.10 Literaturhinweise.- III Praxis.- 7 Anwendungen.- 7.1 Problemtypen.- 7.1.1 Übersicht.- 7.1.2 Klassifikation.- 7.1.3 Autoassoziativer Speicher.- 7.1.4 Heteroassoziative Speicher und Generalisierung.- 7.1.5 Ausgangsmusterfolgen.- 7.1.6 Zeitreihen.- 7.2 Konkrete Anwendungen.- 7.2.1 Übersicht.- 7.2.2 „Schul“probleme.- 7.2.3 Technische Anwendungen.- 7.2.4 Wissenschaftliche Anwendungen.- 7.2.5 Sonstige Anwendungen.- 8 Realisierung.- 8.1 Übersicht.- 8.2 Simulation durch Software.- 8.2.1 Grundsätze.- 8.2.2 Simulationsprogramme für den PC.- 8.3 Aufbau durch Hardware.- IV Anhang.- 9 Symbolverzeichnis.- 9.1 Begründung der Symbolauswahl.- 9.2 Vergleichsliste üblicher Symbole.- 9.3 Vergleichsliste üblicher Namen.- 9.4 Liste der Symbole.- 10 Lexikon englisch — deutsch.- 11 Lexikon und Glossar deutsch — englisch.- 12 Literaturverzeichnis.- 12.1 Literaturverweise aus dem Text.- 12.2 Einführende Literatur.- 13 Register.