von_der_nervenzelle_zum_modell
Unterschiede
Hier werden die Unterschiede zwischen zwei Versionen angezeigt.
Beide Seiten der vorigen RevisionVorhergehende ÜberarbeitungNächste Überarbeitung | Vorhergehende Überarbeitung | ||
von_der_nervenzelle_zum_modell [2024/01/21 10:36] – [Netzwerk Komponenten] torsten.roehl | von_der_nervenzelle_zum_modell [2024/01/21 11:01] (aktuell) – [Das McCulloch Modell] torsten.roehl | ||
---|---|---|---|
Zeile 38: | Zeile 38: | ||
- Updateregel (// | - Updateregel (// | ||
- | === zu 1: === | + | === zu 1: (Neurone)=== |
- | === zu 2: === | + | |
- | === zu 3: === | + | Wir bezeichnen Neurone mit $x_i$ oder mit $x_j$, um anzudeuten, dass es sich um verschiedene Neurone handelt. Neurone können innerhalb des Netzwerks verschiedene Aufgaben haben: |
- | === zu 4: === | + | |
- | === zu 5: === | + | * Eingabeneurone, |
+ | * Ausgabeneurone | ||
+ | * oder versteckte Einheiten (//hidden units//), wenn sie weder direkt an der Eingabe noch an der Ausgabe beteiligt sind. | ||
+ | |||
+ | === zu 2: Verbindungen (Gewichte)=== | ||
+ | Wenn zwei Neurone gegeben sind, z.B. $x_i$ und $x_j$, bezeichnen wir mit $w_{ij}$ die Verbindung (Gewicht) zwischen dem Neuron $x_i$ und dem Neuron $x_j$. Wenn das Neuron $x_j$ ebenfalls mit dem Neuron $x_i$ verbunden ist, lautet das Gewicht demnach $w_{ji}$. Dieses Gewicht ist eine reelle Zahl und soll die Verbindungsstärke zwischen den Neuronen repräsentieren. $w_{ij} = 0$ bedeutet z.B., dass es zwischen den Neuronen $x_i$ und $x_j$ überhaupt keine Verbindung gibt. | ||
+ | |||
+ | \begin{equation} | ||
+ | W=\begin{pmatrix} w_{11} & w_{12} & w_{13} & w_{14} & w_{15} & w_{16} & w_{17} & w_{18} & w_{19} | ||
+ | \end{equation} | ||
+ | |||
+ | |||
+ | Diese Gewichte kann man in Form einer Matrix $W$ anordnen. Im Beispiel oben sind 9 Zeilen und 9 Spalten also eine Matrix vom Typ 9x9 zu sehen. Die Eingabevektoren (Muster) für dieses Netzwerk haben damit 9 Komponenten. | ||
+ | * Der erste Index ist der Zeilenindex. | ||
+ | * Der zweite Index ist der Spaltenindex. | ||
+ | |||
+ | So befindet sich z.B. in der 4. Zeile und 6. Spalte das Element $w_{46}$. | ||
+ | |||
+ | === zu 3: Netzeingabe (Abkürzung: | ||
+ | Die nächste Komponente ist die Netzeingabefunktion $net_j$. Dabei ist $net_j$ eine Zahl, die die gesamte Eingabe für das Neuron $x_j$ repräsentiert. Die Eingabe hängt von allen Neuronen ab, die mit diesem Neuron verbundenen sind. | ||
+ | |||
+ | \begin{equation} net_j = \sum w_{ij} \cdot x_i \end{equation} | ||
+ | |||
+ | Gleichung 2 bedeutet, dass die gewichtete Summe des Neurons $x_j$ berechnet werden soll. Dabei werden alle Neurone, die Verbindungen zum Neuron $x_j$ haben, d.h., für die gilt $w_{ij}$ ≠ 0, mit ihrem Gewicht multipliziert und addiert. | ||
+ | |||
+ | |||
+ | === zu 4: Aktivierungsfunktion=== | ||
+ | |||
+ | Alle Netze benötigen die sogenannte Aktivierungsfunktion (siehe Abschnitt Aktivierungsfunktion). Die Aktivierungsfunktion bestimmt, ob ein Neuron, das über Verbindung mit anderen Neuronen Informationen erhält, feuern soll oder nicht. | ||
+ | |||
+ | === zu 5: Updateregel (Update-Rule)=== | ||
+ | |||
+ | Wenn der nächste Zustand der Neurone unabhängig von den anderen Neuronen berechnet wird, wird dies als **sequenziell** bezeichnet. | ||
+ | |||
+ | Dem steht die **parallele** Berechnung gegenüber, bei der alle Neurone gleichzeitig ihren Zustand ändern. Regeln, die beschreiben, | ||
Zeile 48: | Zeile 82: | ||
==== Aufgabe ==== | ==== Aufgabe ==== | ||
+ | |||
+ | <WRAP center round box 100%> | ||
+ | |||
+ | {{: | ||
+ | |||
Gegeben sind die Gewichte \( w_{11} = w_{22} = 0 \), sowie \( w_{12} = w_{21} = 2 \). | Gegeben sind die Gewichte \( w_{11} = w_{22} = 0 \), sowie \( w_{12} = w_{21} = 2 \). | ||
Zeile 54: | Zeile 93: | ||
Berechnen Sie die gewichtete Summe \( net_2 \). | Berechnen Sie die gewichtete Summe \( net_2 \). | ||
+ | |||
+ | {{: | ||
\( net_2 = \sum w_{i2} \cdot x_i = w_{12} \cdot x_1 + w_{22} \cdot x_2 = 2 \cdot (-1) + 0 \cdot 1 = -2 \) | \( net_2 = \sum w_{i2} \cdot x_i = w_{12} \cdot x_1 + w_{22} \cdot x_2 = 2 \cdot (-1) + 0 \cdot 1 = -2 \) | ||
+ | </ | ||
===== Das McCulloch Modell ===== | ===== Das McCulloch Modell ===== | ||
Zeile 65: | Zeile 107: | ||
* Eingangsneurone ($X_1,X_2$) können 0 oder 1 sein. | * Eingangsneurone ($X_1,X_2$) können 0 oder 1 sein. | ||
* Ausgangsneuron ($X_3$) kann 0 oder 1 sein. | * Ausgangsneuron ($X_3$) kann 0 oder 1 sein. | ||
- | * Aktivierungsfunktion ist eine einfache Schwellenwertfunktion | + | * Die Aktivierungsfunktion |
+ | |||
{{ : | {{ : |
von_der_nervenzelle_zum_modell.1705833373.txt.gz · Zuletzt geändert: 2024/01/21 10:36 von torsten.roehl