Benutzer-Werkzeuge

Webseiten-Werkzeuge


von_der_nervenzelle_zum_modell

Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

Link zu dieser Vergleichsansicht

Beide Seiten der vorigen RevisionVorhergehende Überarbeitung
Nächste Überarbeitung
Vorhergehende Überarbeitung
von_der_nervenzelle_zum_modell [2024/01/21 10:36] – [Netzwerk Komponenten] torsten.roehlvon_der_nervenzelle_zum_modell [2024/01/21 11:01] (aktuell) – [Das McCulloch Modell] torsten.roehl
Zeile 38: Zeile 38:
   - Updateregel (//Update-Rule//)   - Updateregel (//Update-Rule//)
  
-=== zu 1: === +=== zu 1: (Neurone)=== 
-=== zu 2: === + 
-=== zu 3: === +Wir bezeichnen Neurone mit $x_i$ oder mit $x_j$, um anzudeuten, dass es sich um verschiedene Neurone handelt. Neurone können innerhalb des Netzwerks verschiedene Aufgaben haben: 
-=== zu 4: === + 
-=== zu 5: ===+  * Eingabeneurone, 
 +  * Ausgabeneurone 
 +  * oder versteckte Einheiten (//hidden units//), wenn sie weder direkt an der Eingabe noch an der Ausgabe beteiligt sind. 
 + 
 +=== zu 2: Verbindungen (Gewichte)=== 
 + Wenn zwei Neurone gegeben sind, z.B. $x_i$ und $x_j$, bezeichnen wir mit $w_{ij}$ die Verbindung (Gewicht) zwischen dem Neuron $x_i$ und dem Neuron $x_j$. Wenn das Neuron $x_j$ ebenfalls mit dem Neuron $x_i$ verbunden ist, lautet das Gewicht demnach $w_{ji}$. Dieses Gewicht ist eine reelle Zahl und soll die Verbindungsstärke zwischen den Neuronen repräsentieren. $w_{ij} = 0$ bedeutet z.B., dass es zwischen den Neuronen $x_i$ und $x_j$ überhaupt keine Verbindung gibt. 
 + 
 +\begin{equation} 
 +W=\begin{pmatrix} w_{11} &  w_{12} &  w_{13} &  w_{14} &  w_{15} &  w_{16} &  w_{17} &  w_{18} &  w_{19}  \\\  w_{21} &  w_{22} &  w_{23} &  w_{24} &  w_{25} &  w_{26} &  w_{27} &  w_{28} &  w_{29}\\\ w_{31} &  w_{32} &  w_{33} &  w_{34} &  w_{35} &  w_{36} &  w_{37} &  w_{38} &  w_{39}\\\ w_{41} &  w_{42} &  w_{43} &  w_{44} &  w_{45} &  w_{46} &  w_{47} &  w_{48} &  w_{49}\\\ w_{51} &  w_{52} &  w_{53} &  w_{54} &  w_{55} &  w_{56} &  w_{57} &  w_{58} &  w_{59}\\\ w_{61} &  w_{62} &  w_{63} &  w_{64} &  w_{65} &  w_{66} &  w_{67} &  w_{68} &  w_{69}\\\ w_{71} &  w_{72} &  w_{73} &  w_{74} &  w_{75} &  w_{76} &  w_{77} &  w_{78} &  w_{79}\\\ w_{81} &  w_{82} &  w_{83} &  w_{84} &  w_{85} &  w_{86} &  w_{87} &  w_{88} &  w_{89}  \\\ w_{91} &  w_{92} &  w_{93} &  w_{94} &  w_{95} &  w_{96} &  w_{97} &  w_{98} &  w_{99}  \end{pmatrix} 
 +\end{equation} 
 + 
 + 
 +Diese Gewichte kann man in Form einer Matrix $W$ anordnen. Im Beispiel oben sind 9 Zeilen und 9 Spalten also eine Matrix vom Typ 9x9 zu sehen. Die Eingabevektoren (Muster) für dieses Netzwerk haben damit 9 Komponenten.  
 +  * Der erste Index ist der Zeilenindex. 
 +  * Der zweite Index ist der Spaltenindex. 
 + 
 +So befindet sich z.B. in der 4. Zeile und 6. Spalte das Element $w_{46}$. 
 + 
 +=== zu 3: Netzeingabe (Abkürzung: net)=== 
 + Die nächste Komponente ist die Netzeingabefunktion $net_j$. Dabei ist $net_j$ eine Zahl, die die gesamte Eingabe für das Neuron $x_j$ repräsentiert. Die Eingabe hängt von allen Neuronen ab, die mit diesem Neuron verbundenen sind. 
 + 
 +\begin{equation} net_j = \sum w_{ij} \cdot x_i \end{equation}  
 + 
 +Gleichung 2 bedeutet, dass die gewichtete Summe des Neurons $x_j$ berechnet werden soll. Dabei werden alle Neurone, die Verbindungen zum Neuron $x_j$ haben, d.h., für die gilt $w_{ij}$ ≠ 0, mit ihrem Gewicht multipliziert und addiert. 
 + 
 + 
 +=== zu 4: Aktivierungsfunktion=== 
 + 
 +Alle Netze benötigen die sogenannte Aktivierungsfunktion (siehe Abschnitt Aktivierungsfunktion). Die Aktivierungsfunktion bestimmt, ob ein Neuron, das über Verbindung mit anderen Neuronen Informationen erhält, feuern soll oder nicht. 
 + 
 +=== zu 5: Updateregel (Update-Rule)=== 
 + 
 +Wenn der nächste Zustand der Neurone unabhängig von den anderen Neuronen berechnet wird, wird dies als **sequenziell** bezeichnet. 
 + 
 +Dem steht die **parallele** Berechnung gegenüber, bei der alle Neurone gleichzeitig ihren Zustand ändern. Regeln, die beschreiben, wie man den Zustand der Neurone im nächsten Zeitschritt berechnet, nennt man allgemein **Updateregeln**.
  
  
Zeile 48: Zeile 82:
  
 ==== Aufgabe ==== ==== Aufgabe ====
 +
 +<WRAP center round box 100%>
 +
 +{{:inf:aufgabe.gif?|}}
 +
 Gegeben sind die Gewichte \( w_{11} = w_{22} = 0 \), sowie \( w_{12} = w_{21} = 2 \). Gegeben sind die Gewichte \( w_{11} = w_{22} = 0 \), sowie \( w_{12} = w_{21} = 2 \).
  
Zeile 54: Zeile 93:
 Berechnen Sie die gewichtete Summe \( net_2 \). Berechnen Sie die gewichtete Summe \( net_2 \).
  
 +
 +{{:inf:solution.gif?|}}
 \( net_2 = \sum w_{i2} \cdot x_i = w_{12} \cdot x_1 + w_{22} \cdot x_2 = 2 \cdot (-1) + 0 \cdot 1 = -2 \) \( net_2 = \sum w_{i2} \cdot x_i = w_{12} \cdot x_1 + w_{22} \cdot x_2 = 2 \cdot (-1) + 0 \cdot 1 = -2 \)
  
 +</WRAP>
 ===== Das McCulloch Modell ===== ===== Das McCulloch Modell =====
  
Zeile 65: Zeile 107:
   * Eingangsneurone ($X_1,X_2$) können 0 oder 1 sein.   * Eingangsneurone ($X_1,X_2$) können 0 oder 1 sein.
   * Ausgangsneuron ($X_3$) kann 0 oder 1 sein.   * Ausgangsneuron ($X_3$) kann 0 oder 1 sein.
-  * Aktivierungsfunktion ist eine einfache Schwellenwertfunktion +  * Die Aktivierungsfunktion braucht für die Lösung dieses speziellen Problems nicht berücksichtigt werden. Ansonsten ist eine einfache Schwellenwertfunktion ausreichend. 
 +  
  
 {{ :inf:ki:sample_and.png? |}} {{ :inf:ki:sample_and.png? |}}
von_der_nervenzelle_zum_modell.1705833373.txt.gz · Zuletzt geändert: 2024/01/21 10:36 von torsten.roehl