zum Directory-modus

Konzepte des Konnektionismus

Propagierungsregel und Aktivierungsfunktion

Die Propagierungsregel gibt die Netzeingabe, d.h. die Eingabe von allen anderen Zellen des Netzes, in ein bestimmtes Neuron an. Sie hat meist die Form der Gleichung , wobei O t wieder ein transponierter Zeilenvektor ist und W j die j -te Spalte der Gewichtsmatrix W .

net j t = i o i t w i j = O t W j

Biologisch motiviert kann man auch die anregenden (exzitatorischen) und hemmenden (inhibitorischen) Verbindungen in zwei verschiedenen Gewichtsmatrizen mit jeweils positiven Gewichten speichern und dann die Netzeingabe als deren Differenz berechnen.

net j t = net j , exzit t net j , inhib t

Dies ist auch in technischen Realisierungen neuronaler Netze notwendig, bei denen keine negativen Gewichte möglich sind (z.B. bei analoger Realisierung der Gewichte als Widerstände).

Die Aktivierungsfunktion berechnet den neuen Aktivierungszustand aus dem alten Zustand und Eingabewerten, meist nach der Formel

a j t + 1 = f act a j t net j t

In vielen Fällen haben die Zellen kein Gedächtnis, d.h. die neue Aktivierung a j t + 1 ist nicht abhängig von der alten Aktivierung a j t .

Man unterscheidet prinzipiell zwei Klassen von Aktivierungsfunktionen:

deterministische Aktivierungsfunktionen:
Bei deterministischen Aktivierungsfunktionen ist das Ergebnis von f act eindeutig (deterministisch) durch die Eingabe bestimmt.
stochastische Aktivierungsfunktionen:
Bei stochastischen Aktivierungsfunktionen ist das Ergebnis von f act durch eine Zufallsverteilung abhängig von der Eingabe.

Viele Autoren fassen die Propagierungsregel und Aktivierungsfunktion zu einer Funktion zusammen, die sie dann Aktivierungsfunktion nennen, andere nehmen sogar die Ausgabefunktion noch dazu und bezeichnen die ganze Informationsverarbeitung einer Zelle als Aktivierungsfunktion. Die Aufteilung in einzelne Teilfunktionen ist vor allem aus implementierungstechnischen Gründen sinnvoll, besonders dann, wenn Netze in synchronem Modus simuliert werden sollen, d.h. wenn alle Neuronen synchron ihre neue Aktivierung berechnen, bevor sie dann alle gleichzeitig ihre neue Ausgabe nach außen weitergeben.

Seite 8 von 9