zum Directory-modus

Tutorial MenueNeuronale Netze - Eine EinführungLerneinheit 2 von 5

Konzepte des Konnektionismus

Aktivierungszustand

Der Aktivierungszustand a i t eines Neurons wird in der technischen Realisierung unterschiedlich dargestellt. Man unterscheidet (quasi-) kontinuierliche und diskrete Wertebereiche. Im Falle kontinuierlicher Wertebereiche unterscheidet man wiederum Modelle, die alle reellen Zahlen (real, float) als Werte zulassen, andere verwenden ein Intervall. Die meisten Modelle beschränken die Aktivierung auf ein Intervall, beispielsweise 0 1 oder 1 1 . Dies kommt daher, dass diese Modelle meistens eine nichtlineare, häufig sigmoide Aktivierungsfunktion und die Identität als Ausgabefunktion verwenden, wodurch die Ausgabe identisch mit der Aktivierung wird und der Wertebereich der Aktivierungsfunktion den Wertebereich des Aktivierungszustandes angibt.

Manche Modelle verwenden aus theoretischen Gründen diskrete Aktivierungszustände, wie etwa das ursprüngliche Hopfield-Modell. Diese werden dann auch in einer Implementierung als binäre Werte, beispielsweise 0 1 , 1 1 oder auch + , gespeichert und verarbeitet. Oft werden aber auch aus implementierungstechnischen Gründen in Simulatoren und speziell in Spezialprozessoren für neuronale Netze diskrete Werte für den Aktivierungszustand verwendet. Ein vor wenigen Jahren sehr populärer Simulator für neuronale Netze, der Rochester Connectionist Simulator (RCS), verwendete beispielsweise Aktivierungswerte im Bereich 1.000 1.000 , um mit Integer-Arithmetik schneller rechnen zu können. Bei modernen Workstations spielt dieser Gesichtspunkt allerdings heute keine Rolle mehr, so dass man bei einer Software-Simulation allgemein Gleitkommazahlen (float) verwendet. Die unterschiedlichen Varianten des Aktivierungszustandes sind in (Abb. 1) dargestellt.

Abb.1
Unterschiedliche Realisierungen des Aktivierungszustandes
Seite 5 von 9