Opdatering af vægte

A-niveau

Kort

Forudsætninger og tidsforbrug

Forløbet kræver kendskab til:

Kunstige neuroner og/eller simple neurale netværk.
Sigmoid aktiveringsfunktion.
Gradientnedstigning.

Tidsforbrug pr. forløb: Ca. 90 minutter.

Formål

Formålet med disse korte forløb er gennem detaljerede beregninger at forstå, hvordan vægtene i en kunstig neuron eller i et simpelt neuralt netværk opdateres med brug af sigmoid aktiveringsfunktionen og gradientnedstigning.

Dette kan ses som et skridt på vejen til at forstå, hvordan vægtene opdateres i et generelt neuralt netværk.

Forløb om opdatering af vægte

Opdatering af vægte i en kunstig neuron

I dette forløb arbejdes der med at opdatere vægtene i en kunstig neuron med brug af sigmoid aktiveringsfunktionen og gradientnedstigning.

Opdatering af vægte i et simpelt neuralt netværk med to skjulte lag

I dette forløb arbejdes der med at opdatere vægtene i et simpelt neuralt netværk med to skjulte lag med brug af sigmoid som aktiveringsfunktion og gradientnedstigning med squared error som tabsfunktion.

Opdatering af vægte i et simpelt neuralt netværk med ét skjult lag (med cross-entropy som tabsfunktion)

I dette forløb arbejdes der med at opdatere vægtene i et neuralt netværk med ét skjult lag med brug af sigmoid aktiveringsfunktionen og gradientnedstigning med cross-entropy som tabsfunktion.