Zu dieser Karteikarte gibt es einen kompletten Satz an Karteikarten. Kostenlos!

Alle Oberthemen / Telematik / Computational Intelligence / Computational Intelligence VO (442.070 TUGraz 2014)

What does adaptive learning rate mean in the context of gradiant descent?

Bei einer adaptiven Lernrate wird die Lernrate leicht erhöht wenn sich der Wert der Kostenfunktion seit den letzten Parametern verringert hat.
Wenn der Wert der Kostenfunktion für die neuen Parameter höher ist als für die alten dann werden die neuen Parameter nicht übernommen und die Lernrate moderat verringert.

Tags:
Quelle: CI Teil 1 Lecture 3

Neuer Kommentar

Karteninfo:

Autor: Sepp Samuel

Oberthema: Telematik

Thema: Computational Intelligence

Schule / Uni: TU Graz

Veröffentlicht: 02.07.2014

Deutsch English