ReLU
Einfache, weit verbreitete Aktivierungsfunktion.
ReLU (Rectified Linear Unit) ist eine Aktivierungsfunktion, die negative Werte auf null setzt und positive unverändert durchlässt. Ihre Einfachheit macht das Training tiefer Netze schnell und stabil, weshalb sie zur Standardwahl in vielen Architekturen wurde.