Un document tagué avec "activation-functions"

Distinguer ReLU, GELU, SiLU/Swish et les variantes GLU, puis les comparer à budget contrôlé.