1
Cosa succede quando mescolo le funzioni di attivazione?
Esistono diverse funzioni di attivazione, come ReLU, sigmoid o tanhtanh\tanh . Cosa succede quando mescolo le funzioni di attivazione? Recentemente ho scoperto che Google ha sviluppato la funzione di attivazione Swish che è (x * sigmoid). Modificando la funzione di attivazione può aumentare la precisione su piccoli problemi di rete …