y = \ln(1+e^x)

Gráfica de la función softplus $y = \ln(1 + e^x)$

$y = \ln(1 + e^x)$ se llama función softplus. Como $e^x > 0$ hace que $1 + e^x > 1$ , el logaritmo es siempre positivo, así que el dominio es el conjunto de todos los números reales y el rango es $y > 0$ . El interior $1 + e^x$ crece de forma monótona y $\ln$ es creciente, de modo que la función entera crece de forma monótona.

Dos asíntotas

El comportamiento por la izquierda y por la derecha no podría ser más distinto.

Lado	Aproximación	Asíntota
$x \to -\infty$	$\ln(1 + 0) = 0$	$y = 0$ , el eje $x$
$x \to +\infty$	$\ln(e^x) = x$	$y = x$

Plana hacia $0$ por la izquierda y tendiendo a la recta de pendiente $1$ por la derecha, es una forma doblada con suavidad.

La derivada es la sigmoide

La derivada es exactamente la función logística, o sigmoide.

y' = \frac{e^x}{1 + e^x} = \frac{1}{1 + e^{-x}}

Su valor está entre $0$ y $1$ , y tiende a $0$ cuando $x \to -\infty$ y a $1$ cuando $x \to +\infty$ . La segunda derivada es positiva, así que la gráfica es convexa en todo su recorrido.

Valores

$x$	$y$	Separación respecto de $x$
$-1$	$0.313$	$1.313$
$0$	$0.693$	$0.693$
$1$	$1.313$	$0.313$
$5$	$5.007$	$0.007$

Para $x$ grande la salida es casi igual a $x$ . La separación vale exactamente $\ln(1 + e^{-x})$ , y los valores aparecen en orden intercambiado en las dos columnas porque $y - x$ es igual al valor en $-x$ .

Relación con la ReLU

La ReLU $\max(0, x)$ , habitual en aprendizaje automático, tiene un pico en el origen donde no es derivable; la softplus es una aproximación suave que redondea ese pico, quedando redondeada cerca del origen y casi coincidiendo con la ReLU a lo lejos. Se usa como función de activación en redes neuronales y para parametrizar magnitudes que han de mantenerse positivas, como una varianza o un recuento de población. Que su derivada sea la sigmoide, o lo que es lo mismo, que la softplus sea la primitiva de la sigmoide, simplifica además el cálculo de gradientes.

Un truco para el cálculo numérico

Calcular $\ln(1 + e^x)$ directamente desborda cuando $x$ es grande, porque $e^x$ lo hace. Las implementaciones suelen reescribirlo en la forma siguiente para ganar estabilidad numérica.

\max(0, x) + \ln\!\left( 1 + e^{-|x|} \right)

El exponente no es nunca positivo, así que nada desborda.