Superficie de Pérdida: $\mathcal{L}(w) = \frac{1}{2}(y - wx)^2$
Objetivo: $w^* = 4.0$
GD Estándar
Momentum ($\gamma=0.9$)
AdaGrad
RMSProp ($\beta=0.99$)
Adam ($\beta_1=0.9, \beta_2=0.999$)
Iteración actual:
$t = 0$
Valores actuales del peso ($w_t$)
| Optimizador | Peso ($w_t$) | Gradiente ($g_t$) | Pérdida ($\mathcal{L}$) |
|---|