Formule
Soit $m$ le nombre d'exemples. $dZ^{(2)} = A^{(2)} - Y$ ; $dW^{(2)} = \frac{1}{m} dZ^{(2)} (A^{(1)})^T$ ; $db^{(2)} = \frac{1}{m} \sum_{\text{cols}} dZ^{(2)}$ ; $dZ^{(1)} = (W^{(2)})^T dZ^{(2)} \odot A^{(1)} \odot (1 - A^{(1)})$ ; $dW^{(1)} = \frac{1}{m} dZ^{(1)} X^T$ ; $db^{(1)} = \frac{1}{m} \sum_{\text{cols}} dZ^{(1)}$. Le terme $A^{(1)}(1-A^{(1)})$ est la dérivée de la sigmoïde.