Formule
$Z^{[1]} = W^{[1]} X + b^{[1]}$ puis $A^{[1]} = \sigma(Z^{[1]})$, avec $W^{[1]}$ de dimension $(n_1, n_0)$, $b^{[1]}$ de dimension $(n_1, 1)$, $X$ de dimension $(n_0, m)$. Le résultat $Z^{[1]}$ est de dimension $(n_1, m)$. L'addition de $b^{[1]}$ utilise le broadcasting : la colonne $(n_1, 1)$ est étendue à $(n_1, m)$.