درایه‌های بیرون قطر اصلی ماتریس $AB$ باید صفر باشند تا ماتریس $AB$ قطری شود، بنابراین داریم: $AB=\left[ \begin{matrix}   4 & a  \\   b & -1  \\\end{matrix} \right]\left[ \begin{matrix}   1 & -2  \\   3 & 2  \\\end{matrix} \right]=\left[ \begin{matrix}   \bigcirc  & -8+2a  \\   b-3 & \bigcirc   \\\end{matrix} \right]$ $\Rightarrow \left\{ \begin{matrix}   -8+2a=0\Rightarrow a=4  \\   b-3=0\Rightarrow b=3  \\\end{matrix} \right.\Rightarrow {{a}^{2}}+{{b}^{2}}=16+9=25$