$AB$ را حساب می‌کنیم. $A\times B=\left[ \begin{matrix} \begin{matrix} 4 & a+1  \\ \end{matrix}  \\ \begin{matrix} b-1 & -1  \\ \end{matrix}  \\ \end{matrix} \right]\left[ \begin{matrix} \begin{matrix} 1 & -2  \\ \end{matrix}  \\ \begin{matrix} 3 & 2  \\ \end{matrix}  \\ \end{matrix} \right]=\left[ \begin{matrix} \begin{matrix} 4+3(a+1) & -8+2(a+1)  \\ \end{matrix}  \\ \begin{matrix} b-1-3 & -2(b-1)-2  \\ \end{matrix}  \\ \end{matrix} \right]$ چون ماتریس $AB$  قطری است، پس درایه‌های غیر از قطر اصلی صفر هستند. $\left\{ \begin{matrix} -8+2(a+1)=0\Rightarrow a+1=4\Rightarrow a=3  \\ b-1-3=0\Rightarrow b=4  \\ \end{matrix} \right.\Rightarrow ab=12$