試験を採点しているとよく出会う書き間違いを紹介します。
行列は、数を正方形状または長方形状に並べたものを「角括弧」または「丸括弧」でくくったものです。 次のふたつ \[ \begin{bmatrix} 1&2 \\ 3&4 \end{bmatrix}, \quad \begin{pmatrix} 1&2 \\ 3&4 \end{pmatrix} \] は行列ですが、縦棒 $| \cdot |$ で囲んだもの \[ \begin{vmatrix} 1&2 \\ 3&4 \end{vmatrix} \] は行列そのものではなく行列式です。したがって、 \[ \begin{vmatrix} 1&2 \\ 3&4 \end{vmatrix} = -2 \] は正しいですが、 \[ \begin{bmatrix} 1&2 \\ 3&4 \end{bmatrix} = -2 \] は誤りです。
階段行列や標準形を求める場合の基本変形は $\to$ を使います。 例えば、第1行の3倍を第2行から引く変形は \[ \begin{bmatrix} 1&2 \\ 3&4 \end{bmatrix} \to \begin{bmatrix} 1&2 \\ 0&-2 \end{bmatrix} \] のように書きます。一方、行列式の計算でも第1行の3倍を第2行から引く、のような変形を行いますが、こちらの場合は、そのような変形を行っても行列式の値は変わらない、という事実により \[ \begin{vmatrix} 1&2 \\ 3&4 \end{vmatrix} = \begin{vmatrix} 1&2 \\ 0&-2 \end{vmatrix} \] と書かれることになります。 このふたつを混同して \[ \begin{bmatrix} 1&2 \\ 3&4 \end{bmatrix} = \begin{bmatrix} 1&2 \\ 0&-2 \end{bmatrix} \] と書くのは当然間違いですし、反対に \[ \begin{vmatrix} 1&2 \\ 3&4 \end{vmatrix} \to \begin{vmatrix} 1&2 \\ 0&-2 \end{vmatrix} \] と書いた場合は両者の行列式の値が等しいとは主張していない答案になりますので、最終的に出てきた値が何を意味しているか不明になります。