Soluzione

a)
Affinché due matrici siano congruenti come matrici reali, devono avere la stessa segnatura; controlliamo in prima istanza che abbiano rango uguale:

\begin{displaymath}\det A=1+4=5 \neq 0, \end{displaymath}

quindi, essendo $A$ una matrice non degenere, ha rango massimo, cioè $r(A)=3$ (quindi anche $r(A^2)=3$ poiché $\det A^2=(\det A)^2 \neq 0$).
Calcoliamo ora $A^2$:

\begin{displaymath}A^2=\begin{array}({ccc}) 1 & 2 & 0\\ 2 & -1 & 0\\ 0 & 0 ... ...}({ccc}) 5 & 0 & 0\\ 0 & 5 & 0\\ 0 & 0 & 1 \end{array}; \end{displaymath}

$A^2$ è già diagonalizzata e possiamo vedere subito che ha 3 autovalori positivi, quindi la sua segnatura è (3,0). Dobbiamo trovare una base diagonalizzante per $A$:
prendiamo un vettore non isotropo, ad esempio $\mathbf{v}_{1}=(1,0,0)$ e determiniamo $\mathbf{v}_{1}^{\perp}$:
$\mathbf{v}_{1}^{\perp}=\{ (x,y,z) \in \mathbf{R}^3 \vert \begin{array}({ccc}) ... ... 0 & 0 & -1 \end{array} \begin{array}({c}) x\\ y\\ z \end{array}=0 \}=$ $=\{ (x,y,z) \in \mathbf{R}^3 \vert x+2y=0 \}$,
da cui otteniamo che $\mathbf{v}_{1}^{\perp}=<(-2,1,0),(0,0,1)>$. Scegliamo $\mathbf{v}_{2}=(-2,1,0)$, allora avremo che
$\mathbf{v}_{2}^{\perp}=\{ (x,y,z) \in \mathbf{R}^3 \vert \begin{array}({ccc}) ... ... 0 & 0 & -1 \end{array} \begin{array}({c}) x\\ y\\ z \end{array}=0 \}=$ $=\{ (x,y,z) \in \mathbf{R}^3 \vert \, y=0 \}$;
quindi otteniamo il terzo vettore della base risolvendo il sistema

\begin{displaymath}\left\{\begin{array}{l} x+2y=0\\ y=0 \end{array}\right. ,... ...d \left\{\begin{array}{l} x=0\\ y=0 \end{array}\right. , \end{displaymath}

che risulta essere $\mathbf{v}_{3}=(0,0,1)$. Quindi $\mathcal{C}=((1,0,0),(-2,1,0),(0,0,1))$ è una base diagonalizzante per la matrice $A$, perciò otterremo una matrice diagonale $B$, $B=M^{-1}AM$, ove $M$ è la matrice del cambiamento di base da $A$ a $B$:

\begin{displaymath}B=\begin{array}({ccc}) 1 & 0 & 0\\ -2 & 1 & 0\\ 0 & 0 & ... ...({ccc}) 1 & -2 & 0\\ 0 & 1 & 0\\ 0 & 0 & 1 \end{array}= \end{displaymath}


\begin{displaymath}=\begin{array}({ccc}) 1 & 0 & 0\\ 0 & -5 & 0\\ 0 & 0 & -1 \end{array}. \end{displaymath}

La segnatura di $A$ è (1,2) perché ha un autovalore positivo e due negativi, quindi le due matrici non sono congruenti come matrici reali. L'unica condizione affinché due matrici siano congruenti come matrici complesse è che abbiano lo stesso rango, quindi le matrici complesse $A$ e $A^2$ sono congruenti.
b)
Abbiamo già trovato che la segnatura di $A$ è (1,2), perciò la forma canonica per $q$ è $x_{1}^2-x_{2}^2-x_{3}^2$. Un vettore $\mathbf{w} \in \mathbf{T}^{\perp}$ se $f(\mathbf{v},\mathbf{w})=0, \quad \forall\mathbf{v}\in\mathbf{T}$. Quindi il sottospazio vettoriale $\mathbf{T}^{\perp}$ è equivalente al sottospazio delle soluzioni del sistema omogeneo

\begin{displaymath}\begin{array}({ccc}) 0 & -1 & 3 \end{array} \begin{array}(... ...end{array} \begin{array}({c}) x\\ y\\ z \end{array}=0, \end{displaymath}

ed è quindi determinato dall'equazione $y=2x+3z$; perciò

\begin{displaymath}\mathbf{T}^{\perp}:=<(1,2,0),(0,3,1)>. \end{displaymath}