Soluzione

a)
Dobbiamo diagonalizzare $f$:
prendiamo un vettore non isotropo, ad esempio $\mathbf{v}_{1}=(1,0,0)$, e calcoliamo il suo sottospazio ortogonale:

\begin{displaymath}\mathbf{v}_{1}^{\perp}=\{ (x,y,z)\in\mathbf{R}^3 \vert \,\beg...
...{array}
\begin{array}({c})
x\\
y\\
z
\end{array}=0 \}=
\end{displaymath}


\begin{displaymath}=\{ (x,y,z)\in\mathbf{R}^3 \vert \, 3x+z=0 \},
\end{displaymath}

da cui si ha: $\mathbf{v}_{1}^{\perp}=<(1,0,-3),(0,1,0)>$. Scegliamo come secondo vettore $\mathbf{v}_{2}=(0,1,0)$ e procediamo in modo analogo:

\begin{displaymath}\mathbf{v}_{2}^{\perp}=\{ (x,y,z)\in\mathbf{R}^3 \vert \,\beg...
...{array}
\begin{array}({c})
x\\
y\\
z
\end{array}=0 \}=
\end{displaymath}


\begin{displaymath}=\{ (x,y,z)\in\mathbf{R}^3 \vert \, y=0 \}.
\end{displaymath}

Il terzo vettore della base diagonalizzante è dato dall'intersezione dei sottospazi ortogonali ai primi due vettori:

\begin{displaymath}\left \{\begin{array}{l}
z=-3x\\
y=0
\end{array}\right. ,
\end{displaymath}

perciò otteniamo che $\mathbf{v}_{3}=(1,0,-3)$. Trovata la base diagonale $\mathcal{B}$ cercata, diagonalizziamo $f$:

\begin{displaymath}Mat(f,\mathcal{B})=(M_{\mathcal{E,B}}(id_{\mathbf{R}^3}))^{t}...
...({ccc})
3 & 0 & 0\\
0 & 3 & 0\\
0 & 0 & -12
\end{array}
\end{displaymath}

. La segnatura di $f$ è (2,1) e la sua forma canonica diventa: $x_{1}^2+x_{2}^2-x_{3}^2$.
Inoltre $f$ non è un prodotto scalare, ma una forma indefinita.
b)
Troviamo i vettori che generano $\mathbf{U}$:
$\mathbf{U}=\{ (x,y,z)\in\mathbf{R}^3 \vert \, x=2y+z \}=$ $=\{ (2y+z,y,z)\in\mathbf{R}^3 \vert \, y,z \in\mathbf{R} \}=<(1,0,1),(2,1,0)>$.
Il sottospazio vettoriale $\mathbf{U}^{\perp}$ è dato dall'intersezione dei sottospazi ortogonali ai vettori che generano $\mathbf{U}$, quindi

\begin{displaymath}\mathbf{v}_{1}^{\perp}=\{ (x,y,z)\in\mathbf{R}^3 \vert \,\beg...
...{array}
\begin{array}({c})
x\\
y\\
z
\end{array}=0 \}=
\end{displaymath}


\begin{displaymath}=\{ (x,y,z)\in\mathbf{R}^3 \vert \, x=0 \};
\end{displaymath}


\begin{displaymath}\mathbf{v}_{2}^{\perp}=\{ (x,y,z)\in\mathbf{R}^3 \vert \,\beg...
...{array}
\begin{array}({c})
x\\
y\\
z
\end{array}=0 \}=
\end{displaymath}


\begin{displaymath}=\{ (x,y,z)\in\mathbf{R}^3 \vert \, 6x+3y+2z=0 \};
\end{displaymath}

perciò dallo spazio delle soluzioni del sistema

\begin{displaymath}\left\{\begin{array}{l}
x=0\\
6x+3y+2z=0
\end{array}\righ...
...\left\{\begin{array}{l}
x=0\\
3y=-2z
\end{array}\right. .
\end{displaymath}

Quindi una base per il sottospazio vettoriale $\mathbf{U}^{\perp}$ di dimensione 1 è $\mathcal{C}=(0,-2,3)$.