Để hai vecto \(\overrightarrow a + m\overrightarrow b \) và \(\overrightarrow a - m\overrightarrow b \) vuông góc với nhau thì:
\(\eqalign{& (\overrightarrow a + m\overrightarrow b )(\overrightarrow a - m\overrightarrow b ) = 0 \cr & \Leftrightarrow {(\overrightarrow a )^2} - m\overrightarrow a \overrightarrow b + m\overrightarrow a \overrightarrow b - {m^2}{(\overrightarrow b )^2} = 0 \cr & \Leftrightarrow |\overrightarrow a {|^2} - m|\overrightarrow a ||\overrightarrow b |cos(\overrightarrow a ,\overrightarrow b ) + m|\overrightarrow a ||\overrightarrow b |cos(\overrightarrow a ,\overrightarrow b ) - {m^2}|\overrightarrow b {|^2} = 0 \cr & \Leftrightarrow 9 + {{15} \over 2}m - {{15} \over 2}m - 25{m^2} = 0 \cr & \Leftrightarrow 9 - 25{m^2} = 0 \Leftrightarrow m = \pm {3 \over 5} \cr} \)
Vậy: $m = \pm {3 \over 5}$ thì hai vecto \(\overrightarrow a + m\overrightarrow b \) và \(\overrightarrow a - m\overrightarrow b \) vuông góc với nhau.