Để hai vecto a→+mb→ và a→−mb→ vuông góc với nhau thì:
(a→+mb→)(a→−mb→)=0⇔(a→)2−ma→b→+ma→b→−m2(b→)2=0⇔|a→|2−m|a→||b→|cos(a→,b→)+m|a→||b→|cos(a→,b→)−m2|b→|2=0⇔9+152m−152m−25m2=0⇔9−25m2=0⇔m=±35
Vậy: m=±35 thì hai vecto a→+mb→ và a→−mb→ vuông góc với nhau.