向量a+b与2a-b互相垂直,向量a-2b与2a+b互相垂直,求a与b夹角θ的余弦值.

因为相互垂直,列得
(a+b)(2a-b)=0,即2a^2+ab-b^2=0,ab=b^2-2a^2 (1)
(a-2b)(2a+b)=0,即2a^2-3ab-2b^2=0,ab=2(a^2-b^2)/3
即b^2-2a^2=2(a^2-b^2)/3
得8a^2=5b^2
将｜a｜=√10｜b｜/4带入第一个式子
即√10cosθb^2/4=b^2-5b^2/4=-b^2/4
cosθ=-√10/10