定义平面向量的一种运算“0”如下,对任意的a=（m,n),b=(p,q)令a0b=mq-np,则(a0b)^2+(a*b)^2=|a|^2|b|^2,

a*b应该是a与b的点积 mp+nq 吧!
直接验证就是了,这种题目不会做的原因通常是因为不适应新定义的运算.
(a0b)^2+(a*b)^2=(mq-np)^2+(mp+nq)^2
=(mq)^2-2mqnp+(np)^2+(mp)^2-2mpnq+(nq)^2
=(mq)^2+(np)^2+(mp)^2+(nq)^2
=(m^2+n^2)(p^2+q^2)
=|a|^2|b|^2