(1)（-2a的平方b)的三次方（-3ab的三次方）的平方 (2) -2ab(a-2)的平方 (3) (x+1）（x的平方-x+1)

(1)（-2a的平方b)的三次方（-3ab的三次方）的平方
=-8a^6b^3*9a^2b^6
=-72a^(6+2)*b^(3+6)
=-72a^8b^9
(2) -2ab(a-2)的平方
=-2ab(a^2-4a+4)
=-2a^3b+8a^2b-8ab
(3) (x+1）（x的平方-x+1)
=x^3+1
(4) (5a-4b)的平方-2（5a-4b)(3a-2b)
=25a^2-40ab+16b^2-2(15a^2-10ab-12ab+8b^2)
=25a^2-40ab+16b^2-30a^2+20ab+24ab-16b^2
=-5a^2+8ab