所以解得
所以C点的坐标为(0,5).
从而=(-2,4),=(-4,2),
所以||=,||=,·=8+8=16.
设与的夹角为θ,
则cos θ===,
所以矩形ABCD的两条对角线所夹的锐角的余弦值为.
10.解:(1)由|ka+b|=|a-kb|,得(ka+b)2=3(a-kb)2,
所以k2a2+2ka·b+b2=3a2-6ka·b+3k2b2.
所以(k2-3)a2+8ka·b+(1-3k2)b2=0.
因为|a|=1,|b|=1,
所以k2-3+8ka·b+1-3k2=0,
所以a·b==.
(2)由(1),得a·b==,由函数的单调性的定义,易知f(k)=在(0,1]上单调递减,在[1,+∞)上单调递增,
所以当k=1时,a·b的最小值为f(1)=×(1+1)=.
此时a,b的夹角为θ,
则cos θ===,所以θ=60°.