(1)由f(x)=bx
3+ax
2-3x,
則f′(x)=3bx
2+2ax-3,
∵f(x)在x=1和x=3處取得極值,
∴x=1和x=3是f′(x)=0的兩個根且b≠0.



.
∴f′(x)=-x
2+4x-3.
∵f(x)的圖象上每一點的切線的斜率不超過
2sintcost-2

cos
2t+

,
∴f′(x)≤2sintcost-2

cos
2t+

對x∈R恒成立,
而f′(x)=-(x-2)
2+1,其最大值為1.
故2sintcost-2

cos
2t+

≥1

2sin(2t-

)≥1

2k

+

≤2t-

≤2k

+


,k∈Z

k

+

≤t≤k

+

,k∈Z.
(2)當b=0時,由f(x)在R上單調,知a=0.
當b≠0時,由f(x)在R上單調

f′(x)≥0恒成立,或者f′(x)≤0恒成立.
∵f′(x)=3bx
2+2ax-3,
∴Δ=4a
2+36b≤0可得b≤-

a
2.
從而知滿足條件的點P(a,b)在直角坐標平面aOb上形成的軌跡所圍成的圖形是由曲線b=-

a
2與直線b=-1所圍成的封閉圖形,
其面積為S=

(1-

a
2)da=4.