解:(1)因為f(x)是奇函數,函數的定義域為R,所以f(0)=

=0,可得b=1,
∴

,取f(-1)=-f(1)得

=

,解之得a=2
因此,

,滿足

=-

=-f(x),符合題意
所以a=2,b=1
(2)由(1)得,

=

,設x
1<x
2,則
f(x
1)-f(x
2)=

-(

)=

∵y=2
x在實數集上是增函數且函數值恒大于0,
∴

-

>0,

+1>0且

+1>0,可得f(x
1)-f(x
2)>0,即f(x
1)>f(x
2)
∴f(x)在(-∞,+∞)上是單調減函數
(3)∵f(x)是奇函數,
∴f(t
2-2t)+f(2t
2-k)<0,等價于f(t
2-2t)<-f(2t
2-k)=f(k-2t
2),
∵f(x)在(-∞,+∞)上為減函數,
∴由上式可得:t
2-2t>k-2t
2.
即對任意t∈R有:3t
2-2t-k>0,
∴△=4+12k<0?k<-

,即實數k的取值范圍是(-∞,-

).
分析:(1)利用特殊值:f(0)=0且f(-1)=-f(1),建立關于a、b的等式并解得a=2,b=1,再將其代入函數表達式加以檢驗即可;
(2)根據單調性的定義,設x
1<x
2,將f(x
1)與f(x
2)作差,再通分整理,可得這個差是一個正數,從而得到f(x
1)>f(x
2),所以f(x)在(-∞,+∞)上是單調減函數;
(3)根據函數的單調性和奇偶性,將原不等式恒成立轉化為關于t的一元二次不等式3t
2-2t-k>0恒成立,再利用一元二次不等式解法結合根的判別式,可求出k的取值范圍.
點評:本題給出一個含有指數式的分式形式的函數,叫我們討論它的單調性與奇偶性,著重考查了函數奇偶性與單調性的綜合應用,考查了一元二次不等式恒成立問題等知識,屬于中檔題.