Đáp án:

 \(m \leq -\dfrac{2}{3}\)

Giải thích các bước giải:

 TXĐ: D=R

\(y'=3x^{2}-6(m^{2}+3m+3)x+3(m^{2}+1)^{2}\)

Xét \(\Delta'=9(m^{2}+3m+3)^{2}-9(m^{2}+1)^{2}=9[(m^{2}+3m+3)^{2}-(m^{2}+1)^{2}]=9.(3m+2)(2m^{2}+3m+4)\)

TH1: \(\Delta' \leq 0\)

\(\Leftrightarrow 3m+2 \leq 0\)

\(\Leftrightarrow m \leq -\dfrac{2}{3}\)

Do \(a=3>0; \Delta' \leq 0\)

\(\Rightarrow y' \geq 0\)

Nên hàm số đồng biến R hay hàm số đồng biến \([1;+\infty)\)

TH2: \(\Delta'>0\)

Phương trình \(y'=0\) có 2 nghiệm phân biệt \(x_{1}; x_{2}\)

Để hàm số đồng biến \([1;+\infty)\) thì \([1;+\infty) \subset (x_{2};+\infty)\)

Ta có: 

\(x_{1}<x_{2} \leq 1 \Leftrightarrow \begin{cases}\dfrac{x_{1}+x_{2}}{2}<1\\(x_{1}-1)(x_{2}-1) \geq 0\end{cases}\) 

Xét \(\dfrac{x_{1}+x_{2}}{2}<1\) 

\(\Leftrightarrow \dfrac{2m^{2}+6m+6}{2}<0\)

\(\Leftrightarrow m^{2}+3m+2<0\)

\(\Leftrightarrow -2<m<-1\) ( vô lí do \(m>-\dfrac{2}{3}\) )

Vậy để hàm số đồng biến \([1;+\infty)\) thì \(m \leq -\dfrac{2}{3}\)