Tìm tập hợp S tất cả các giá trị của tham số thực m để hàm số y=1/3x^3-(m+1)x^2+(m^2+2m)x-3 nghịch biến trên khoảng (-1;1) .

Đáp án C

TXĐ: $D=ℝ$ .

$y^{\text{'}}=x^2-2\left(m+1\right)x+\left(m^2+2m\right)=0\iff \left[\begin{array}{l}x=m\\ x=m+2\end{array}\right.$.

Bảng xét dấu

Để hàm số nghịch biến trên khoảng $\left(-1;1\right)$  thì $y^{\text{'}}\le \mathrm{0,}\forall x\in \left(-1;1\right)$

$\iff x^2-2\left(m+1\right)x+\left(m^2+2m\right)\le \mathrm{0,}\forall x\in \left(-1;1\right)$.

Từ bảng xét dấu ta thấy để hàm số nghịch biến trên khoảng (-1;1) thì

$\left\{\begin{array}{l}m\le -1\\ m+2\ge 1\end{array}\right.\iff \left\{\begin{array}{l}m\le -1\\ m\ge -1\end{array}\right.\iff m=-1$.