Tìm tất cả các giá trị thực của tham số m để

* Hướng dẫn giải

Chọn D.

Ta có $y=\frac{4}{3}{\sin }^{3}2x+2{\cos }^{2}2x-\left(m^2+3m\right)\sin 2x-1$ hay $y=\frac{4}{3}{\sin }^{3}2x-2{\sin }^{2}2x-\left(m^2+3m\right)\sin 2x+1$ do vậy $y\text{'}=2\left[4{\sin }^{2}2x-4\sin 2x-\left(m^2+3m\right)\right]\cos 2x.$

Với $\forall x\in \left(0;\frac{\pi }{4}\right)$ ta có cos2x>0 vì vậy hàm số đã cho nghịch biến trên khoảng $\left(0;\frac{\pi }{4}\right)$ khi và chỉ khi $y\text{'}\ge 0,\forall x\in \left(0;\frac{\pi }{4}\right)\iff 4{\sin }^{2}2x-4\sin 2x-\left(m^2+3m\right)\ge 0,\forall x\in \left(0;\frac{\pi }{4}\right).$

Đặt t=sin2x với $\forall x\in \left(0;\frac{\pi }{4}\right)$ ta được $t\in \left(0;1\right)$ do vậy ta có bất phương trình $4t^2-4t-\left(m^2+3m\right)\ge 0,\forall t\in \left(0;1\right)\iff 4t^2-4t\ge m^2+3m,\forall t\in \left(0;1\right).$

Xét hàm số $g\left(t\right)=4t^2-4t$ ta có bảng biến thiên như sau

Qua bảng ta cần có $m^2+3m\le 1\iff m^2+3m-1\le 0\iff \frac{-3-\sqrt{5}}{2}\le m\le \frac{-3+\sqrt{5}}{2}.$