Với giá trị nào của m để phương trình msin^2x -3sinx.cosx-m-1

* Hướng dẫn giải

Đáp án C

PT đã cho

$$\begin{gathered} \iff m\left({\sin }^{2}x-1\right)-3\sin x\cos x-1=0 \\ \iff 3\sin x\cos x+{\cos }^{2}x+1=0 \end{gathered}$$

Dễ thấy $\cos x\ne 0$ $\Rightarrow PT\iff {\tan }^{2}x+3\tan x+m+1=0$

Để PT đã cho có ba nghiệm thuộc $\left(0;\frac{3\pi }{2}\right)$  thì PT $t^2+3t+m+1=0$  có hai nghiệm trái dấu $\iff m+1<0\iff m<-1$