Đáp án:

D. \(m\in( - 4; - 1)\)

Giải thích các bước giải:

Đặt \(t = {x^2}\left( {t \ge 0} \right)\)

Khi đó, phương trình đã cho trở thành:

\(\left( {m + 1} \right){t^2} - 2\left( {2m - 3} \right)t + 6m + 5 = 0\,\,\,\,\,\,\,\,\,\,\,\,\left( 1 \right)\)

Phương trình đã cho có 4 nghiệm phân biệt khi và chỉ khi phương trình (1) có 2 nghiệm phân biệt dương

Mặt khác \({x_1} < {x_2} < {x_3} < 1 < {x_4}\)

nên phương trình (1) phải có 2 nghiệm thỏa mãn \(0 < {t_1} < 1 < {t_2}\)

Do đó,

\(\begin{array}{l}
\left\{ \begin{array}{l}
y' > 0\\
{t_1} + {t_2} > 0\\
{t_1}.{t_2} > 0\\
\left( {{t_1} - 1} \right)\left( {{t_2} - 1} \right) < 0
\end{array} \right.
 \Leftrightarrow \left\{ \begin{array}{l}
{\left( {2m - 3} \right)^2} - \left( {m + 1} \right)\left( {6m + 5} \right) > 0\\
\dfrac{{2\left( {2m - 3} \right)}}{{m + 1}} > 0\\
\dfrac{{6m + 5}}{{m + 1}} > 0\\
\dfrac{{6m + 5}}{{m + 1}} - \dfrac{{2\left( {2m - 3} \right)}}{{m + 1}} + 1 < 0
\end{array} \right.\\
 \Leftrightarrow \left\{ \begin{array}{l}
 - 2{m^2} - 23m + 4 > 0\\
\left[ \begin{array}{l}
m > \dfrac{3}{2}\\
m <  - 1
\end{array} \right.\\
\left[ \begin{array}{l}
m >  - \dfrac{5}{6}\\
m <  - 1
\end{array} \right.\\
\dfrac{{3m + 12}}{{m + 1}} < 0
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
\dfrac{{ - 23 - \sqrt {561} }}{4} < m < \dfrac{{ - 23 + \sqrt {561} }}{4}\\
\left[ \begin{array}{l}
m > \dfrac{3}{2}\\
m <  - 1
\end{array} \right.\\
 - 4 < m <  - 1
\end{array} \right. \\\Leftrightarrow  - 4 < m <  - 1
\end{array}\)