Đáp án:

 B

Giải thích các bước giải:

\(\begin{array}{l}{\log _2}\frac{{3{x^2} + 3x + m + 1}}{{2{x^2} - x + 1}} = {x^2} - 5x + 2 - m\\ \Leftrightarrow {\log _2}\left( {3{x^2} + 3x + m + 1} \right) - {\log _2}\left( {2{x^2} - x + 1} \right) = {x^2} - 5x + 2 - m\\ \Leftrightarrow {\log _2}\left( {3{x^2} + 3x + m + 1} \right) - {\log _2}\left( {2{x^2} - x + 1} \right) - 1 = {x^2} - 5x + 1 - m\\ \Leftrightarrow {\log _2}\left( {3{x^2} + 3x + m + 1} \right) - {\log _2}\left( {4{x^2} - 2x + 2} \right) = \left( {4{x^2} - 2x + 2} \right) - \left( {3{x^2} + 3x + m + 1} \right)\\ \Leftrightarrow {\log _2}\left( {3{x^2} + 3x + m + 1} \right) + \left( {3{x^2} + 3x + m + 1} \right) = {\log _2}\left( {4{x^2} - 2x + 2} \right) + \left( {4{x^2} - 2x + 2} \right)\end{array}\)

Xét hàm số \(y = {\log _2}t + t\,\,\left( {t > 0} \right)\) ta có:

\(y' = \frac{1}{{t\ln 2}} + 1 > 0\,\,\forall t > 0\), do đó hàm số đồng biến trên \(\left( {0; + \infty } \right)\).

Từ đó ta có \(f\left( {3{x^2} + 3x + m + 1} \right) = f\left( {4{x^2} - 2x + 2} \right)\)

\(\begin{array}{l} \Leftrightarrow 3{x^2} + 3x + m + 1 = 4{x^2} - 2x + 2\\ \Leftrightarrow {x^2} - 5x + 1 - m = 0\,\,\left( * \right)\end{array}\)  

Để phương trình ban đầu có 2 nghiệm phân biệt lớn hơn 1 thì (*) có 2 nghiệm pb lớn hơn 1.

\(\begin{array}{l} \Rightarrow \left\{ \begin{array}{l}\Delta  > 0\\S = {x_1} + {x_2} > 2\\\left( {{x_1} - 1} \right)\left( {{x_2} - 1} \right) > 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l}25 - 4\left( {1 - m} \right) > 0\\5 > 2\,\,\left( {luon\,\,dung} \right)\\{x_1}{x_2} - \left( {{x_1} + {x_2}} \right) + 1 > 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l}21 + 4m > 0\\1 - m - 5 + 1 > 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l}m >  - \frac{{21}}{4}\\m <  - 3\end{array} \right. \Rightarrow  - \frac{{21}}{4} < m <  - 3\end{array}\)

Mà m nguyên \( \Rightarrow m \in \left\{ { - 5; - 4} \right\}\).

Chọn B.