Đáp án:

$C.$

Giải thích các bước giải:

$g(x)=f(x^2-3x+m)\\ g'(x)=(2x-3)f'(x^2-3x+m)\\ g'(x)=0 \Leftrightarrow \left[\begin{array}{l} x=\dfrac{3}{2} \\f'(x^2-3x+m)=0 \end{array} \right. (1)$

$g(x)$ có $5$ cực trị $\Rightarrow (1)$ có $5$ nghiệm phân biệt 

$\Rightarrow f'(x^2-3x+m)=0$ có $4$ nghiệm phân biệt khác $\dfrac{3}{2}$ $(1)$

$f'(x)=0 \Leftrightarrow x=0; x=a (a>2)$

(Không xét $x=2$ do $f'(x)$ không đổi dấu qua nó)

$(1) \Rightarrow \left\{\begin{array}{l} x^2-3x+m=0 \text{ có 2 nghiệm phân biệt} \\ x^2-3x+m=a \text{ có 2 nghiệm phân biệt} (a>2) \\ m-\dfrac{9}{4} \ne 0 \\m-\dfrac{9}{4} \ne a  \end{array} \right.\\ \Leftrightarrow \left\{\begin{array}{l} x^2-3x=-m \text{ có 2 nghiệm phân biệt} \\ x^2-3x=-m+a \text{ có 2 nghiệm phân biệt} (a>2) \\ m \ne\dfrac{9}{4} \\m \ne  a+\dfrac{9}{4} \end{array} \right. (2)\\ h(x)=x^2-3x\\ h'(x)=2x-3\\ h'(x)=0 \Leftrightarrow x=\dfrac{3}{2}$

BBT:

\begin{array}{|c|ccccccccc|} \hline x&-\infty&&\dfrac{3}{2}&&\infty\\\hline h'(x)&&-&0&+&\\\hline &+\infty&&&&+\infty\\h(x)&&\searrow&&\nearrow&\\&&&-\dfrac{9}{4}\\\hline\end{array}

(Tham khảo đồ thị hình dưới)

Dựa vào đồ thị $(2) \Rightarrow -m>-\dfrac{9}{4} \Leftrightarrow m<\dfrac{9}{4}.$