Biết rằng tập hợp tất cả các giá trị thực của tham số m để hàm số

* Hướng dẫn giải

Đáp án D

Ta có $y\text{'}=x^2-2\left(m-1\right)x-\left(m-3\right)$

Để hàm số đồng biến trên các khoảng $\left(-3;-1\right)$ và $\left(0;3\right)$ thì $y\text{'}\ge 0$ với mọi $x\in \left(-3;-1\right)$ và $x\in \left(0;3\right)$

Hay

$$\begin{gathered} x^2-2\left(m-1\right)x-\left(m-3\right)\ge 0\iff x^2+2\text{x}+3\ge m\left(2\text{x}+1\right) \\ \iff \frac{x^2+2\text{x}+3}{2\text{x}+1}\ge m \end{gathered}$$

với $x\in \left(0;3\right)$ và $\frac{x^2+2\text{x}+3}{2\text{x}+1}\le m$ với $x\in \left(-3;-1\right)$

Xét $f\text{'}\left(x\right)=\frac{x^2+2\text{x}+3}{2\text{x}+1}=\frac{2\left(x-1\right)\left(x+2\right)}{2\text{x}+1}\to f\text{'}\left(x\right)=0\iff \left[\begin{array}{l}x=1\\ x=-2\end{array}\right.$

Dựa vào bảng biến thiên của đồ thị hàm số $f\left(x\right),$ để $f\left(x\right)$ đồng biến trên khoảng $\left(-3;-1\right)$ thì $m\le 2$ và để $f\left(x\right)$ đồng biến trên khoảng $\left(0;3\right)$ thì $m\ge -1\Rightarrow a^2+b^2=5$