Tìm tất cả các giá trị của tham số m sao cho phương trình x^3-3x^2+(2m-2)x+m-3 có ba nghiệm x1,x2,x3

Đặt $f\left(x\right)=x^3-3x^2+\left(2m-2\right)x+m-3$. Ta thấy hàm số liên tục trên $ℝ$

Dễ thấy nếu $x\to -\infty$ thì $f\left(x\right)\to -\infty$ hay $f\left(x\right)<0$

Suy ra điều kiện cần để $f\left(x\right)=0$ có 3 nghiệm thỏa mãn $x_1<-1<x_2<x_3$ là $f\left(-1\right)>0\iff -m-5>0\iff m<-5$

Điều kiện đủ: với $m<-5$ ta có

$*)\underset{x\to -\infty }{\lim }f\left(x\right)=-\infty$ nên tồn tại $a<-1$  sao cho $f\left(a\right)<0$

Mặt khác $f\left(-1\right)=-m-5>0$. Suy ra $f\left(a\right).f\left(-1\right)<0$

Do đó tồn tại $x_1\in \left(a;-1\right)$ sao cho $f\left(x_1\right)=0$

*) $f\left(0\right)=m-3<0,f\left(-1\right)>0$. Suy ra $f\left(0\right).f\left(-1\right)<0$

Do đó tồn tại $x_2\in \left(-1;0\right)$ sao cho $f\left(x_2\right)=0$

*) $\underset{x\to +\infty }{\lim }f\left(x\right)=+\infty$ nên tồn tại $b>0$ sao cho $f\left(b\right)>0$
Mặt khác $f\left(0\right)<0$. Suy ra $f\left(0\right).f\left(b\right)<0$

Do đó tồn tại $x_3\in \left(0;b\right)$ sao cho $f\left(x_3\right)=0$
Vậy m < −5 thỏa mãn yêu cầu bài toán.

Đáp án cần chọn là: B