Gọi S là tập hợp tất cả các giá trị thực của tham số m để đồ thị hàm số y=x^2+mx+2m/x+1 có

Để tam giác OAB vuông tại O thì $\overrightarrow{OA}.\overrightarrow{OB}=0$

$\iff x_1.x_2+(x_1+m-1+\frac{m+1}{x_1+1})(x_2+m-1+\frac{m+1}{x_2+1})=0$

$\iff 2x_1.x_2+(m-1)(x_1+x_2)+(m+1)(\frac{x_1}{x_2+1}+\frac{x_2}{x_1+1})$

$+{(m-1)}^2+(m^2-1)(\frac{1}{x_1+1}+\frac{1}{x_2+1})+\frac{{(m+1)}^2}{(x_1+1)(x_2+1)}=0$

$\iff 2x_1.x_2+(m-1)(x_1+x_2)+(m+1)\frac{x_1^2+x_2^2+x_1+x_2}{x_1{x}_2+x_1+x_2+1}$

$+{(m-1)}^2+(m^2-1)\frac{x_1+x_2+2}{x_1{x}_2+x_1+x_2+1}+\frac{{(m+1)}^2}{x_1{x}_2+x_1+x_2+1}$

$x_1.x_2+(m-1)(x_1+x_2)+(m+1)\frac{{(x_1+x_2)}^2-2x_1{x}_2+x_1+x}{x_1{x}_2+x_1+x_2+1}$

$+{(m-1)}^2+(m^2-1)\frac{x_1+x_2+2}{x_1{x}_2+x_1+x_2+1}+\frac{{(m+1)}^2}{x_1{x}_2+x_1+x_2+1}$

$\iff -2m-2(m-1)+(m+1).\frac{2+2m}{-m-1}+{(m-1)}^2+\frac{{(m+1)}^2}{-m-1}=0$

$\iff -2m-2m+2-2-2m+m^2-2m+1-m-1=0$

$\iff m^2-9m=0\iff \left[\begin{array}{c}m=0\\ m=9\end{array}\right.\left(tm\right)$

$\Rightarrow S=\left\{0;9\right\}$