Cho hàm số f(x) xác định và có đạo hàm f'(x) liên tục trên ,

Với $x\in \left[1;3\right]$ ta có: $f^{\text{'}}\left(x\right){\left[1+f\left(x\right)\right]}^2={\left[{\left(f\left(x\right)\right)}^2\left(x-1\right)\right]}^2\iff \frac{f^{\text{'}}\left(x\right){\left[1+f\left(x\right)\right]}^2}{{\left[f\left(x\right)\right]}^4}={\left(x-1\right)}^2$.
$\iff \left(\frac{1}{{\left[f\left(x\right)\right]}^4}+\frac{2}{{\left[f\left(x\right)\right]}^3}+\frac{1}{{\left[f\left(x\right)\right]}^2}\right)f^{\text{'}}\left(x\right)=x^2-2x+1$
Suy ra: $-\frac{1}{3{\left[f\left(x\right)\right]}^3}-\frac{1}{{\left[f\left(x\right)\right]}^2}-\frac{1}{f\left(x\right)}=\frac{x^3}{3}-x^2+x+C$ (lấy nguyên hàm hai vế).
Ta lại có: $f\left(1\right)=-1\Rightarrow \frac{1}{3}-1+1=\frac{1}{3}-1+1+C\Rightarrow C=0$.
Dẫn đến: $-\frac{1}{3}{\left(\frac{1}{f\left(x\right)}\right)}^3-{\left(\frac{1}{f\left(x\right)}\right)}^2-\frac{1}{f\left(x\right)}=-\frac{1}{3}{\left(-x\right)}^3-{\left(-x\right)}^2-\left(-x\right)\left(*\right)$.
Vì hàm số $g\left(t\right)=-\frac{1}{3}{t}^3-t^2-t$ nghịch biến trên R nên $\left(*\right)\Rightarrow \frac{1}{f\left(x\right)}=-x\Rightarrow f\left(x\right)=-\frac{1}{x}$.
Hàm số này thỏa các giả thiết của bài toán.
Do đó $\underset{1}{\overset{3}{\int }}f\left(x\right)\text{d}x=\underset{1}{\overset{3}{\int }}\left(-\frac{1}{x}\right)\text{d}x=-\ln 3\Rightarrow a=-1,b=0$. Vậy $S=a+b^2=-1$.

Chọn đáp án C