Cho hàm số f(x) liên tục trên R và có

* Hướng dẫn giải

Chọn B.

Dựa vào đồ thị của hàm số f'(x) ta thấy $f\text{'}\left(x\right)=0\iff \left[\begin{array}{l}x=-1\\ x=2\end{array}\right.$ và $f\text{'}\left(x\right)>0\iff x>2.$

Ta có: $y\text{'}=\left(2x-2m\right)f\text{'}\left(x^2-2mx+m^2+1\right)=2\left(x-m\right)f\text{'}\left({\left(x-m\right)}^2+1\right)$

$y\text{'}=0\iff \left[\begin{array}{l}x-m=0\\ f\text{'}\left({\left(x-m\right)}^2+1\right)=0\end{array}\right.\iff \left[\begin{array}{l}x=m\\ {\left(x-m\right)}^2+1=-1\\ {\left(x-m\right)}^2+1=2\end{array}\right.$

* ${\left(x-m\right)}^2+1=-1\iff {\left(x-m\right)}^2=-2\to$ phương trình vô nghiệm.

* ${\left(x-m\right)}^2+1=2\iff {\left(x-m\right)}^2=1\iff \left[\begin{array}{l}x-m=1\\ x-m=-1\end{array}\right.\iff \left[\begin{array}{l}x=m+1\\ x=m-1\end{array}\right.$

Lại có: $f\text{'}\left({\left(x-m\right)}^2+1\right)>0\iff {\left(x-m\right)}^2+1>2\iff {\left(x-m\right)}^2>1\iff \left[\begin{array}{l}x-m>1\\ x-m<-1\end{array}\right.\iff \left[\begin{array}{l}x>m+1\\ x<m-1\end{array}\right.$

Bảng biến thiên:

Do đó, hàm số $y=f\left(x^2-2mx+m^2+1\right)$ nghịch biến trên $\left(0;\frac{1}{2}\right)\iff \left[\begin{array}{l}m-1\ge \frac{1}{2}\\ \left\{\begin{array}{l}m\le 0\\ m+1\ge \frac{1}{2}\end{array}\right.\end{array}\right.\iff \left[\begin{array}{l}m\ge \frac{3}{2}\\ -\frac{1}{2}\le m\le 0\end{array}\right.$

Mà m nguyên và $m\in \left[-5;5\right]\Rightarrow m\in S=\left\{0;2;3;4;5\right\}.$

Vậy tổng các phần tử của S là $0+2+3+4+5=14$.