Đáp án:

a) Xét pt hoành độ giao điểm:

$\begin{array}{l}
{x^2} = \left( {m + 1} \right)x - 2\\
 \Rightarrow {x^2} - \left( {m + 1} \right)x + 2 = 0\\
 \Rightarrow \Delta  > 0\\
 \Rightarrow {\left( {m + 1} \right)^2} - 8 > 0\\
 \Rightarrow {\left( {m + 1} \right)^2} > {\left( {2\sqrt 2 } \right)^2}\\
 \Rightarrow \left[ \begin{array}{l}
m > 2\sqrt 2  - 1\\
m <  - 2\sqrt 2  - 1
\end{array} \right.\\
TheoViet:\left\{ \begin{array}{l}
{x_1} + {x_2} = m + 1\\
{x_1}{x_2} = 2
\end{array} \right.\\
x_1^2 + x_2^2 = 5\\
 \Rightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} = 5\\
 \Rightarrow {\left( {m + 1} \right)^2} - 4 = 5\\
 \Rightarrow {\left( {m + 1} \right)^2} = 9\\
 \Rightarrow \left[ \begin{array}{l}
m = 2\left( {tm} \right)\\
m =  - 4\left( {tm} \right)
\end{array} \right.
\end{array}$

b) Phương trình có đúng 2 nghiệm phân biệt thì phương trình:

${t^2} - 2mt + {m^2} - 1 = 0\left( {t = \left| x \right|} \right)$

Phải có nghiệm kép dương

$\begin{array}{l}
{t^2} - 2mt + {m^2} - 1 = 0\left( {t = \left| x \right|} \right)\\
 \Rightarrow \left\{ \begin{array}{l}
{m^2} - 1 \ne 0\\
\Delta ' = 0
\end{array} \right.\\
 \Rightarrow \left\{ \begin{array}{l}
m \ne  \pm 1\\
{m^2} - {m^2} + 1 = 0\left( {vô\,lý} \right)
\end{array} \right.
\end{array}$

Vậy không có giá trị m để pt có đúng 2 nghiệm phân biệt.