Đáp án:

$\begin{array}{l}
a)\Delta  = {\left( {m + 2} \right)^2} - 4\left( {m - 1} \right)\\
 = {m^2} + 4m + 4 - 4m + 4\\
 = {m^2} + 8 \ge 8 > 0
\end{array}$

Vậy phương trình luôn có hai nghiệm phân biệt.

$\begin{array}{l}
b)Theo\,Viet:\left\{ \begin{array}{l}
{x_1} + {x_2} =  - m - 2\\
{x_1}{x_2} = m - 1
\end{array} \right.\\
x_1^2 + x_2^2 - x_1^2.x_2^2 = 17\\
 \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} - {\left( {{x_1}{x_2}} \right)^2} = 17\\
 \Leftrightarrow {\left( { - m - 2} \right)^2} - 2.\left( {m - 1} \right) - {\left( {m - 1} \right)^2} = 17\\
 \Leftrightarrow {m^2} + 4m + 4 - 2m + 2 - {m^2} + 2m - 1 = 17\\
 \Leftrightarrow 4m + 5 = 17\\
 \Leftrightarrow 4m = 12\\
 \Leftrightarrow m = 3\\
Vậy\,m = 3
\end{array}$

Đáp án+Giải thích các bước giải:

`a) Δ = (m + 2)^2 - 4. (m - 1)`

`= m^2 + 4m + 4 - 4m + 4`

`= m^2 + 8 > 0` 

Vậy pt `(1)` luôn có nghiệm phân biệt

`b)` 

Theo hệ thức Vi ét ta có: `{(x_1 + x_2 = - (m + 2)),(x_1. x_2 = m - 1):}`

Ta có: `(x_1)^2 + (x_2)^2 - (x_1)^2. (x_2)^2 = 17`

`<=> (x_1 + x_2)^2 - 2x_1x_2 - (x_1x_2)^2 = 17`

`<=> [-(m + 2)]^2 - 2(m - 1) - (m - 1)^2 = 17`

`<=> (m + 2)^2 - 2m + 2 - (m^2 - 2m + 1) = 17`

`<=> m^2 + 4m + 4 - 2m + 2 - m^2 + 2m - 1 = 17`

`<=> 4m = 12`

`<=> m = 3`

Vậy `m = 3`