Giả sử \({x_1},{x_2}\) là nghiệm của phương trình \({x^2} - \left( {m + 2} \right)x + {m^2} + 1 = 0\).

* Hướng dẫn giải

Phương trình bậc hai \({x^2} - \left( {m + 2} \right)x + {m^2} + 1 = 0\) có nghiệm \({x_1},{x_2}\)

\( \Leftrightarrow \Delta  = {\left( {m + 2} \right)^2} - 4\left( {{m^2} + 1} \right) \ge 0 \Leftrightarrow  - 3{m^2} + 4m \ge 0 \Leftrightarrow 0 \le m \le \frac{4}{3}\) 

Áp dụng hệ thúc Viet ta có: \(\left\{ \begin{array}{l}
{x_1} + {x_2} = m + 2\\
{x_1}.{x_2} = {m^2} + 1
\end{array} \right.\) 

Khi đó \(P = 4\left( {{x_1} + {x_2}} \right) - {x_1}{x_2} = 4\left( {m + 2} \right) - \left( {{m^2} + 1} \right) =  - {m^2} + 4m + 7\) 

Xét hàm số \(P\left( m \right) =  - {m^2} + 4m + 7,\forall m \in \left[ {0;\frac{4}{3}} \right]\). Có \(P' =  - 2m + 4 \ge 0\forall m \in \left[ {0;\frac{4}{3}} \right]\) 

Hàm số P luôn đồng biến trên \(\left[ {0;\frac{4}{3}} \right] \Rightarrow \max P(m) = f\left( {\frac{4}{3}} \right) = \frac{{95}}{9}\) 

Vậy giá trị lớn nhất của biểu thức P là \(\frac{{95}}{9}\)