Đáp án:

p=7

Giải thích các bước giải: 

Vì 2(p+1) và 2(p^2+1) là số chính phương nên chúng chia hết cho 4

Nên chúng có dạng:

$\begin{array}{l}
\left\{ \begin{array}{l}
2\left( {p + 1} \right) = {\left( {2x} \right)^2}\\
2\left( {{p^2} + 1} \right) = {\left( {2y} \right)^2}
\end{array} \right.\\
 \Leftrightarrow \left\{ \begin{array}{l}
p + 1 = 2{x^2}\\
{p^2} + 1 = 2{y^2}
\end{array} \right.\\
 \Leftrightarrow 2{y^2} - 2{x^2} = {p^2} + 1 - p - 1\\
 \Leftrightarrow 2.\left( {{y^2} - {x^2}} \right) = {p^2} - p = p\left( {p - 1} \right)\\
 \Leftrightarrow 2.\left( {y - x} \right).\left( {y + x} \right) = \left( {p - 1} \right).p\\
Do:\left\{ \begin{array}{l}
x < p\\
y < p\\
p + 1 < {p^2} + 1 \Leftrightarrow 2{x^2} < 2{y^2}
\end{array} \right.\\
 \Leftrightarrow \left\{ \begin{array}{l}
x < p\\
y < p\\
x < y
\end{array} \right.\\
 \Leftrightarrow 0 < x < y < p\\
 \Leftrightarrow \left\{ \begin{array}{l}
x + y < 2p\\
y - x < p
\end{array} \right.\\
Khi:2.\left( {y - x} \right).\left( {y + x} \right) = \left( {p - 1} \right).p\\
 \Leftrightarrow \left\{ \begin{array}{l}
x + y = p\\
2.\left( {y - x} \right) = p - 1
\end{array} \right.\\
 \Leftrightarrow \left\{ \begin{array}{l}
2x + 2y = 2p\\
2y - 2x = p - 1
\end{array} \right.\\
 \Leftrightarrow 2x + 2y - 2y + 2x = 2p - p + 1\\
 \Leftrightarrow 4x = p + 1\\
 \Leftrightarrow p = 4x - 1
\end{array}$

Mà p là số chính phương

$ \Leftrightarrow x = 2;p = 7$

Vậy p=7

Đáp án:

p=7