Chia cả 2 vế của đa thức cho $y^2$ ta có

$5x^2+xy+5y^2=y^2 \left[ 5 \left( \dfrac{x}{y} \right)^2 + \left( \dfrac{x}{y} \right) + 5 \right]$

Đặt $t = 5x^2+xy+5y^2$. Khi đó ta có

$5x^2+xy+5y^2= y^2(5t^2 + t + 5)$

Để đa thức đã cho thì đa thức $5t^2 + t  +5$ phải phân tích được thành nhân tử, tức là tồn tại số thực $a, b$ sao cho

$5t^2 + t + 5 = (t+a)(t+b)$

$<-> t^2 + (a+b)t + ab = 5t^2 + t + 5$
Đồng nhất 2 vế ta suy ra

$a + b = 1$ và $ab = 5$

Từ ptrinh đầu ta suy ra $b = 1-a$. Thế vào ptrinh sau ta có

$a(1-a) = 5$

$<-> a^2 -a+5 = 0$

Ptrinh này vô nghiệm, do đó không tồn tại số $a$, và do đó cùng không có số $b$.

Vậy đa thức $5t^2 + t + 5$ ko thể phân tích thành nhân tử, do đó đa thức đã cho ko phân tích đc thành nhân tử.