Đáp án:

 

Giải thích các bước giải:

 Trước hết ta chứng minh bổ đề sau:

Với mọi số thực dương $x;y$ ta luôn có: $x^5+y^5\geq x^2y^2(x+y)$

Thật vậy, BĐT đã cho tương đương:

$x^5+y^5 \geq x^3y^2+x^2y^3⇔x^5-x^3y^2+y^5-x^2y^3 \geq 0$

$⇔x^3(x^2-y^2)-y^3(x^2-y^2) \geq 0$

$⇔(x^3-y^3)(x^2-y^2) \geq 0$

$⇔(x-y)(x^2+xy+y^2)(x-y)(x+y) \geq 0$

$⇔(x-y)^2(x+y)(x^2+xy+y^2) \geq 0$ (luôn đúng)

Vậy bổ đề đã được chứng minh xong.

Áp dụng vào bài toán ta có:

$a^5+b^5+ab \geq a^2b^2(a+b)+ab ⇒\dfrac{ab}{a^5+b^5+ab} \leq \dfrac{ab}{a^2b^2(a+b)+ab}$

$⇔\dfrac{ab}{a^5+b^5+ab} \leq \dfrac{1}{ab(a+b)+1}=\dfrac{c}{abc(a+b)+c}$

$⇔\dfrac{ab}{a^5+b^5+ab}  \leq \dfrac{c}{a+b+c}$ (do $abc=1$)

Hoàn toàn tương tự ta có:

$\dfrac{bc}{b^5+c^5+bc} \leq \dfrac{a}{a+b+c}$

$\dfrac{ca}{c^5+a^5+ca} \leq \dfrac{b}{a+b+c}$

Cộng vế với vế:

$⇒P \leq \dfrac{c}{a+b+c}+\dfrac{a}{a+b+c}+\dfrac{b}{a+b+c}=\dfrac{a+b+c}{a+b+c}=1$

Vậy $P_{max}=1$ khi $a=b=c=1$