Giải:

\[(a-1)(b-1)(c-1)\geq 0\Leftrightarrow (ab-a-b+1)(c-1)\geq 0\Leftrightarrow abc-ab-ac+a-bc+b+c-1\geq 0\Leftrightarrow abc\geq ab+bc+ac-5\]

\[(3-a)(3-b)(3-c)\geq 0\Leftrightarrow (9-3b-3a+ab)(3-c)\geq 0\Leftrightarrow 27-9c-9b-9a+3ac+3ab+3bc-abc\geq 0\Leftrightarrow 3ab+3bc+3ac\geq 27+abc\geq ab+bc+ac-5+27\Leftrightarrow ab+bc+ac\geq 11\]

\[P=\frac{\sum a^2b^2+12abc+72}{ab+bc+ac}-\frac{1}{2}abc\leq \frac{(ab+bc+ac)^2-12abc+12abc+72}{ab+bc+ac}-\frac{1}{2}(ab+bc+ac-5)=\frac{ab+bc+ac}{2}+\frac{72}{ab+bc+ac}+\frac{5}{2}=\frac{t}{2}+\frac{72}{t}+\frac{5}{2}(t=ab+bc+ac;t\geq 11)\]

Ta có: $t=ab+bc+ca\leq \dfrac{(a+b+c)^{2}}{3}=12\Rightarrow 11 \leq t\leq 12$

Xét hiệu: $\dfrac{t}{2}+\dfrac{72}{t}+\dfrac{5}{2}-\dfrac{160}{11}=\dfrac{(11t-144)(t-11)}{22t}\leq 0$

 $\Rightarrow Max_P=\dfrac{160}{11}$

Đẳng thức xảy ra $⇔(a;b;c)=(1;2;3)$ và hoán vị của chúng

$P/S:$ Bạn có thể giải theo cách sau:

Biến đổi BDT đã cho: $P=ab+bc+ca+\dfrac{72}{ab+bc+ca}-\dfrac{1}{2}abc$

Kết hợp giả thiết + BDT cosi 

\[P \leq t+\frac{72}{t}-\frac{1}{2}(t-5)=\frac{t}{2}+\frac{72}{t}+\frac{5}{2}(t=ab+ca+bc)\]

$→$ Bài toán quy về khảo sát hàm số

Đáp án:

 

Giải thích các bước giải: 160/11