Cho các số thực \(1 > a > b > 0\).

* Hướng dẫn giải

Ta có: \(P =  - \frac{3}{4}{\log _a}\frac{a}{b} + {\left( {{{\log }_b}\left( {ab} \right)} \right)^2} = \frac{{ - 3}}{4}\left( {1 - {{\log }_a}b} \right) + {\left( {{{\log }_b}a + 1} \right)^2}\).

Đặt \(t = {\log _b}a\left( {0 < t < 1} \right)\) ta có: \(P = \frac{{ - 3}}{4}\left( {1 - \frac{1}{t}} \right) + {\left( {t + 1} \right)^2} = \frac{1}{4} + \frac{3}{{4t}} + {t^2} + 2t = f\left( t \right)\).

Khi đó \(f'\left( t \right) =  - \frac{3}{{4{t^2}}} + 2t + 2 = 0 \Leftrightarrow t = \frac{1}{2}\). Lại có: \(\mathop {\lim }\limits_{x \to {0^ + }} f\left( t \right) =  + \infty ;\mathop {\lim }\limits_{x \to 1} f\left( t \right) = 4;f\left( {\frac{1}{2}} \right) = 3\).

Do đó \({P_{\min }} = 3\) khi \(t = \frac{1}{2}\).