Cho hai số thực x, y thỏa mãn x, y > 1 và

* Hướng dẫn giải

Chọn C.

Ta có ${\log }_3{\left[\left(x+1\right)\left(y+1\right)\right]}^{y+1}=9-\left(x-1\right)\left(y+1\right)\iff \left(y+1\right){\log }_3\left(x+1\right)\left(y+1\right)=9-\left(x-1\right)\left(y+1\right)$

$\iff {\log }_3\left(x+1\right)\left(y+1\right)=\frac{9}{y+1}-\left(x-1\right)\iff {\log }_3\left(x+1\right)+{\log }_3\left(y+1\right)=\frac{9}{y+1}-x+1.$

$\iff {\log }_3\left(x+1\right)+x-1=-{\log }_3\left(y+1\right)+\frac{9}{y+1}\iff {\log }_3\left(x+1\right)+x+1={\log }_3\frac{9}{y+1}+\frac{9}{y+1}\left(1\right).$

Xét hàm số $y=f\left(t\right)={\log }_{3}t+t$ có $f\text{'}\left(t\right)=\frac{1}{t\ln 3}+1>0,\forall t\in \left(0;+\infty \right),$ nên hàm số f(t) đồng biến trên $\left(0;+\infty \right).$

Từ (1) ta có $f\left(x+1\right)=f\left(\frac{9}{y+1}\right)\iff x+1=\frac{9}{y+1}\iff \left(x+1\right)\left(y+1\right)=9\iff xy+x+y=8.$

Khi đó $P=x^3+y^3-57\left(x+y\right)={\left(x+y\right)}^3-3xy\left(x+y\right)-57\left(x+y\right)$

$={\left(x+y\right)}^3-3\left(8-x-y\right)\left(x+y\right)-57\left(x+y\right)$

Đặt $t=x+y,t>2\Rightarrow g\left(t\right)=t^3-3\left(8-t\right)t-57t=t^3+3t^2-81t$ với t > 2

Ta có $g\text{'}\left(t\right)=3t^2+6t-81=0\iff \left[\begin{array}{l}t=-1+2\sqrt{7}\left(n\right)\\ t=-1-2\sqrt{7}\left(l\right)\end{array}\right..$

Ta có bảng biến thiên của hàm g(t) trên $\left(2;+\infty \right).$

Nhìn vào bảng biến thiên, ta thấy $P_{\min }=g\left(-1+2\sqrt{7}\right)=83-112\sqrt{7}.$

Suy ra $\left\{\begin{array}{l}a=83\\ b=-112\end{array}\right.\Rightarrow a+b=-29.$