Đáp án:

`A_{\text{Max}}=5/8` 

Giải thích các bước giải:

Ta có:

`A=3(\frac{a}{a^2+2}+\frac{b}{b^2+2}-\frac{c^2}{4})+\frac{(ab-6)^2-4(a^2+b^2+8)}{2(2c^2+1)(a+b)^2}`

`=3(\frac{a}{a^2+2}+\frac{b}{b^2+2}-\frac{c^2}{4})+\frac{a^2b^2-12ab+4-4a^2-4y^2}{(4c^2+2)(a+b)^2}`

`=3(\frac{a}{a^2+2}+\frac{b}{b^2+2}-\frac{c^2}{4})+\frac{(ab-2)^2-4(a+b)^2}{(4c^2+2)(a+b)^2}`

`=3(\frac{a}{a^2+2}+\frac{b}{b^2+2}-\frac{c^2}{4})+\frac{4c^2-4}{4c^2+2}`

Đặt `x=1/a;y=1/b;z=2c`

`=>2xy+yz+zx=1`

Dễ thấy `A<=\frac{3}{\sqrt{z^2+2}}-\frac{3z^2}{16}+\frac{z^2-4}{z^2+2}`

Xét hàm số `f(z)=\frac{3}{\sqrt{z^2+2}}-\frac{3z^2}{16}+\frac{z^2-4}{z^2+2}`

`=>f'(x)=\frac{-3z(\sqrt{z^2+2}-4)}{(z^2+2)^2}-\frac{3z}{8}`

`f'(x)>=0<=>(z^2+2)^2+8(\sqrt{z^2+2}-4)<=0`

`<=>\sqrt{z^2+2}<=2<=>0<=z<=\sqrt{2}`

Lập bảng biến thiên tìm được giá trị lớn nhất của `A` là `5/8`

`<=>a=b=2+\sqrt{2};c=\frac{\sqrt{2}}{2}`