Ta có $\left ( a^2+\frac{1}{b^2} \right )\left ( b^2+\frac{1}{b^2} \right )=a^2b^2+\frac{1}{a^2b^2}+2$

Ta cần chứng minh: $a^2b^2+\frac{1}{a^2b^2}+2\ge \frac{289}{16}$

$\Leftrightarrow a^2b^2+\frac{1}{256a^2b^2}+\frac{255}{256a^2b^2}\ge\frac{289}{16}$

Theo BĐT $AM-GM$ ta có: 

$a^2b^2+\frac{1}{256a^2b^2}+\frac{255}{256a^2b^2}\geq 2\sqrt{\frac{a^2b^2}{256a^2b^2}}+\frac{255}{256a^2b^2}$$=\frac{1}{8}+\frac{255}{256a^2b^2}$

Lại có $a+b=1\Leftrightarrow 1\ge2\sqrt{ab}\Leftrightarrow \frac{1}{2}\ge\sqrt{ab}\Leftrightarrow \frac{1}{16}\ge a^2b^2$

Do đó $\frac{1}{8}+\frac{255}{256a^2b^2}\ge\frac{1}{8}+\frac{255}{256.\frac{1}{16}}=\frac{289}{16}$

$\Rightarrow a^2b^2+\frac{1}{a^2b^2}+2\ge \frac{289}{16}$

Bất đẳng thức được chứng minh 

Dấu $"="$ xảy ra khi và chỉ khi $a=b=\frac{1}{2}$