Trong không gian với hệ tọa độ Oxyz, cho hai điểm A(1; 4; 5) và B(-1; 2; 7)

Gọi I là trung điểm của AB.

Ta có:

$M{A}^2+M{B}^2={\overrightarrow{MA}}^2+{\overrightarrow{MB}}^2$

$={\left(\overrightarrow{MI}+\overrightarrow{IA}\right)}^2+{\left(\overrightarrow{MI}+\overrightarrow{IB}\right)}^2$

$=2M{I}^2+I{A}^2+I{B}^2+2\overrightarrow{MI}\left(\overrightarrow{IA}+\overrightarrow{IB}\right)$

$=2M{I}^2+\frac{1}{4}A{B}^2+\frac{1}{4}A{B}^2$

$=2M{I}^2+\frac{1}{2}A{B}^2$

Vì $A{B}^2={\left(-2\right)}^2+{\left(-2\right)}^2+2^2=12$ không đổi nên $M{A}^2+M{B}^2$ đạt GTNN khi $M{I}_{\min }.$

Khi đó $M{I}_{\min }=d\left(I;\left(P\right)\right)=\frac{\left|3.0-5.3+6-9\right|}{\sqrt{3^2+{\left(-5\right)}^2+1^2}}=\frac{18}{\sqrt{35}}.$

Vậy ${\left(M{A}^2+M{B}^2\right)}_{\min }=2.\frac{{18}^2}{35}+\frac{1}{2}.12=\frac{858}{35}.$

Chọn C.