Trong không gian Oxyz , cho mặt cầu (S) có tâm thuộc mặt phẳng

Gọi $I\left(x;y;z\right)$ là tâm của mặt cầu (S).
Vì $I\in \left(P\right)$ nên $x+2y+z=7 \left(1\right)$.
Mặt khác, (S) đi qua A và B nên $IA=IB\left(=R\right)$
$\iff {\left(x-1\right)}^2+{\left(y-2\right)}^2+{\left(z-1\right)}^2={\left(x-2\right)}^2+{\left(y-5\right)}^2+{\left(z-3\right)}^2$
$\iff x+3y+2z=16 \left(2\right)$.
Từ và suy ra nằm trên đường thẳng là giao tuyến của hai mặt phẳng: \

$\left\{\begin{array}{l}\left(P\right):x+2y+z=7\\ \left(Q\right):x+3y+2z=16\end{array}\right.\left(I\right)$.
$\Rightarrow d$ có một VTCP $\overrightarrow{u}=\left[\overrightarrow{n_{\left(P\right)}};\overrightarrow{n_{\left(Q\right)}}\right]=\left(1;-1;1\right)$, với $\overrightarrow{n_{\left(P\right)}}=\left(1;2;1\right)$ và $\overrightarrow{n_{\left(Q\right)}}=\left(1;3;2\right)$.
Mặt khác, cho $z=0$ thì (I) trở thành: $\left\{\begin{array}{l}x+2y=7\\ x+3y=16\end{array}\right.\iff \left\{\begin{array}{l}x=-11\\ y=9\end{array}\right.$.
$\Rightarrow d$ đi qua điểm $B\left(-11;9;0\right)$.
Do đó, d có phương trình tham số: $\left\{\begin{array}{l}x=-11+t\\ y=9-t\\ z=t\end{array}\right. \left(t\in ℝ\right)$.
$\Rightarrow I\left(-11+t;9-t;t\right)$.
$\Rightarrow R=IA=\sqrt{{\left(t-12\right)}^2+{\left(7-t\right)}^2+{\left(t-1\right)}^2}=\sqrt{3t^2-40t+194}$.
Đặt $f\left(t\right)=3t^2-40t+194$, $t\in ℝ$.
Vì $f\left(t\right)$ là hàm số bậc hai nên $\underset{ℝ}{\min }f\left(t\right)=f\left(\frac{20}{3}\right)=\frac{182}{3}$.
Vậy $R_{\min }=\sqrt{\frac{182}{3}}=\frac{\sqrt{546}}{3}$

Chọn đáp án A