Trong không gian với hệ trục Oxyz, cho các

* Hướng dẫn giải

Đáp án C

Ta có $\overrightarrow{OM}=a\overrightarrow{i}+b\overrightarrow{k}\Rightarrow M\left(a;0;b\right).$

$\begin{array}{l}\left\{\begin{array}{l}\overrightarrow{MA}=\left(-1-a;2;3-b\right)\\ \overrightarrow{MB}=\left(6-a;-5;8-b\right)\end{array}\right.\Rightarrow \overrightarrow{MA}-2\overrightarrow{MB}=\left(a-13;12;b-13\right).\\ {\left|\overrightarrow{MA}-2\overrightarrow{MB}\right|}^2={\left(a-13\right)}^2+{12}^2+{\left(b-13\right)}^2\ge {12}^2.\end{array}$

Suy ra $\min \left|\overrightarrow{MA}-2\overrightarrow{MB}\right|=12,$ xảy ra khi a=b=13

Ghi chú: Nhận xét rằng điểm thuộc mặt phẳng (Oxz) nên ta có thể xét điểm I sao cho $\overrightarrow{IA}-2\overrightarrow{IB}=\overrightarrow{0}$ và gọi H là hình chiếu vuông góc của I trên mặt phẳng (Oxz). Khi đó $I\left(13;-12;-13\right),H\left(13;0;13\right)$ và $\left|\overrightarrow{MA}-2\overrightarrow{MB}\right|=\left|\overrightarrow{MI}\right|=MI\ge HI.$

Suy ra $\min \left|\overrightarrow{MA}-2\overrightarrow{MB}\right|=IH=12,$ xảy ra khi $M\equiv H$ nên a=b=13