Trong không gian Oxyz, cho hình lăng trụ tam giác đều ABC.A′B′C′ có A'(cawn3;-1;1)

Phương trình $BC\equiv Oz:\left\{\begin{array}{c}x=0\\ y=0\\ z=t\end{array}\right.$

Mặt phẳng (AMM′A′) đi qua A′ và vuông góc với BC nên (AMM′A′) đi qua$A^{\text{'}}\left(\sqrt{3};-1;1\right)$ và nhận$\overrightarrow{k}=\left(0;0;1\right)$ làm VTPT hay

$\left(AM{M}^{\text{'}}{A}^{\text{'}}\right):0\left(x-\sqrt{3}\right)+0\left(y+1\right)+1\left(z-1\right)=0\iff z=1$

$M=BC\cap \left(AM{M}^{\text{'}}{A}^{\text{'}}\right)\Rightarrow t-1=0\iff t=1\Rightarrow M\left(0;0;1\right)$

Mà $A{A}^{\text{'}}=\mathrm{1,}{A}^{\text{'}}M=\sqrt{{\left(\sqrt{3}-0\right)}^2+{\left(-1-0\right)}^2+{\left(1-1\right)}^2}=2$

$\Rightarrow AM=\sqrt{A^{\text{'}}{M}^2-A^{\text{'}}{A}^2}=\sqrt{2^2-1^2}=\sqrt{3}$

Tam giác ABC đều có độ dài đường cao$AM=\frac{BC\sqrt{3}}{2}=\sqrt{3}\Rightarrow BC=2$

Gọi $B\left(0;0;m\right),C\left(0;0;n\right)$ với$n\ne 0$ thì $BC=2\iff \left|m-n\right|=2$ và M(0;0;1) là trung điểm $BC\iff \frac{m+n}{2}=1\iff m+n=2$

Khi đó$m=\mathrm{0,}n=2$ vì $n\ne 0$ hay C(0;0;2)

$\Rightarrow \overrightarrow{A^{\text{'}}C}=\left(-\sqrt{3};1;1\right)$ hay$2\overrightarrow{A{C}^{\text{'}}}=\left(-2\sqrt{3};2;2\right)$  là một VTCP của A′C.

Suy ra $a=-2\sqrt{3},b=2\Rightarrow a^2+b^2={\left(-2\sqrt{3}\right)}^2+2^2=16$

Đáp án cần chọn là: B