Đáp án:

$B.\ a\sqrt{10}$

Giải thích các bước giải:

Gọi $M, N$ lần lượt là trung điểm $AB,\ CD$

Ta có: $\triangle ACD$ cân tại $A\ (AC = AD = 3a)$

$\Rightarrow AN\perp CD$

$\Rightarrow AN = \sqrt{AC^2 - CN^2} = \sqrt{9a^2 - \dfrac{x^2}{4}}$

Tương tự, $\triangle BCD$ cân tại $B$

$\Rightarrow BN\perp CD$

Bên cạnh đó: $\triangle BCD = \triangle ACD\ (c.c.c)$

$\Rightarrow BN = AN= \sqrt{9a^2 - \dfrac{x^2}{4}}$

$\Rightarrow \triangle ABN$ cân tại $N$

$\Rightarrow MN\perp AB$

$\Rightarrow MN = \sqrt{AN^2 - AM^2} = \sqrt{5a^2 - \dfrac{x^2}{4}}$

Mặt khác:

$\begin{cases}AN\perp CD\\BN\perp CD\end{cases}$

$\Rightarrow CD\perp (ABN)$

Trong $mp(ABN)$ kẻ $AH\perp BN$

$\Rightarrow CD\perp BN$

$\Rightarrow AH\perp (BCD)$

Ta được:

$AH.BN = MN.AB = 2S_{ABN}$

$\Leftrightarrow AH = \dfrac{AB.MN}{BN}$

$\Leftrightarrow AH =\dfrac{4a\cdot \sqrt{5a^2 - \dfrac{x^2}{4}}}{\sqrt{9a^2 - \dfrac{x^2}{4}}}$

Khi đó:

$\quad V_{ABCD} = \dfrac13S_{BCD}AH$

$\Leftrightarrow V_{ABCD} = \dfrac16BN.CD.AH$

$\Leftrightarrow V_{ABCD} =\dfrac16\cdot \sqrt{9a^2 - \dfrac{x^2}{4}}\cdot x\cdot \dfrac{4a\cdot \sqrt{5a^2 - \dfrac{x^2}{4}}}{\sqrt{9a^2 - \dfrac{x^2}{4}}}$

$\Leftrightarrow V_{ABCD} = \dfrac{2ax}{3}\sqrt{5a^2 - \dfrac{x^2}{4}}$

Đặt $V_{ABCD} = f(x) = \dfrac{2ax}{3}\sqrt{5a^2 - \dfrac{x^2}{4}}$

$\Rightarrow f'(x) = \dfrac{2a(10a^2 - x^2)}{3\sqrt{20a^2 - x^2}}$

$f'(x) = 0 \Leftrightarrow x = a\sqrt{10}$

Vậy $V_{\max} = f\left(a\sqrt{10}\right) \Leftrightarrow x = a\sqrt{10}$