a) Gọi $O$ là giao điểm của $AC$ và $BD$, $G$ là giao điểm của $AC'$ với $C'$ là chân đường cao hạ từ $A$ trong $\triangle SAC$. Ta cần tìm mặt phẳng đi qua $A$ và cắt $SB,SD$ lần lượt tại $B',D'$

Từ $G$ ta kẻ đường thẳng song song với $BD$ cắt $SB,SD$ lần lượt tại $B',D'$. Ta được mặt phẳng $(AC'B'D')$ là mặt phẳng cần tìm. Thật vậy, dễ dàng chứng minh $BD\bot (SAC)$ vì $SO\bot (ABC)\Rightarrow SO\bot BD$, $BD\bot AC$

Mà $B'D'//BD$ nên $B'D'\bot (SAC)\Rightarrow B'D'\bot SC$ và $SC\bot AC'\Rightarrow SC\bot (AC'B'D')$

Áp dụng định lý Thales ta được:

$\dfrac{{SB'}}{{SB}} = \dfrac{{SD'}}{{SD}} = \dfrac{{SG}}{{SO}} = \dfrac{2}{3}$

$\Rightarrow$ $G$ là trọng tâm $\triangle SAC$

$\Rightarrow$ $C$ là trung điểm của $SC$

Áp dụng định lý Simson trong tỉ số thể tích ta được:

$\begin{array}{l} \dfrac{{{V_{S.AB'C'D'}}}}{{{V_{S.ABCD}}}} = \dfrac{{{V_{S.AB'C'}} + {V_{S.AC'D'}}}}{{{V_{S.ABCD}}}} = \dfrac{1}{2}\left( {\dfrac{{{V_{S.AB'C'}}}}{{{V_{S.ABC}}}} + \dfrac{{{V_{S.AC'D'}}}}{{{V_{S.ACD}}}}} \right)\\  = \dfrac{1}{2}\left( {\dfrac{{SA}}{{SA}}.\dfrac{{SB'}}{{SB}}.\dfrac{{SC'}}{{SC}} + \dfrac{{SA}}{{SA}}.\dfrac{{SC'}}{{SC}}.\dfrac{{SD'}}{{SD}}} \right)\\  = \dfrac{1}{2}\left( {\dfrac{2}{3}.\dfrac{1}{2} + \dfrac{2}{3}.\dfrac{1}{2}} \right) = \dfrac{1}{3} \end{array}$

b) 

$\begin{array}{l}
{V_{S.AB'C'D'}} = \dfrac{1}{3}{V_{S.ABCD}} = \dfrac{1}{3}.\dfrac{1}{3}SO.{S_{ABCD}}\\
 \bullet SO = \sqrt {S{C^2} - O{C^2}}  = \sqrt {2{a^2} - {{\left( {\dfrac{{a\sqrt 2 }}{2}} \right)}^2}}  = \dfrac{{a\sqrt 3 }}{2}\\
 \bullet {S_{ABCD}} = {a^2}\\
 \to {V_{S.AB'C'D'}} = \dfrac{1}{9}.\dfrac{{a\sqrt 3 }}{2}.{a^2} = \dfrac{{{a^3}\sqrt 3 }}{{18}}
\end{array}$