Ta có $B'B\bot (ABM)$ nên ta được $BB'\bot AB, BB'\bot BM$. Lại có tam giác $ABC$ vuông cân tại $B$ nên ta được $AB\bot BM$

Ta được $BB',AB,BM$ đôi một vuông góc với nhau nên ta được:

$\begin{array}{l} \dfrac{1}{{d{{\left( {B,\left( {AMB'} \right)} \right)}^2}}} = \dfrac{1}{{BB{'^2}}} + \dfrac{1}{{A{B^2}}} + \dfrac{1}{{B{M^2}}}\\  = \dfrac{1}{{AA{'^2}}} + \dfrac{1}{{A{B^2}}} + \dfrac{1}{{{{\left( {\dfrac{{BC}}{2}} \right)}^2}}} = \dfrac{1}{{{{\left( {2a} \right)}^2}}} + \dfrac{1}{{{a^2}}} + \dfrac{1}{{\dfrac{{{a^2}}}{4}}}\\  = \dfrac{{21}}{{4{a^2}}} \Rightarrow d\left( {B,\left( {AMB'} \right)} \right) = \dfrac{{2a}}{{\sqrt {21} }} \end{array}$

b) Gọi $D$ là giao điểm của $A'B$ và $AB'$

$\begin{array}{l}
\dfrac{{d\left( {B,\left( {AMB'} \right)} \right)}}{{d\left( {A'\left( {AMB'} \right)} \right)}} = \dfrac{{BD}}{{A'D}} = 1\\
 \Rightarrow d\left( {A',\left( {AMB'} \right)} \right) = d\left( {B,\left( {AMB'} \right)} \right) = \dfrac{{2a}}{{\sqrt {21} }}
\end{array}$