a) Gọi $M$ là trung điểm $BC$

$\Rightarrow MB = MC =\dfrac12BC = \dfrac a2$

Xét $\triangle ABC$ đều cạnh $a$ có $H$ là trực tâm

$\Rightarrow \begin{cases}AH\perp BC\\AM =\dfrac{a\sqrt3}{2}\\HM =\dfrac13AM =\dfrac{a\sqrt3}{6}\end{cases}$

Ta có: $\triangle SAB=\triangle SAC\ (c.g.c)$

$\Rightarrow SB = SC$

$\Rightarrow \triangle SBC$ cân tại $S$

Lại có: $M$ là trung điểm $BC$

$\Rightarrow SM\perp BC$

$\Rightarrow I\in SM$

Xét $\triangle BIM$ và $\triangle SCM$ có:

$\begin{cases}\widehat{BMI}=\widehat{SMI}= 90^\circ\\\widehat{MBI}=\widehat{MSC}\quad \text{(cùng phụ $\widehat{C}$)}\end{cases}$

$\Rightarrow \triangle BIM\backsim \triangle SCM\ (g.g)$

$\Rightarrow \dfrac{BM}{SM}=\dfrac{IM}{CM}$

$\Rightarrow IM.SM = BM.CM =\dfrac{a^2}{4}$

Bên cạnh đó: $HM.AM =\dfrac{a\sqrt3}{6}\cdot \dfrac{a\sqrt3}{2}=\dfrac{a^2}{4}$

Do đó: $IM.SM = HM.AM$

$\Rightarrow \dfrac{IM}{AM}=\dfrac{HM}{SM}$

Xét $\triangle HIM$ và $\triangle SAM$ có:

$\begin{cases}\dfrac{IM}{AM}=\dfrac{HM}{SM}\quad (cmt)\\\widehat{M}:\ \text{góc chung}\end{cases}$

Do đó $\triangle HIM\backsim \triangle SAM\ (c.g.c)$

$\Rightarrow \widehat{HIM}=\widehat{SAM}= 90^\circ$

$\Rightarrow HI\perp SM\quad (1)$

Mặt khác:

$\begin{cases}AM\perp BC\\SA\perp BC\quad (SA\perp (ABC))\end{cases}$

$\Rightarrow BC\perp (SAM)$

mà $IH\in (SAM)$

nên $BC\perp IH\quad (2)$

Từ $(1)(2)\Rightarrow IH\perp (SBC)$

b) Áp dụng định lý Pytago ta được:

$SM^2 = SA^2 + AM^2 = h^2 + \dfrac{3a^2}{4}$

$\Rightarrow SM =\dfrac{\sqrt{3a^2 + 4h^2}}{2}$

Ta có: $IM.SM = \dfrac{a^2}{4}$

$\Rightarrow IM =\dfrac{a^2}{4SM} =  \dfrac{a^2}{2\sqrt{3a^2 + 4h^2}}$

Ta được:

$S_{IBC}= \dfrac12IM.BC = \dfrac{a^3}{4\sqrt{3a^2 + 4h^2}}$

Ta lại có:

$\triangle HIM\backsim \triangle SAM\ (cmt)$

$\Rightarrow \dfrac{IH}{SA}=\dfrac{HM}{SM}$

$\Rightarrow IH =\dfrac{SA.HM}{SM}= \dfrac{ah\sqrt3}{3\sqrt{3a^2 + 4h^2}}$

Khi đó:

$V_{IHBC}=\dfrac13IH.S_{IBC}= \dfrac{a^4h\sqrt3}{36(3a^2 + 4h^2)}$