Đáp án:

Gọi số hs khối 6 là: x (học sinh) (x>0)

=> số học sinh lớp 6A là: $\dfrac{1}{5}x$ (học sinh)

Số học sinh 6A bằng 8/9 số hs 6B nên số học sinh lớp 6B là:

$\dfrac{1}{5}x:\dfrac{8}{9} = \dfrac{1}{5}x.\dfrac{9}{8} = \dfrac{9}{{40}}.x$

Số học sinh lớp 6C là: $\dfrac{9}{{40}}.x.\dfrac{{11}}{9} = \dfrac{{11}}{{40}}.x$

Còn lại là số học sinh lớp 6D là:

$\begin{array}{l}
x - \dfrac{1}{5}x - \dfrac{9}{{40}}x - \dfrac{{11}}{{40}}x\\
 = \left( {1 - \dfrac{1}{5} - \dfrac{9}{{40}} - \dfrac{{11}}{{40}}} \right).x\\
 = \dfrac{3}{{10}}.x
\end{array}$

Lại có số hs lớp 6C ít hơn 6D là 5 học sinh nên ta có:

$\begin{array}{l}
\dfrac{3}{{10}}.x - \dfrac{{11}}{{40}}x = 5\\
 \Rightarrow \left( {\dfrac{3}{{10}} - \dfrac{{11}}{{40}}} \right).x = 5\\
 \Rightarrow \dfrac{1}{{40}}.x = 5\\
 \Rightarrow x = 40.5 = 200
\end{array}$

=> khối 6 có 200 học sinh

Vậy 

+ Lớp 6A có: $\dfrac{1}{5}x = \dfrac{1}{5}.200 = 40\left( {hs} \right)$

+ Lớp 6B có: $\dfrac{9}{40}x = \dfrac{9}{40}.200 = 45\left( {hs} \right)$

+ Lớp 6C có: $\dfrac{11}{40}x = \dfrac{11}{40}.200 = 55\left( {hs} \right)$

+ Lớp 6D có: $\dfrac{3}{10}x = \dfrac{3}{10}.200 = 60\left( {hs} \right)$