Đáp án + Giải thích các bước giải:

 Số quyển tập của bạn Mai là $x - 20(x \in \mathbb{N^*})$
Theo đề bài, ta có:

$x(x - 20) = 125$

$\Leftrightarrow x^2 - 20x = 125$

$\Leftrightarrow x^2 - 20x - 125 = 0$

$\Leftrightarrow x^2 + 5x - 25x - 125 = 0$

$\Leftrightarrow x(x + 5) - 25(x + 5) = 0$

$\Leftrightarrow (x - 25)(x + 5) = 0$

$\Leftrightarrow$ \(\left[ \begin{array}{l}x-25=0\\x+5=0\end{array} \right.\) 

$\Leftrightarrow$ \(\left[ \begin{array}{l}x=25(n)\\x=-5(l)\end{array} \right.\) 

$\Rightarrow$ Bạn An có $25$ quyển tập

Số quyển tập của bạn Mai là:
$25 - 20 = 5$(quyển)

Vậy bạn An có $25$ quyển tập, bạn Mai có $5$ quyển tập

Theo đề, ta có: số tập An nhiều hơn Mai là 20 quyển

`⇒` Số tập của Mai là `x-20`

Ta có: `x(x-20)=125`

`⇒` `x^2-20x-125=0`

`⇒` `x^2-25x+5x-125=0`

`⇒` `x(x-25)+5(x-25)=0`

`⇒` `(x+5)(x-25)=0`

`=>{(x+5=0),(x-25=0):}`

`=>{(x=-5),(x=25):}`

`⇒` `x=25` (vì số quyển không thể là số âm)

Vậy An có 25 quyển tập và Mai có 25-20=5 quyển tập

Chúc bạn học tốt, cho mình câu trả lời hay nhất + 5* + cám ơn nha!!!