Đáp án:

$a=\{5, 7, 13, 19, 21\}$

Lời giải:

Do$(23-a)(a-3)$ là một số chính phương nên số đó lớn hơn 0. Vậy ta có điều kiện của $a$ là $3 < a < 23$ tồn tại một số $k$ sao cho

$(23-a)(a-3) = k^2$

$\Leftrightarrow -a^2 + 26a -69 - k^2 = 0$

$\Leftrightarrow a^2 - 26a + k^2 + 69 = 0$

Khi đó, ta có

$\Delta' = 13^2 - (k^2 + 69) = 100 - k^2$

Ta có

$(23-a)(a-3) = -a^2 + 26a -69 = -(a-13)^2 + 100 \leq 100$

Do đó $k^2 \leq 100$. Vậy $\Delta' \geq 0$.

TH1: $\Delta' = 0$

Khi đó, ta có $k^2 = 100$ hay $k = 10$. Vậy $a = 13$.

TH2: $\Delta' > 0$

Khi đó, hai nghiệm của phương trình là

$a_1 = 13-\sqrt{100-k^2}, a_2 = 13 + \sqrt{100-k^2}$

Do $a$ là một số tự nhiên nên $\sqrt{100-k^2}$ cũng bắt buộc phải là một số tự nhiên, tức là $100-k^2$ là một số chính phương.

Thử các giá trị của $k$ từ 1 đến 10 ta thấy chỉ có $k = 6$ và $k = 8$ là thỏa mãn.

Với $k = 6$ thì $a = 5$ hoặc $a = 21$.

Với $k = 8$ thì $a = 7$ hoặc $a = 19$.

Vậy các giá trị của a thỏa mãn là $\{5, 7, 13, 19, 21\}$.