S là tập hợp tất cả các giá trị thực của tham số

* Hướng dẫn giải

Chọn A.

Ta có $$\begin{gathered} {\log }_x\left(5x^2-8x+3\right)>2\iff \left[\begin{array}{l}\left\{\begin{array}{l}x>1\\ 5x^2-8x+3>x^2\end{array}\right.\\ \left\{\begin{array}{l}0<x<1\\ 5x^2-8x+3>0\\ 5x^2-8x+3<x^2\end{array}\right.\end{array}\right.\iff \left[\begin{array}{l}\left\{\begin{array}{l}x>1\\ x>\frac{3}{2}\vee x<\frac{1}{2}\end{array}\right.\\ \left\{\begin{array}{l}0<x<1\\ x>1\vee x<\frac{3}{5}\\ \frac{1}{2}<x<\frac{3}{2}\end{array}\right.\end{array}\right. \\ \iff \left[\begin{array}{l}x>\frac{3}{2}\\ \frac{1}{2}<x<\frac{3}{5}\end{array}\right. \end{gathered}$$

Bài toán đưa về tìm a để $x^2-2x-a^4+1\ge 0$ đúng với mọi $x\in \left(\frac{1}{2};\frac{3}{5}\right)\cup \left(\frac{3}{2};+\infty \right)$.

Cách 1: Ta có $x^2-2x-a^4+1\ge 0\iff {\left(x-1\right)}^2\ge a^4\iff \left[\begin{array}{l}x\ge a^2+1\\ x\le 1-a^2\end{array}\right.$

Yêu cầu bài toán $\iff \left\{\begin{array}{l}1-a^2\ge \frac{3}{5}\\ a^2+1\le \frac{3}{2}\end{array}\right.\iff \left\{\begin{array}{l}{a}^2\le \frac{2}{5}\\ a^2\le \frac{1}{2}\end{array}\right.\iff a^2\le \frac{2}{5}\iff -\frac{\sqrt{10}}{5}\le a\le \frac{\sqrt{10}}{5}$

Cách 2: $x^2-2x-a^4+1\ge 0\iff x^2-2x+1\ge a^4.$

Xét hàm số $f\left(x\right)=x^2-2x+1$ trên $\left(\frac{1}{2};\frac{3}{5}\right)\cup \left(\frac{3}{2};+\infty \right)$.

Suy ra: $a^4\le \frac{4}{25}\iff a^2\le \frac{2}{5}\iff -\frac{\sqrt{10}}{5}\le a\le \frac{\sqrt{10}}{5}$.