Gợi ý và hướng dẫn:

Điều kiện: \(-2 \leq x \leq 5, \quad 5x - y \geq 0\)

\(y \leq 4, \quad 2x + y + 4 \geq 0\)

Đặt:

\(\begin{cases} u = \sqrt{5 - x} \\ v = \sqrt{4 - y} \end{cases} \Leftrightarrow \begin{cases} x = 5 - u^2 \\ y = 4 - v^2 \end{cases} \)

(1) trở thành:

\([17 - (15 - 3u^2)]u = [14 - (12 - 3v^2)]v \)

\(\Leftrightarrow (2 + 3u^2)u = (2 + 3v^2)v \)  (*)

Xét \(f(t) = (2 + 3t^2)t = 3t^3 + 2t\). Ta có \(f'(t) = 9t^2 + 2 > 0, \forall t \in \mathbb{R}\). Do đó hàm \(f\) đồng biến trên \(\mathbb{R}\)

 

Do đó: \((*) \Leftrightarrow f(u) = f(v) \Leftrightarrow u = v\)

\(\Leftrightarrow \sqrt{5 - x} = \sqrt{4 - y} \Leftrightarrow y = x - 1\)

Hệ đã cho \(\iff \begin{cases} y = x - 1 \\ \sqrt{x + 2} + \sqrt{4x + 1} + \sqrt{3x + 3} = 8 \end{cases}\) (đơn điệu)

\(\iff \begin{cases} x = 2 \\ y = 1 \end{cases}\)