Lời giải:
a) \(f'(x) = x^2 - 2x + m - 3 \geq 0\), \(\forall x \in (2, +\infty)\)
\(\Leftrightarrow x^2 - 2x - 3 \geq -m, \forall x \in (2, +\infty)\)
\(\Leftrightarrow -m \leq -3 \iff m \geq 3\)
Chọn \(\boxed{B}\).
b) \(f'(x) = x^2 - 2x + m - 3 \leq 0\), \(\forall x \in (-1, 2)\)
\(\Leftrightarrow x^2 - 2x - 3 \leq -m, \forall x \in (-1, 2)\)
\(\Leftrightarrow -m \geq 0 \iff m \leq 0\)
Vậy chọn \(\boxed{A}\).
Cách 2:
\(f'(x) = x^2 - 2x + m - 3 \leq 0, \quad \forall x \in (-1, 2) \)
\(\Leftrightarrow \) phương trình \(f'(x) = 0\) có 2 nghiệm: \(x_1 \leq -1 < 2 \leq x_2 \)
\(\Leftrightarrow \begin{cases} af(-1) \leq 0 \\ af(2) \leq 0 \end{cases} \)
\(\Leftrightarrow \begin{cases} m \leq 0 \\ m - 3 \leq 0 \end{cases} \)
\(\Leftrightarrow \begin{cases} m \leq 0 \\ m \leq 3 \end{cases} \iff m \leq 0 \)