Đáp án:

•  \( P = MA^2 + MB^2 = (\overrightarrow{MI} + \overrightarrow{IA})^2 + (\overrightarrow{MI} + \overrightarrow{IB})^2 \)  
        \(= 2MI^2 + 2\overrightarrow{MI} (\overrightarrow{IA} + \overrightarrow{IB}) + IA^2 + IB^2\)

•   Tìm điểm \( I \) sao cho \( \overrightarrow{IA} + \overrightarrow{IB} = \vec{0} \Leftrightarrow I \left( 2, 2, \frac{3}{2} \right) \) là trung điểm của AB.

•  Khi đó \( P = 2MI^2 + 2IA^2 \) nhỏ nhất ⟺ \( MI \) nhỏ nhất  

\(\Rightarrow M(2, 2, 0) \)  

•  \( IM^2 = \frac{9}{4} \)

•  \(IA^2 = 1 + \frac{9}{4} \)

 Min   \(P =\frac{9}{2} + 2\left( 1 + \frac{9}{4} \right) = 11 \)

\(\Rightarrow\) Vậy chọn \(\boxed{\text{D}} \)

•  \( M(a, b, 0) \)

\( P = (3 - a)^2 + (2 - b)^2 + (1 - a)^2 + (2 - b)^2 + 9 \) 

    \(= 2a^2 - 8a + 2b^2 - 8b + 27.\)

    \(= 2(a - 2)^2 + 2(b - 2)^2 + 11 \quad \geq 11 \)

•  Min \(P\) = 11 khi  \(\begin{cases}a = 2 \\b = 2\end{cases}\)