Для сокращения дроби нужно умножить числитель и знаменатель на конъюгированный квадратный корень:

(16 + а) / (4 + (-а)^1/2)

(16 + а) / (4 + (-а)^1/2) * (4 - (-а)^1/2) / (4 - (-а)^1/2)

(16 + а)(4 - (-а)^1/2) / (4^2 - ((-а)^1/2)^2)

(64 + 16а - 4(-а)^1/2 - а) / (16 - а)

(63 + 15а - 4(-а)^1/2) / (16 - а)