Упростим, подставив $a=\sqrt{3/2}$. Замечания: $\sqrt{2/3}=1/a$, $\sqrt{3/8}=a/2$. Тогда
$$(2\sqrt{2/3}-8\sqrt{3/8}+3\sqrt{3/2})3\sqrt{3/2}=(2\cdot \frac{1}{a}-8\cdot \frac{a}{2}+3a)\cdot 3a=(\frac{2}{a}-a)\cdot 3a=6-3a^2.$$ Так как $a^2=3/2$, получаем
$$6-3\cdot \frac{3}{2}=\frac{3}{2}.$$