Переведем все размеры в одну единицу измерения, чтобы удобнее было складывать и вычитать:

5м² 12см² = 5м² + 0.12м² = 5.12м²
3м² 48дм² = 3м² + 0.48м² = 3.48м²
9дм² 57см² = 0.09м² + 0.57м² = 0.66м²

Теперь сложим и вычтем:

5.12м² - 3.48м² + 0.66м² = 2.3м²

Ответ: 2.3м²