Нужно уточнение: пришлите рисунок или укажите размеры/тип задачи. Если имелась в виду прямоугольная сетка $n\times m$ (клеток), то количество всех прямоугольников равно выбору двух вертикальных и двух горизонтальных линий:
$$\left(\genfrac{}{}{0ex}{}{n+1}{2}\right)\left(\genfrac{}{}{0ex}{}{m+1}{2}\right)=\frac{n(n+1)m(m+1)}{4}.$$ Если речь о квадратах в $n\times n$-сетке:
$$\sum _{k=1}^n{k}^2=\frac{n(n+1)(2n+1)}{6}.$$
Напишите, пожалуйста, что конкретно вы имели в виду (рисунок, $n$ и $m$ или другое).