Нужно ли удалять старую страницу после настройки редиректа?

Нет, достаточно, чтобы она отдавала 301-редирект. Полное удаление без редиректа означает потерю накопленного веса страницы и риск ошибки 404 по старым внешним ссылкам.