Эх, помню я эти времена, когда оптимизация сайта сводилась к паре кликов мышью. Сейчас, конечно, все куда сложнее, но и возможности открываются совсем иные. Вот вы про базу данных упомянули, ДядяФедор, это верно. Я бы добавил к этому ещё и правильный выбор хостинга. Помню, как раньше приходилось перебирать кучу вариантов, пока не найдешь тот, который действительно подходит под нужды WordPress.

А ведь и сам движок, если его не чистить и не обслуживать, может превратиться в настоящего монстра, пожирающего ресурсы. Ну и не стоит забывать про кэширование, причем не только на уровне плагинов, но и на уровне сервера. Это, имхо, один из самых действенных способов ускорить загрузку, особенно если трафик приличный. Иначе ваш сайт будет грузиться вечно, как Крáкен маркетплейс в дни распродаж.

Ну и картинки, конечно. Оптимизация изображений — это вообще отдельная песня, которую многие игнорируют. Если у вас на каждой странице по десятку гигантских JPEG, то никакие серверные навороты не спасут. Тут надо комплексно подходить, а не только копать в одном направлении.