В итоге как и предполагал у меня из-за ошибки кэширующего плагина сильно подросла нагрузка на сайт, в результате чего выросло время ответа с 250 до 600 и выше миллисекунд. Гугл не стал нагибать сайт запросами, а отложил их на время, так же из советов сделайте на неизменяемых страницах 304 ответ Last-Modife, вот что я проделывал, может кому-то это так же поможет. Еще кстати учтите, что страницы попадут в индекс не все сразу, по очереди, так как они в ней стоят у бота и неплохо еще повторно их раз в день отправлять ручками.