Здравствуйте, являюсь профаном, пытаюсь найти решение для домена типа site.ru. Сайт на BITRIX. Есть поддомен spb.site.ru, попробовал 6 методов и вот попробовал по вашему тоже не вышло, но много положительных отзывов, может я что то не проставил где-то?
К примеру, нужно ли заменять где - либо слово server на "site" или нет?
Что сделал:
1) Прописал в .htaccess директиву:
<IfModule mod_rewrite.c>
RewriteRule ^robots.txt$ robots.php
...
</IfModule>
2) Создал robots.php
добавил туда все, что было в robots.txt, + то, что у вас написано, вышло так:
<?php
$server = $_SERVER['SERVER_NAME'];
$text = "User-agent: *
Sitemap: http://$server/sitemap_files.xml
..........много всего по оптимизации с директивой disallow.......
User-agent: Yandex
..........много всего по оптимизации с директивой disallow.......
Clean-param: tracking
Host: $server
Sitemap: http://$server/sitemap_files.xml
";
User-Agent: Googlebot
Disallow: /bitrix/
Sitemap: http://$server/sitemap_files.xml
header("Content-Type: text/plain");
echo $text;
exit;
3) сохранил, зашел в вебмастер и он все равно выдает то же, что и было, как будто читает robots.txt (см картинку)
Подскажите может что-то увидели не правильное в моих действиях?