فایلهای نقشه سایت و ربات سایت
موتور های جستجو به طور خودکار به دنبال فایل خاصی در هر سایت به نام فایل sitemaps.xml می گردند. داشتن این فایل در سایت شما لازمه این است که موتور های جستجو را برای کشف صفحات در سایت خود آسان کنید. نقشه های سایت اساساً یک نقشه غول پیکر برای همه صفحات سایت شما است. خوشبختانه، ایجاد این فایل برای سایت شما یک فرآیند ساده است. یکی از مهمترین فاکتورهای سئو داشتن نقشه سایت می باشد. اکثر سیستمهای CMS فایل Sitemaps به طور خودکار تولید میشوند. به عنوان مثال سیستم هایی مانند Wordpress، Magento، Shopify. اگر سایت شما از این گونه سیستم ها استفاده نمیکند، ممکن است لازم باشد یک افزونه را نصب کنید یا از XML Generator Sitemaps رایگان استفاده کنید. XML Sitemaps Generator بهطور خودکار یک فایل sitemaps.xml برای شما ایجاد میکند.
ابزار سازنده نقشه سایت به فرمت xml
سپس از توسعه دهنده وب یا طراح وب خود بخواهید آن را در دایرکتوری اصلی سایت شما آپلود کند یا اگر دسترسیFTP دارید، آن را انجام دهید. پس از آپلود، فایل باید به صورت عمومی با آدرس زیر مانند مثال زیر قابل دسترسی باشد:
http://www.yoursite.com/sitemaps.xml
هنگامی که این کار را انجام دادید، باید نقشه سایت خود را به حساب جستجوی گوگل کنسول برای سایت خود ارسال کنید.اگر شما حساب جستجوی گوگل کنسول ندارید، مقاله زیر توسط گوگل دستورالعمل های سادهای را برای توسعه دهندگان وب یا طراحان وب برای تنظیم آن ارائه میدهد. یک سایت را به Google Search Console اضافه کنید و آن را تأیید کنید.
https://support.google.com/webmasters/answer/34592?hl=en
به حساب کاربری خود وارد شوید و بر روی سایت خود کلیک کنید. در قسمت “پیکربندی سایت” روی “نقشه های سایت” کلیک کنید و در قسمت متن، آدرس کامل را به سایت خود وارد کنید.
Robots.txt
یکی دیگر از موارد موردنیاز برای هر سایت فایل robots.txt است. این باید در همان مکان فایل sitemaps.xml قرار بگیرد. آدرس به این فایل باید همانند مثال زیر باشد:
http://www.yoursite.com/robots.txt
فایل robots.txt یک فایل ساده است، به این صورت که شما میتوانید مناطق سایت خود را که نمی خواهید گوگل در نتایج موتورهای جستجو لیست کند را مشخص کنید.هیچ افزایش سرعت واقعی با داشتن فایل robots.txt در سایت شما ایجاد نمیشود. برای اطمینان از اینکه فایل های robots.txt مسدود کردنی که شما مد نظر تان هست را درست انجام میدهند، لازم است که آن را بررسی کنید. فایل robots.txt فقط یک سند متن ساده است، محتوای آن باید چیزی شبیه زیر باشد:
# robots.txt good example
User-agent: *
Disallow: /admin
User-agent: *
Disallow: /logs
اگر می خواهید سایت خود را به موتور های جستجو بگویید تا کل سایت شما را جست و جو نکنند، باید به عنوان نمونه بعدی نگاه کنند. اگر نمیخواهید کل سایت شما مسدود شود، باید اطمینان حاصل کنید که مانند مثال زیر نباشد.
# robots.txt – blocking the entire site
User-agent: *
Disallow: /
در واقع کاراکتر / به این موضوع اشاره دارد که موتور جست و جو حتی به اولین صفحه سایت شما (root یا home) دسترسی ندارد.ایجاد کردن فایل robots.txt، بهسادگی ساختن یک متن ساده با Notepad است اگر شما در ویندوز هستید. و یا ویرایش متن اگر شما در سیستم عامل مک است اطمینان حاصل کنید که فایل بهعنوان یک سند متن ساده ذخیره شده است و از مثال “robots.txt” خوب به عنوان نشانه ای از نحوه نگاه داشتن آن استفاده کنید. مراقب باشید لیستی از هر دایرکتوری که موتور های جستجو را نمیخواهند، از قبیل پوشه های داخلی برای کارکنان، ناحیه های مدیریت، قسمت های عقب پایان CMS و غیره را فهرست کنید.اگر هیچ فایلی را نمیخواهید قفل کنید، میتوانید فایل robots.txt خود را به طور کامل از بین ببرید، اما فقط یک بار دیگر بررسی کنید که یکی از مهمترین قسمتهای سایت را مسدود نکرده باشید مانند مثال بالا.
مطلب پیشنهادی : موبایل فرندلی گوگل