Sebenarnya tidak disetting itu tidak apa-apa atau tanpa setting robot.txt pun sudah aktif dengan sendirinya sejak blogger kalian pertama kali dibuat. Pemasangan dan setting robot.txt custom inilah yang paling aman. Langsung saja kita kearah cara dan tutorialnya dibawah ini.
1. Buka menu setting atau pengaturan dan kalian scroll kebawah cari table Crawler Dan Pengindexan.
2. Setelah itu kalian aktifkan robot.txt custom seperti digambar berikut.
3. Kalau sudah diaktifkan langkah selanjutnya ialah mengisi text yang saya taruh dibawah ini dan saya juga kasih contoh gambar dibawah ini.
Disallow:
User-agent: Googlebot
Allow: /
Disallow: /search
User-agent: *
Disallow:
Sitemap: https://domain.com/sitemap.xml
Cara Untuk Mencegah Perayapan Pada Alamat Website Kalian
Jika alamat url website atau halaman website blog kalian tidak mau dirayapi kalian tinggal tambahkan kode
User-agent: *
Allow: /
Disallow: /search
Disallow: /p/kontak-lama.html
Disallow: /2009/01/test-postingan-pertama.html
Sitemap: https://domain.com/sitemap.xml
Kalian juga harus mengecek apakah robot.txt sudah berjalan apa belum denggan settingn seperti diatas tadi, kalian buka url website anda https://domain.com/sitemap.xml/robot.txt
Begitulah cara setting robot.txt blogger, semoga tutorial ini bermanfaat bagi kalian semua dan jangan lupa sharing ke teman-teman blogger kalian.




Robot txt itu emang penting banget.. artikelnya cukup membantu..
ردحذفWah cocok nih, blog saya dah sebulan lebih ga keindeks. Semoga bisa dengan tips ini. Terima kasih ya
ردحذفإرسال تعليق