Mengontrol Perayapan Mesin Pencari dengan Robots.txt
File `robots.txt` diletakkan di direktori root server web untuk memberi petunjuk kepada robot crawler direktori mana saja yang diizinkan untuk diindeks.
Atur direktori yang boleh dan tidak boleh di-crawl oleh mesin pencari Google.
File `robots.txt` diletakkan di direktori root server web untuk memberi petunjuk kepada robot crawler direktori mana saja yang diizinkan untuk diindeks.