Robots.txt Generator - Pembuat File Perayapan

Atur direktori yang boleh dan tidak boleh di-crawl oleh mesin pencari Google.

Mengontrol Perayapan Mesin Pencari dengan Robots.txt

File `robots.txt` diletakkan di direktori root server web untuk memberi petunjuk kepada robot crawler direktori mana saja yang diizinkan untuk diindeks.