Mengubah User-Agent dan Etikanya
Panduan User-Agent
User-Agent adalah nilai yang ditentukan klien sehingga bisa diubah dengan bebas. Ia mudah diatur melalui developer tools browser, ekstensi, pustaka klien HTTP, dan lainnya.
Penggunaan yang sah
- QA yang menguji rendering di berbagai browser·perangkat
- Mereproduksi lingkungan tertentu dalam pengujian otomatis
- Menetapkan UA agar crawler Anda sendiri memperkenalkan dirinya dengan jujur
Penggunaan yang harus dihindari
- Berpura-pura menjadi bot mesin pencari untuk menyiasati konten berbayar atau pembatasan akses
- Scraping massal dengan mengabaikan robots.txt·syarat penggunaan
- Menyamarkan identitas untuk menghindari biaya·kebijakan
Jika Anda membuat crawler
Menyematkan UA yang dapat diidentifikasi beserta kontak (atau URL informasi) pada crawler Anda adalah praktik yang baik. Contoh: MyBot/1.0 (+https://example.com/bot). Dengan begitu pengelola situs bisa menghubungi Anda saat terjadi masalah.
Apa yang mungkin secara teknis berbeda dengan apa yang diperbolehkan secara etika. Karena mengubah UA adalah alat yang ampuh, ia harus dipakai secara bertanggung jawab.