Skip to main content

Diindeks dan diblokir oleh robots.txt

kali ini saya akan sedikit membahas mengenai permasalahan notifikasi Diindeks meski diblokir oleh robots.txt di Google Search Console.
diindeks-dan-diblokir-oleh-robots

Di sini saya tidak hanya menjelaskan cara mengatasi permasalahan ini, tapi juga akan menjelaskan kenapa permasalahan ini bisa terjadi. Harapannya tentunya supaya sobat lebih paham mengenai cara kerja mesin pencari, khususnya Google.Langsung saja ke topik pembahasan.

Perbaiki Di indeks meski diblokir oleh robots.txt

Mungkin banyak yang belum tahu, penyebab utama munculnya peringatan ini adalah karena mesin pencari Google sudah mengabaikan perintah noindex menggunakan file robots.txt.
ternyata blogger uga sampai saat ini masih menggunakan file robots.txt untuk mencegah halaman tertentu supaya tidak terindex di mesin pencari.
Halaman tersebut adalah halaman pencarian dan halaman label.

Pada file robots.txt diatas tertulis perintah :

Disallow: /search

Perintah tersebut berfungsi untuk memberitahu mesin pencari supaya tidak mengindex URL yang diawali dengan /search setelah alamat blog.

URL yang diawali dengan /search pada blogger digunakan untuk halaman label dan halaman pencarian.

Contoh URL halaman label = https://adstrikslink.blogspot.com/search/label/Gmail
Contoh URL halaman pencarian = https://adstrikslink.blogspot.com/search?q=gmail



cara mengatasi mengindex URL yang diawali dengan /search


Ada beberapa metode yang bisa digunakan untuk mengatasi permasalahan ini.

1. Cara Pertama

Cara paling mudah adalah dengan menghapus perintah Disallow: /search
pada robots.txt yang digunakan pada fitur custom robots.txt di blogger.

Cara ini dapat menghapus diindeks meski diblokir oleh robots.txt pada google search console.Namun kenyataan nya halaman label dan pencarian masih tetap bisa terindex di halaman pencarian. kita tidak ingin halaman label dan pencarian terindex di halaman pencarian karena halaman tersebut termasuk halaman berkualitas rendah.

2. Cara Kedua

Optimasi penggunaan tag header robot untuk memberitahu Google supaya tidak mengindex halaman label dan pencarian.
Sampai saat ini google masih mendukung tag header robot, dengan kata lain tag header robot tidak diabaikan seperti file robots.txt.

Akhir akhir ini  “Tag tajuk robot khusus” di blogger sudah tidak lagi bekerja sebagaimana mestinya. Sudah tidak otomatis tampil tag header robot noindex padavhalaman arsip, label, dan pencarian.

Karena cara tersebut sudah tidak lagi bekerja, maka solusi lain bisa dengan memasang tag meta robot langsung di dalam template.

Caranya Langsung saja salin kode di bawah ini :

<!-- Meta Robot -->
<b:if cond="data:view.isSearch or data:view.isArchive">
    <meta content='noindex, noarchive' name='robots'/>
</b:if>


Letakan kode tersebut tepat di bawah kode &lt;head&gt; di dalam template.

Hapus perintah Disallow: /search pada file robots.txt.

Mengapa harus hapus Disallow: /search , robot Google tidak daat membaca perintah dari tag meta robot yang sudah dipasang sebelumnya.

Cara menghapusnya masuk ke dashboard blogger > setelan > Crawler dan pengindeksan > Aktifkan fitur robots.txt kustom.

Tambahkan custom robot.txt

User-agent: Mediapartners-Google
Disallow:

User-agent: *
Allow: /

Sitemap: https://adstrikslink.blogspot.com/sitemap.xml

Kemudian save

“Validasi Perbaikan” di dashboard Search Console. tunggu sampai notifikasi “Diindeks meski diblokir oleh robots.txt” hilang.


Beberapa pesan notifikasi lain

Selain notifikasi “Diindeks meski diblokir oleh robots.txt”, hampir dipastikan di Google Search Console juga muncul notifikasi-notifikasi lainnya.

Berikut adalah beberapa notifikasi yang paling umum:
Anomali crawling

Notifikasi ini muncul biasanya karena ada URL postingan yang awalnya sudah terindex di mesin pencari namun sudah dihapus di blog.
Cara mengatasinya bagaimana,Bisa dibiarkan saja atau jika sobat risih sobat bisa mengalihkan URL postingan yang error ke postingan lain dengan menggunakan fitur pengalihan khusus di blogger.

Di-crawl – saat ini tidak diindeks
Peringatan ini biasanya karena ada URL RSS feed yang tidak ditampilkan di hasil pencarian.
Cara mengatasinya bagaimana, Cek daftar URL yang mendapatkan notifikasi ini.

URL RSS feed contohnya seperti ini: https://adstrikslink.blogspot.com/feeds/posts/default

Halaman canonical
peringatan ini muncul karena adanya URL versi mobile dengan seperti ?m=1 di belakang URL.
Ketika kita mengakses blog melalui perangkat mobile, di belakang URL akan otomatis ada tambahan paremeter ?m=1.

Tag kanonis ini pada intinya memberi tahu mesin pencari bahwa URL dengan tambahan ?m=1 dan yang tidak ada tambahannya adalah satu halaman/postingan yang sama, sehingga tidak menyebabkan duplicate content.

Comments

Popular posts from this blog

Mod ets2 indonesia terbaru dan terlaris sepanjang masa

Kumpulan mod ets2 indonesia terbaru paling banyak dicari Mod ets2 V1.37 bus  Mod ets2 v1.36 truck Mod ets2 V1.35 Map Mod ETS2 V1.30 Map Mod ets2 v1.40 Traffic Mod ets2 V1.38 Trailer Mod ets2 V1.33 Skin livery Mod ets2 v1.31graffic Mod ets2 indonesia full gratis jetbus 3, laksana , adiputro, rahayu sentosa, new armada buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslinks buslin...

Arti robot-txt noindex-nofollow-none-noarchive-nosnippet,-noodp

Custom robots header tags Arti robot.txt noindex,nofollow,none,noarchive,nosnippet,noodp all  - Jika Anda mengatur tag ini, perayap tidak terikat oleh kendala apa pun. Mereka dapat dengan bebas merangkak, mengindeks dan mengekspos  konten Anda . noindex  - Tidak semua blog untuk pemberitahuan publik. Bahkan jika Anda tidak membagikan URL blog pribadi Anda dengan siapa pun, kemungkinan orang akan mendapatkannya dari hasil pencarian. Pada skenario seperti itu, Anda dapat menggunakan tag noindex karena mencegah mesin pencari mengindeks halaman. nofollow  - Tag nofollow dan dofollow adalah untuk tautan keluar. Dofollow adalah tag robot default untuk semua tautan keluar Anda. Itu berarti mesin pencari dapat menyelinap ke halaman yang Anda tautkan. Jika Anda tidak ingin bot pencarian melihat-lihat tautan Anda, penambahan tag nofollow harus membantu Anda. none  - tidak ada yang menggabungkan fitur dari tag noindex dan nofollow. Perayap tidak akan mengindek...

Tambah widget Scroll Bar Pada Widget Blog

Cara Membuat Scroll Bar Pada Widget Blog - Setelah Anda membaca dan mempelajari artikel tentang cara membuat scroll bar pada artikel blog yang ada di blog ini, selanjutnya pada artikel kali ini Anda dapat mempelajari cara membuat scroll bar untuk widget blog seperti popular post, recent post atau widget yang lainnya. Tentunya Anda telah mengetahui bahwa scroll bar berfungsi untuk memperpendek ruang penempatan tulisan atau script yang terlalu panjang, sehingga tulisan atau script tersebut tidak terlalu memanjang ke bawah atau ke samping. Membuat Scroll Bar Pada Widget Blog Untuk membuat scroll bar di widget hampir sama dengan membuat scroll bar didalam artikel. Jika Anda ingin menambahkan scroll bar pada widget blog Anda, ikuti langkah-langkah berikut ini : 1. Log In ke blog Anda. 2. Masuk ke menu blog. 3. Klik "Tata Letak". 4. Pada bagian tata letak, klik "Tambahkan Gadget". 5. Klik "HTML/JavaScript". 6. Copy kode dibawah ini, paste k...