Trong một video hangout trò chuyện với các webmaster, một nhà xuất bản đã hỏi Google về việc bao lâu trang sẽ bị xóa khỏi chỉ mục nếu được thêm giá trị noindex. Nhà xuất bản này cho biết dù họ đã thêm giá trị noindex nhưng hiện tại trang vẫn nằm trong chỉ mục của Google. John Mueller đã giải đáp câu hỏi này thông qua việc cho biết tần suất lập chỉ mục trang của Google.
John Mueller tiết lộ rằng các url được thu thập dữ liệu với các mức độ khác nhau. Điều này là dễ hiểu. Tuy nhiên, điều thú vị là ông cho biết có một số url phải mất 06 tháng mới được thu thập dữ liệu lại một lần.
Nhà xuất bản hỏi:
“Chúng tôi đã thêm giá trị noindex cho một trang cách đây vài tháng, nhưng hiện tại vẫn thấy nó nằm trong chỉ mục của Google. Liệu có vấn đề gì không?”
John Mueller đã trả lời:
“Tôi nghĩ vấn đề ở đây là do chúng tôi không thu thập dữ liệu các url với tần suất giống nhau. Một số url sẽ được thu thập dữ liệu hàng ngày, một số là hàng tuần và đôi khi là hàng tháng. Cá biệt có một số url có thể mất đến nửa năm mới được thu thập dữ liệu lại.
Lý do của việc này là nhằm cố gắng tìm sự cân bằng phù hợp để không làm quá tải máy chủ của bạn.
Nếu bạn thực hiện những thay đổi đáng kể trên trang web một cách toàn diện, có thể có những thay đổi sẽ được xử lý rất nhanh nhưng cũng có những thay đổi vẫn còn tồn đọng, chưa được xử lý.
Vì vậy, rất có thể vấn đề của bạn là do url đó được thu thập dữ liệu nửa năm một lần. Các url như thế sẽ hiển thị trong chỉ mục của Google sau một vài tháng.
Có thể nói điều này là rất bình thường khi bàn về khoảng thời gian Google có thể tái xử lý, thu thập dữ liệu lại các url. Vì vậy không nhất thiết là do lỗi kỹ thuật SEO nào đó.
Nhưng nếu bạn cho rằng url này thực sự không nên được lập chỉ mục, hãy gửi sở đồ trang web cập nhật chỉnh sửa mới nhất để khai báo, Google sẽ sớm ngừng lập chỉ mục và xem xét kỹ và xử lý nhanh hơn.”
Sử dụng Sơ đồ trang web
John Mueller đã đề xuất cập nhật sơ đồ trang web, cho phép Googlebot khám phá ngày sửa đổi cuối cùng và xem đây là dấu hiệu để lập chỉ mục các trang bài viết cũ.
Công cụ kiểm tra URL của Google
John Mueller không đề cập đến việc sử dụng công cụ Kiểm tra URL của Google. Tuy nhiên theo trang Trợ giúp quản trị trang web của Google đây cũng là là một cách để được lập chỉ mục lại, quá trình gửi có thể mất tới một hoặc hai tuần.Công cụ này hữu ích nếu bạn có một số url riêng lẻ cần thu thập lại dữ liệu. Để thu thập dữ liệu lại một lượng lớn trang web, Google khuyên nên gửi sơ đồ trang weg.
Bạn có thể xem thông tin thêm về cách yêu cầu Google thu thập dữ liệu tại đây:
https://support.google.com/webmasters/answer/6065812?hl=vi
Nguồn dịch và biên tập: How Often Google Crawls and Indexed/ Search Engine Journal