Mit Sammlungen den Überblick behalten
Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.
Crawling-Frequenz von Google verringern
Die Crawler-Infrastruktur von Google verfügt über ausgefeilte Algorithmen, um die optimale Crawling-Frequenz für eine Website zu bestimmen. Wir bemühen uns, bei jedem Besuch möglichst viele Seiten deiner Website zu crawlen, ohne dass dein Server zu sehr beansprucht wird. In manchen Fällen kann das Crawlen deiner Website durch Google eine kritische Belastung deiner Infrastruktur bedeuten oder unerwünschte Kosten während eines Ausfalls verursachen. Um das zu vermeiden, kannst du die Anzahl der von Google-Crawlern gestellten Anfragen verringern.
Ursache für den starken Anstieg des Crawlings überprüfen
Ein starker Anstieg des Crawlings kann durch eine ineffiziente Websitestruktur oder anderweitige Probleme mit deiner Website verursacht werden. Basierend auf den Meldungen, die wir in der Vergangenheit erhalten haben, sind die häufigsten Ursachen folgende:
Ineffiziente Konfiguration von URLs auf der Website, was in der Regel durch eine bestimmte Funktion der Website verursacht wird:
Facettensuche oder andere Sortier- und Filterfunktionen der Website
Wir empfehlen dir dringend, dich an dein Hostingunternehmen zu wenden und die letzten Zugriffsprotokolle deines Servers zu prüfen, um die Quelle des Traffics zu finden und zu sehen, ob sie zu den oben genannten häufigen Ursachen für den starken Anstieg des Crawlings passt. Sieh dir dann unsere Anleitungen Crawling von Facettensuche-URLs verwalten und Optimierung der Crawling-Effizienz an.
Wenn du die Crawling-Frequenz dringend für einen kurzen Zeitraum verringern musst (z. B. für ein paar Stunden oder ein bis zwei Tage), gib auf die Crawling-Anfragen den HTTP-Antwortstatuscode 500, 503 oder 429 anstatt 200 zurück. Die Crawling-Infrastruktur von Google verringert die Crawling-Frequenz deiner Website, wenn eine große Anzahl von URLs mit den HTTP-Antwortstatuscodes 500, 503 oder 429 gefunden wird, z. B. wenn du deine Website deaktiviert hast.
Die reduzierte Crawling-Frequenz wirkt sich auf den gesamten Hostnamen deiner Website aus (z. B. subdomain.example.com), sowohl auf das Crawlen der URLs, die Fehler zurückgeben, als auch auf das Crawlen der URLs, die Inhalte zurückgeben. Sobald die Anzahl dieser Fehler reduziert ist, wird die Crawling-Frequenz automatisch wieder erhöht.
Außergewöhnliche Anfragen zum Verringern der Crawling-Frequenz
Falls es in deiner Infrastruktur nicht möglich ist, den Crawlern von Google Fehler anzuzeigen, sende eine spezielle Anfrage, um ein Problem mit einer ungewöhnlich hohen Crawling-Frequenz zu melden. Gib dabei die optimale Frequenz für deine Website an. Eine Erhöhung der Crawling-Frequenz kann nicht beantragt werden. Außerdem kann es mehrere Tage dauern, bis die Anfrage geprüft und bearbeitet wird.
[null,null,["Zuletzt aktualisiert: 2025-09-01 (UTC)."],[[["\u003cp\u003eGoogle automatically adjusts crawl rate to avoid overloading your server, but you can reduce it further if needed.\u003c/p\u003e\n"],["\u003cp\u003eTemporarily reducing crawl rate can be achieved by returning 500, 503, or 429 HTTP response codes, but this impacts content freshness and discovery.\u003c/p\u003e\n"],["\u003cp\u003eFor longer-term crawl rate reduction, file a special request with Google; however, increasing the rate isn't possible.\u003c/p\u003e\n"],["\u003cp\u003eBefore reducing crawl rate, consider optimizing your website structure for better crawling efficiency as this might resolve the issue.\u003c/p\u003e\n"],["\u003cp\u003eExtended use of error codes to control crawling may lead to URLs being dropped from Google's index, so it's crucial to use this method cautiously.\u003c/p\u003e\n"]]],["Google's crawlers may need to be slowed if they overload a site. Common causes for increased crawling include inefficient site structure, like faceted navigation. For urgent reductions, return `500`, `503`, or `429` HTTP status codes to crawler requests; this will lower the crawl rate, but can negatively affect site indexing if done for too long. Alternatively, if returning errors isn't viable, submit a special request specifying an optimal crawl rate. Note: reducing the crawl rate will result in slower updates of existing pages.\n"],null,["# Reduce Google Crawl Rate | Google Search Central\n\nReduce the Google crawl rate\n============================\n\n\nGoogle's crawler infrastructure has sophisticated algorithms to determine the optimal crawl rate\nfor a site. Our goal is to crawl as many pages from your site as we can on each visit without\noverwhelming your server. In some cases, Google's crawling of your site might be causing a\ncritical load on your infrastructure, or cause unwanted costs during an outage. To alleviate this,\nyou may decide to reduce the number of requests made by Google's crawlers.\n\nUnderstand the cause of the sharp increase in crawling\n------------------------------------------------------\n\n\nSharp increase in crawling may be caused by inefficiencies in your site's structure or issues with\nyour site otherwise. Based on the reports we've received in the past, the most common causes are:\n\n- Inefficient configuration of URLs on the site, which is typically casued by a specific functionality of the site:\n - Faceted navigation or other sorting and filtering functionality of the site\n - A calendar with a lot of URLs for specific dates\n- [A Dynamic Search Ad target](/search/docs/crawling-indexing/large-site-managing-crawl-budget#adsbot)\n\n\nWe strongly recommend that you check with your hosting company and look at recent access logs of\nyour server to understand the source of the traffic, and see if it fits in the aformentioned\ncommon causes of the sharp increase in crawling. Then, check our guides about\n[managing crawling of faceted navigation URLs](/search/docs/crawling-indexing/crawling-managing-faceted-navigation)\nand\n[optimizing crawling efficiency](/search/docs/crawling-indexing/large-site-managing-crawl-budget#improve_crawl_efficiency).\n\nUrgently reduce crawler traffic (for emergencies)\n-------------------------------------------------\n\n| **Warning**: When considering reducing the Google's crawl rate, keep in mind that this will have broad effects. For Search, Googlebot will discover fewer new pages, and existing pages will be refreshed less frequently (for example, prices and product availability may take longer to be reflected in Search), and removed pages may stay in the index longer. For Google Ads, your campaigns may be cancelled or paused, and your ads may not serve.\n\n\nIf you need to urgently reduce the crawl rate for short period of time (for example, a couple\nof hours, or 1-2 days), then return `500`, `503`, or `429` HTTP\nresponse status code instead of `200` to the crawl requests. Google's crawling\ninfrastructure reduces your site's crawling rate when it encounters a significant number of URLs\nwith `500`, `503`, or `429` HTTP response status codes (for\nexample, if you\n[disabled your website](/search/docs/crawling-indexing/pause-online-business)).\nThe reduced crawl rate affects the whole hostname of your site (for example,\n`subdomain.example.com`), both the crawling of the URLs that return errors, as well as\nthe URLs that return content. Once the number of these errors is reduced, the crawl rate will\nautomatically start increasing again.\n| **Warning**: We don't recommend that you do this for a long period of time (meaning, longer than 1-2 days) as it may have a negative effect on how your site appears in Google products. For example, in case of Search, if Googlebot observes these status codes on the same URL for multiple days, the URL may be dropped from Google's index.\n\nExceptional requests to reduce crawl rate\n-----------------------------------------\n\n\nIf serving errors to Google's crawlers is not feasible on your infrastructure,\n[file a special request](https://search.google.com/search-console/googlebot-report)\nto report a problem with unusually high crawl rate, mentioning the optimal rate for your site in\nyour request. You cannot request an increase in crawl rate, and it may take several days for the\nrequest to be evaluated and fulfilled."]]
