Получить список
5 671 924 веб-сайты, использующие Common Crawl Bot Disallow
которая включает в себя информацию о местоположении, данные о хостинге и контактные данные. Список включает в себя 5 190 420 живые сайты и 481 504 веб-сайты, перенаправляющие на эти сайты. 3 371 356 из этих сайтов находятся в Соединенные Штаты.
Мы также знаем о 1 430 502 сайты, которые использовали Common Crawl Bot Disallow ранее.