Главная / Пресс-центр / Глоссарий / Поисковый робот (краулер)

Глоссарий

Поисковый робот (краулер)

Поисковый робот («веб-паук», краулер) — программа, являющаяся составной частью поисковой системы и предназначенная для перебора страниц интернета с целью занесения информации о них в базу данных поисковика. По принципу действия краулер напоминает обычный браузер. Он анализирует содержимое страницы, сохраняет его в специальном виде на сервере поисковой машины, которой принадлежит, и отправляется по ссылкам на следующие страницы. Владельцы поисковых машин нередко ограничивают глубину проникновения краулера внутрь сайта и максимальный размер сканируемого текста, поэтому чересчур большие сайты могут оказаться не полностью проиндексированными поисковой машиной. Кроме обычных краулеров, существуют так называемые «дятлы» — роботы, которые «простукивают» проиндексированный сайт, чтобы определить, что он доступен.



« Назад в Глоссарий