Slurp werd gebruikt door Yahoo! om websites- en pagina’s te indexeren. Anno 2020 heeft Yahoo een andere bot of crawler: Bingbot. Deze bot bestaat sinds 2010 en wordt gebruikt om het internet af te gaan op zoek naar nieuwe webpagina’s.
Met de informatie van Bingbot kan Yahoo! pagina’s crawlen en zo een database van miljoenen webpagina’s aanleggen.
De meest bekende zoekmachines zijn:
Yahoo! | Bingbot (vroeger Slurp) |
Googlebot | |
Bing/Microsoft | Bingbot/MSN Bot |
Yandex | Yandex Bot |
Baidu | Baidu Spider |