Los Spider-bots son programas que recorren tu web de forma metódica y automatizada. Aunque pueden tener varias finalidades, principalmente su utilidad es archivar toda la información de la web, en una base de datos e indexar el contenido, para usarlo como resultado de las búsquedas del buscador asociado.
Se suele reconocer porque se identifican en
HTTP_USER_AGENT con algún nombre que empieza o termina en BOT y en el mismo nombre incluye una
URL donde puedes tener más información. Por ejemplo en el
HTTP_USER_AGENT del robot de google es
Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) y en la
URL que contiene podemos informarnos mejor.
Podemos confirmar que realmente es quien dice ser haciendo una resolución inversa de la dirección IP con la que se conecta.
Con la proliferación de estos sistemas pueden llegar a ser muy molesto, consumiendo gran parte del tráfico y del ancho de banda el servidor web. Puede llegar a ser necesario el identificar y gestionar los robots que visitan tu web. Puedes eliminar que recorran tu web, limitando su acceso en el fichero
robots.txt
User-agent: {nombre del robot}
Disallow: /
Y en caso de que persista, bloqueado el tráfico para dicha IP.
Los más habituales que me he encontrado son los siguientes:
Googlebot
Es el robot de rastreo web de Google. Su función es recolectar toda la información de las páginas web para indexarlas y añadirla a sus bases de datos de su buscador.
Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
Bingbot
Es el equivalente al Googlebot del buscador de Microsoft, Bing.
Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)
AhrefsBot
Pertenece a
Ahrefs.com web que da servicio de herramientas para
SEO.
Mozilla/5.0 (compatible; AhrefsBot/5.0; +http://ahrefs.com/robot/)
TurnitinBot
Es el robot de
Turnitin.com se dedica a recopilar información para dar servicio a las instituciones educativas para evitar los plagios.
TurnitinBot/2.1 (http://www.turnitin.com/robot/crawlerinfo.html)
MJ12bot
Proyecto sobre la creación de un motor de búsqueda web basado en el concepto de distribuir la carga de trabajo similar al proyecto SETI.
Mozilla/5.0 (compatible; MJ12bot/v1.4.4; http://www.majestic12.co.uk/bot.php?+)
archive.org_bot
Robot de la Biblioteca nacional de España para la recolección de las páginas web de los dominios .es.
Mozilla/5.0 (compatible; archive.org_bot/3.1.2 +http://www.bne.es/es/LaBNE/PreservacionDominioES/AvisoWebmasters/index.html)
YandexBot
Es el robot de Yandex.com el buscador de internet más grande de Rusia.
Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)
Y muchísimos más, ¿Controlas las ‘arañas’ que visitan tu web? ¿Sabes cuánto tráfico te generan? ¿Afectan al rendimiento de tu servidor web?