¿Qué es un Spider?

Spiders, Spider (Robot-Web, araña, bot, web crawler). Programa que recorre la WWW y visita páginas web, accediendo por los enlaces (links) que tiene de forma automática. Suelen utilizarlo los grandes buscadores para dar de alta (indexar) las páginas y luego presentarlas como opción a las búsquedas que realizamos.

Algunos nombres de spiders populares son:

Googlebot (de Google)

Scooter (de Altavista)

Slurp (de AOL)

ArchitextSpider (de Excite)

Lycos (de Lycos)

Yahoo Slurp (de Yahoo!)

MSNBot (de Bing)

Los Spiders no rastrean los links a áreas de los servidores web como cpanel y webmail.