当前位置 :项目首页 > 研修日志 > 正文

网络爬虫，即Web Spider（又被称为网页蜘蛛，网络机器人），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。如果把互联网比喻成一个蜘蛛网，那么网络爬虫就是在网上爬来爬去的蜘蛛，通过网页的链接地址来寻找与之相关的网页。从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找到下一个网页，这样一直循环下去，直到把这个网站所有的网页抓取完为止。如果整个互联网的网址都能互相关联，那么网络蜘蛛就可以用这个原理把互联网上所有的网页内容都抓取下来。