基于python的网络爬虫技术，相比于通用的搜索引擎更具有目的性和灵活性，它能根据选定的抓取目标，有选择的访问万维网上的网页与相关的链接，获取所需要的信息。而通用的搜索引擎的目标是尽可能将网络覆盖率增大，并且在数据形式复杂的情况下，对于具有一定结构且信息含量密集的数据，往往不能被很好的搜索出来，但这些都可以在网络爬虫技术下得到很好的解决。 本文以SCI论文数据爬取和爬取后的保存及查询为研究，实现了一个基于python的SCI论文爬取及查询系统。本论文还阐述了一些网络爬虫实现的常见问题，包括常用的lxml模块下xpath路径问题、网页信息解析问题、数据保存写入问题、服务器屏蔽ip问题等。还阐述有

内有光明网，人民网，腾讯，搜狐等各大网站的新闻python爬虫代码，以及部分以及爬取下来的新闻数据。

爬虫 Python数据采集课程【完整资料】等最新数据采集课程

基于python和爬虫的自制论文降重系统，有不错的降重率

此资源是用Python编写的获取全国任意城市温度、风力、降水量等天气信息的代码实例，通过Request库和BeautifulSoup库找到天气网站爬取相应数据！并以Excel表格的直观表示了出来！ 结合PyQt可以实现界面版本的天气查询软件！

网络爬虫（又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

一个简单的爬虫脚本，输入类似http://lknovel.lightnovel.cn/main/vollist/573.html这种目录，即可把整套小说下载到本地

贝壳二手房全国房产信息爬虫存入mysql

爬取美图录网页图片！爬取美图录网页图片！爬取美图录网页图片！爬取美图录网页图片！爬取美图录网页图片！爬虫神器！

使用Python语言，Scrapy框架开发爬虫示例(含翻页、图片下载、部署等详细信息及踩坑记录)