最近在学习Python的爬虫框架scrapy，通过爬取线报网站后发现整个过程还是挺值得学习的，所以下面这篇文章主要就给大家介绍了Python的爬虫框架scrapy利用21行代码写一个爬虫的相关资料，需要的朋友可以参考借鉴，下面来一起看看吧。

开发说明 开发环境:Pycharm 2017.1(目前最新) 开发框架:Scrapy 1.3.3(目前最新) 目标 爬取线报网站,并把内容保存到items.json里 页面分析 根据上图我们可以发现内容都在类为post这个div里 下面放出post的代码 04月07日<!-- baidu_tc block_end -->