爬虫 文章目录 项目简介 一、创建项目 1、终端创建项目 2、修改配置 二、爬取列表数据 1、数据分析 2、模型建立 3、存储为 json 数据 4、存储为 mysql 数据 三、爬取列表下一页及所有数据 1、特征分析 2、编写方法 四、图片 1、添加图片保存地址 2、添加图片请求 3、添加图片管道 五、爬取详情 六、添加下载中间件 1、代理 USER_AGENT 2、IP 池 PROXIES 七、设置日志 爬虫 - Scrapy 爬取某招聘网站