标签:北京公交 settings 创建 py beibus 爬虫 爬取 Scrapy scrapy
前言就不过多赘述了,大家只要把scrapy的基本了解之后就可以完成这个项目。
一:创建scrapy项目: 打开控制台输入 scrapy startproject beibus(这个是项目名称,可以自己修改)
进入项目文件夹创建爬虫scrapy genspider (爬虫名) (域名)
查看beibus项目,如果有刚刚创建的爬虫名称的py文件,说明爬虫创建成功
二:设置settings
打开settings.py文件,修改ROBOTSTXT_OBEY的值为False
标签:北京公交,settings,创建,py,beibus,爬虫,爬取,Scrapy,scrapy 来源: https://blog.csdn.net/qq_53477661/article/details/121972379
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。