用户登录
用户注册

分享至

newspaperwordpress

  • 作者: 小三儿5921297
  • 来源: 51数据库
  • 2020-04-21

1.如何使用爬虫做一个网站

“入门”是良好的动机,但是可能作用缓慢。如果你手里或者脑子里有一个项目,那么实践起来你会被目标驱动,而不会像学习模块一样慢慢学习。

另外如果说知识体系里的每一个知识点是图里的点,依赖关系是边的话,那么这个图一定不是一个有向无环图。因为学习a的经验可以帮助你学习b。因此,你不需要学习怎么样“入门”,因为这样的“入门”点根本不存在!你需要学习的是怎么样做一个比较大的东西,在这个过程中,你会很快地学会需要学会的东西的。当然,你可以争论说需要先懂python,不然怎么学会python做爬虫呢?但是事实上,你完全可以在做这个爬虫的过程中学习python :d

看到前面很多答案都讲的“术”——用什么软件怎么爬,那我就讲讲“道”和“术”吧——爬虫怎么工作以及怎么在python实现。

先长话短说summarize一下:

你需要学习

基本的爬虫工作原理

基本的/nvie/rq

rq和scrapy的结合:darkrho/scrapy-redis · github

后续处理,网页析取(grangier/python-goose · github),存储(mongodb)

转载请注明出处51数据库 » newspaperwordpress

软件
前端设计
程序设计
Java相关