python-spider README

注：2020年最新连载教程请移步：Python Spider 2020

免责声明：

大家请以学习为目的使用本仓库，爬虫违法违规的案件：https://github.com/HiddenStrawberry/Crawler_Illegal_Cases_In_China

本仓库的所有内容仅供学习和参考之用，禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究，不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任，本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。

Python Spider

原创文章每周最少两篇，后续最新文章会在【公众号】首发，视频【B站】首发，大家可以加我【微信】进交流群，技术交流或提意见都可以，欢迎Star！

声明

代码、教程仅限于学习交流，请勿用于任何商业用途！

爬虫小工具

downloader.py:文件下载小助手

一个可以用于下载图片、视频、文件的小工具，有下载进度显示功能。稍加修改即可添加到自己的爬虫中。

动态示意图：

爬虫实战

biqukan.py:《笔趣看》盗版小说网站，爬取小说工具

第三方依赖库安装：
```
 pip3 install beautifulsoup4
```
使用方法：
```
 python biqukan.py
```
baiduwenku.py: 百度文库word文章爬取

原理说明：http://blog.csdn.net/c406495762/article/details/72331737

代码不完善，没有进行打包，不具通用性，纯属娱乐。
shuaia.py: 爬取《帅啊》网，帅哥图片

《帅啊》网URL：http://www.shuaia.net/index.html

原理说明：http://blog.csdn.net/c406495762/article/details/72597755

第三方依赖库安装：
```
 pip3 install requests beautifulsoup4
 
```
daili.py: 构建代理IP池

原理说明：http://blog.csdn.net/c406495762/article/details/72793480
carton: 使用Scrapy爬取《火影忍者》漫画

代码可以爬取整个《火影忍者》漫画所有章节的内容，保存到本地。更改地址，可以爬取其他漫画。保存地址可以在settings.py中修改。

动漫网站：http://comic.kukudm.com/

原理说明：http://blog.csdn.net/c406495762/article/details/72858983
hero.py: 《王者荣耀》推荐出装查询小助手

网页爬取已经会了，想过爬取手机APP里的内容吗？

原理说明：http://blog.csdn.net/c406495762/article/details/76850843
financical.py: 财务报表下载小助手

爬取的数据存入数据库会吗？《跟股神巴菲特学习炒股之财务报表入库(MySQL)》也许能给你一些思路。

原理说明：http://blog.csdn.net/c406495762/article/details/77801899

动态示意图：
one_hour_spider:一小时入门Python3网络爬虫。

原理说明:
- 知乎：https://zhuanlan.zhihu.com/p/29809609
- CSDN：http://blog.csdn.net/c406495762/article/details/78123502
本次实战内容有：
- 网络小说下载(静态网站)-biqukan
- 优美壁纸下载(动态网站)-unsplash
- 视频下载
douyin.py:抖音App视频下载

抖音App的视频下载，就是普通的App爬取。

原理说明:
- 个人网站：http://cuijiahua.com/blog/2018/03/spider-5.html
douyin_pro:抖音App视频下载（升级版）

抖音App的视频下载，添加视频解析网站，支持无水印视频下载，使用第三方平台解析。

原理说明:
- 个人网站：http://cuijiahua.com/blog/2018/03/spider-5.html
douyin:抖音App视频下载（升级版2）

抖音App的视频下载，添加视频解析网站，支持无水印视频下载，通过url解析，无需第三方平台。

原理说明:
- 个人网站：http://cuijiahua.com/blog/2018/03/spider-5.html
动态示意图：
geetest.py:GEETEST验证码识别

原理说明:

无
12306.py:用Python抢火车票简单代码

可以自己慢慢丰富，蛮简单，有爬虫基础很好操作，没有原理说明。
baiwan:百万英雄辅助答题

效果图：

原理说明：
- 个人网站：http://cuijiahua.com/blog/2018/01/spider_3.html
  
  功能介绍：
服务器端，使用Python（baiwan.py）通过抓包获得的接口获取答题数据，解析之后通过百度知道搜索接口匹配答案，将最终匹配的结果写入文件（file.txt)。

手机抓包不会的朋友，可以看下我的早期手机APP抓包教程。

Node.js（app.js）每隔1s读取一次file.txt文件，并将读取结果通过socket.io推送给客户端（index.html）。

亲测答题延时在3s左右。

声明：没做过后端和前端，花了一天时间，现学现卖弄好的，javascript也是现看现用，百度的程序，调试调试而已。可能有很多用法比较low的地方，用法不对，请勿见怪，有大牛感兴趣，可以自行完善。
Netease:根据歌单下载网易云音乐

效果图：

原理说明：

暂无

功能介绍：

根据music_list.txt文件里的歌单的信息下载网易云音乐，将自己喜欢的音乐进行批量下载。

bilibili：B站视频和弹幕批量下载

原理说明：

暂无

使用说明：

 python bilibili.py -d 猫 -k 猫 -p 10

 三个参数：
 -d    保存视频的文件夹名
 -k    B站搜索的关键字
 -p    下载搜索结果前多少页

jingdong：京东商品晒单图下载

效果图：

原理说明：

暂无

使用说明：

 python jd.py -k 芒果

  三个参数：
 -d    保存图片的路径，默认为fd.py文件所在文件夹
 -k    搜索关键词
 -n      下载商品的晒单图个数，即n个商店的晒单图

zhengfang_system_spider：对正方教务管理系统个人课表，个人学生成绩，绩点等简单爬取

效果图：

原理说明：

暂无

使用说明：
```
 cd zhengfang_system_spider
 pip install -r requirements.txt
 python spider.py
```

其它

欢迎 Pull requests，感谢贡献。

更多精彩，敬请期待！

19.8K ·GitHub

Python-spider

这是什么？

一组真实场景中的 Python 网页爬虫项目，每个项目针对一个特定的中国网站或应用：Taobao、JD、NetEase Music、Bilibili、12306 火车票、Douyin、小说网站、漫画网站等。

这是一个工具，还是一堆独立的脚本？

它是一组独立的脚本和小项目，每个目标网站对应一个（例如 biqukan.py、douyin.py、bilibili.py、jd.py），而不是统一的框架或库。

怎么运行其中一个爬虫？

选择你想要的网站对应的脚本（例如 python biqukan.py、python bilibili.py -d cat -k cat -p 10、python jd.py -k mango），安装其中列出的第三方依赖，然后直接运行即可。

运行这些脚本之前需要安装什么？

主要是 requests 和 beautifulsoup4（pip3 install beautifulsoup4 / pip3 install requests beautifulsoup4）；部分子项目（如 zhengfangsystemspider）有各自的 requirements.txt。

这些爬虫能保证一直可用吗？

不能。它们抓取的是正在运行的第三方网站或应用，依赖其当前的页面结构或接口，随着时间推移很可能失效；部分脚本（如 baiduwenku.py）已明确标注为不完整，且不具有通用性。

这是面向谁的？

面向初学者和希望动手学习 Python 网页爬虫技术的人，内容从简单的静态网站抓取，到应用接口的逆向分析都有涉及。

抖音下载器到底能做什么？

它可以下载 Douyin 应用中的视频；后续版本新增了无水印下载功能，通过直接解析视频链接实现，而不是依赖第三方解析网站。

这个工具能下载音乐或视频内容吗？

可以。有脚本可以根据歌单文件批量下载 NetEase Cloud Music 的歌曲，也有脚本可以批量下载 Bilibili 视频及其弹幕（评论浮层）文件。

有没有用来搭建代理 IP 池的工具？

有。daili.py 可以搭建一个代理 IP 池，供仓库中的其他爬虫复用，以避免被封禁。

有没有针对 12306 火车票抢票的内容？

有。12306.py 是一个简单的抢票脚本，可以进一步扩展，适合有一定爬虫基础的人。

What are similar projects?

learn_python3_spider, PythonPark, MediaCrawler, Douyin_TikTok_Download_API, Python-Core-50-Courses, crawlab, TikTokDownloader, BettaFish

Which topics is it in?

douyin, video-downloader, bilibili, scraper, crawler, python3, music, web-scraping, beginner-friendly, proxy, learning, tutorial

Creator: Jack-Cherish
Size: 1.2 MB
Stars: 19.8K
Updated: CommitAug 19
Age: 9y
Commits · 90 Days

python-spider README

注：2020年最新连载教程请移步：Python Spider 2020

Python Spider

声明

目录

爬虫小工具

爬虫实战

其它

python-spider (Jack-Cherish/python-spider)