spider-flow README

The project's README from github.com/ssssssss-team/spider-flow. As one markdown file: README.md.

介绍 | 特性 | 插件 | DEMO站点 | 文档 | 更新日志 | 截图 | 其它开源 | 免责声明

介绍

平台以流程图的方式定义爬虫,是一个高度灵活可配置的爬虫平台

特性

插件

项目部分截图

爬虫列表

爬虫列表

爬虫测试

爬虫测试

Debug

Debug

日志

日志

其它开源项目

免责声明

请勿将spider-flow应用到任何可能会违反法律规定和道德约束的工作中,请友善使用spider-flow,遵守蜘蛛协议,不要将spider-flow用于任何非法用途。如您选择使用spider-flow即代表您遵守此协议,作者不承担任何由于您违反此协议带来任何的法律风险和损失,一切后果由您承担。

spider-flow (ssssssss-team/spider-flow)

Searching Database…

这是什么?Spider-flow 是新一代爬虫平台,让你可以用流程图来设计网页抓取工作流,而无需编写代码。
这是无代码工具吗?还是我仍然需要编写抓取代码?这是一个无代码、拖拽式的平台:你可以在流程图设计器中可视化地构建爬虫;不过它也支持插件扩展,可以通过自定义执行器和函数来应对高级需求。
我该怎么把它跑起来?项目提供了 Docker 镜像,你也可以直接运行构建好的 Java 应用,因为它是一个标准的 Java 服务器应用。
保存抓取的数据需要数据库吗?Spider-flow 可以把结果自动保存到数据库或文件中,并支持多种数据源以及 SQL 的 select/insert/update/delete 操作,但数据库是可选的,并非必需。
用它抓取数据前,有什么需要注意的吗?项目明确警告不得将其用于任何违法或违背伦理的用途,并且将滥用产生的法律责任完全归于使用者。
它支持哪些用于提取数据的选择器?支持 Xpath、JsonPath、CSS 选择器、正则表达式提取,以及这些方法的混合组合。
它能处理由 JavaScript 渲染或通过 AJAX 加载的页面吗?可以,它能抓取由 JavaScript 渲染或通过 AJAX 加载的页面,通常借助 Selenium 插件进行浏览器渲染。
开箱即用的插件有哪些?内置插件包括 Selenium、Redis、OSS、MongoDB、IP 代理池、OCR 识别和邮件发送。
是否有单独的前端项目?有,spider-flow-vue 是 spider-flow 配套的 Vue.js 前端,作者还维护着相关的 magic-api 项目。
Size
3.3 MB
Stars
11.4K
Age
6y
Commits · 90 Days