11.4K ·GitHub
这是什么?
Spider-flow 是新一代爬虫平台,让你可以用流程图来设计网页抓取工作流,而无需编写代码。
这是无代码工具吗?还是我仍然需要编写抓取代码?
这是一个无代码、拖拽式的平台:你可以在流程图设计器中可视化地构建爬虫;不过它也支持插件扩展,可以通过自定义执行器和函数来应对高级需求。
我该怎么把它跑起来?
项目提供了 Docker 镜像,你也可以直接运行构建好的 Java 应用,因为它是一个标准的 Java 服务器应用。
保存抓取的数据需要数据库吗?
Spider-flow 可以把结果自动保存到数据库或文件中,并支持多种数据源以及 SQL 的 select/insert/update/delete 操作,但数据库是可选的,并非必需。
用它抓取数据前,有什么需要注意的吗?
项目明确警告不得将其用于任何违法或违背伦理的用途,并且将滥用产生的法律责任完全归于使用者。
它支持哪些用于提取数据的选择器?
支持 Xpath、JsonPath、CSS 选择器、正则表达式提取,以及这些方法的混合组合。
它能处理由 JavaScript 渲染或通过 AJAX 加载的页面吗?
可以,它能抓取由 JavaScript 渲染或通过 AJAX 加载的页面,通常借助 Selenium 插件进行浏览器渲染。
开箱即用的插件有哪些?
内置插件包括 Selenium、Redis、OSS、MongoDB、IP 代理池、OCR 识别和邮件发送。
是否有单独的前端项目?
有,spider-flow-vue 是 spider-flow 配套的 Vue.js 前端,作者还维护着相关的 magic-api 项目。
What are similar projects?
crawlab, maxun, Scrapling, proxy_pool, crawl4ai, illa-builder, EasySpider, JeecgBoot
Which topics is it in?
visual-programming, spider, web-crawler, data-extraction, crawler, low-code, no-code, mongodb, email, ocr, workflow, redis



