由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名
项目竞品项目
D4Vinci/Scrapling
🕷️ 一个自适应网络爬虫框架,能够处理从单个请求到大规模爬取的所有任务!
ScrapeGraphAI/Scrapegraph-ai
基于人工智能的Python爬虫工具
getmaxun/maxun
🔥 开源无代码网页抓取、爬虫、搜索与AI数据提取平台 • 数分钟内将网站转为结构化API 🔥
scrapy/scrapy
Scrapy:Python 快速高级网页爬取与抓取框架
apify/crawlee
Crawlee——一个用于构建可靠爬虫的Node.js网络爬取和浏览器自动化库。支持JavaScript与TypeScript。可为人工智能、大语言模型、检索增强生成或GPT提取数据。从网站下载HTML、PDF、JPG、PNG等文件。兼容Puppeteer、Playwright、Cheerio、JSDOM及原始HTTP请求。支持有头模式与无头模式。提供代理轮换功能。
CloakHQ/CloakBrowser
一款能通过所有机器人检测测试的隐形Chromium浏览器。可直接替代Playwright,并附带源码级指纹补丁。30/30项测试全部通过。
omkarcloud/botasaurus
构建无懈可击爬虫的全能框架
elixir-crawly/crawly
Crawly,一个用于 Elixir 的高层级网络爬取与抓取框架。
firecrawl/firecrawl
面向AI的网页数据API——将整个网站转换为LLM就绪的Markdown或结构化数据🔥
daijro/camoufox
🦊 反检测浏览器
jo-inc/camofox-browser
为AI代理提供无头浏览器自动化服务器,用于访问通常被屏蔽的网站
edoardottt/cariddi
获取域名列表,爬取网址并扫描端点、密钥、API密钥、文件扩展名、令牌等
NaiboWang/EasySpider
易采集:一个可视化无代码/免编程的网络爬虫工具,支持通过图形化界面设计和执行采集任务。别名:ServiceWrapper面向Web应用的智能化服务封装系统。
DedSecInside/TorBot
暗网开源情报工具
相关项目推荐
golang-standards/project-layout
标准Go项目结构规范
mindsdb/mindshub
让AI做实际工作。随时切换模型——保留你构建的一切。
mindsdb/minds
通用型AI,专为知识工作者——创作者、策略师与运营者——以及希望拥有真正可控AI系统以协助完成工作、并能灵活扩展部署至任意环境(VPC、本地或云端)的个人而设计。
veggiemonk/awesome-docker
🐳 精选 Docker 资源与项目列表
jobbole/awesome-python-cn
Python资源大全中文版,涵盖Web框架、网络爬虫、模板引擎、数据库、数据可视化、图像处理等领域,由「开源前哨」与「Python开发者」微信公众号团队联合维护更新。
uber-go/guide
Uber Go 语言编码风格指南