登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
Gitee AI
NEW
我知道了
查看详情
登录
注册
全部推荐项目
前沿技术
智能硬件
IOT/物联网/边缘计算
车载应用
智能家居
自动驾驶/无人机
机器人
5G/通讯
低代码
科研论文
量子计算
芯片开发
Web 3.0
隐私计算
云原生
OpenHarmony
按钮(Button)
文本框(EditText)
布局(Layout)
图形图像(Image)
进度条(Progress)
菜单(Menu)
弹窗(Popup)
选择器(Selector)
文本组件(TextView)
列表组件(ListView)
加载器(Loading)
提醒(Notification)
视图切换(View Transition)
滑杆(Slider)
图表(Chart)
绘图组件(Draw)
计数器(Counter)
动画(Animate)
验证码(Captcha)
多媒体(Multimedia)
条形码(Barcode)
高级UI组件
地图(Map)
OpenHarmony 游戏(Gaming)
网络(Networking)
通讯(Communication)
支付(Payment)
数据库(Database)
硬件驱动(Drivers)
OpenHarmony 教程指南
OpenHarmony工具集
OpenHarmony 应用
华为移动服务(HMS)
权限(Permissions)
工具包(Toolkit)
底层组件
手势控制(Gesture)
程序开发
中英文分词
支付开发包
安全开发相关
常用工具包
Excel工具包
条形码/二维码
模板引擎
桌面UI组件/框架
网络开发包
语音处理
网络工具
网络服务
数据挖掘
作业/任务调度
编程语言/脚本语言
缓存组件
Markdown工具包
搜索引擎
微服务
工作流
图表组件
权限管理
报表工具
代码生成器
IoC/AOP框架
图像处理
规则引擎
JSON工具
日志工具包
Spring Boot 扩展
验证码
算法/数学计算
Node 扩展
流程引擎/工具
动画开发
移动通信
人工智能
AI-人工智能
VR/AR
机器学习/深度学习
计算机视觉/人脸识别
自然语言处理
大模型
区块链
数字货币
NFT
微信开发
微信开发包
微信小程序/小游戏
微信应用
微信小游戏
企业应用
任务/项目管理
企业应用系统
BI-商业智能
金融/股票证券
GIS/地图/导航/定位
建站系统
CMS建站系统
新零售/网店/商城
BBS论坛/问答
博客系统
问卷调查/表单系统
SNS社交系统
学校/教学管理
相册/画廊/照片
RSS/Atom工具
应用工具
文件管理工具
多媒体
文本编辑
IM即时通讯/聊天
应用软件
RPA-机器人过程自动化
WEB应用开发
Web开发框架
jQuery插件
WebUI组件/框架
JavaScript工具包
RESTful项目
后台管理框架
网站主题
Vue扩展组件
Web爬虫
OAuth/单点登录/统一认证
Angular扩展
Bootstrap扩展插件
React 组件
RPC开发框架
API 网关/接口管理
短网址
layui 组件
DevOps/运维/网管
网管工具
监控系统
DevOps工具
手机/移动开发
Android组件/项目
iOS组件
移动App
支付宝小程序
百度小程序
PhoneGap/Cordova 插件
跨平台移动开发
快应用
TV/电视开发
uniapp 开源组件
开发工具
版本管理系统
开发/调试
Wiki/文档工具
编译/构建/部署
Maven 插件
Gulp 扩展
测试工具
代码扫描分析
服务器应用
分布式服务/框架
消息服务器/消息队列
Docker相关
容器/虚拟机
Nginx扩展模块
大数据
云计算
一键安装包
OpenResty 扩展
系统性能优化
Serverless
分布式存储系统
数据库相关
数据库开发包
数据库服务
数据库管理/监控
游戏/娱乐
游戏
游戏开发
3D引擎
插件和扩展
Chrome扩展
WordPress 扩展
Eclipse插件
IDEA 插件
Firefox扩展
Safari 插件
Visual Studio Code 扩展
Jenkins 插件
其他开源
高仿项目
图书/手册/教程
ACM/OJ 项目
操作系统
教学管理
教程配套代码
RISC-V 开发
生物/医疗/健康
2020公益黑客马拉松
新冠病毒相关开源
WEB应用开发
/
Web爬虫
开源许可
MulanPSL-2.0
0BSD
AFL-3.0
AGPL-3.0
Apache-2.0
Artistic-2.0
BSD-2-Clause
BSD-3-Clause
BSD-3-Clause-Clear
BSL-1.0
CC-BY-4.0
CC-BY-SA-4.0
CC0-1.0
ECL-2.0
EPL-1.0
EPL-2.0
EUPL-1.1
EUPL-1.2
GPL-2.0
GPL-3.0
ISC
LGPL-2.1
LGPL-3.0
LPPL-1.3c
MIT
MPL-2.0
MS-PL
MS-RL
MulanPSL-1.0
MulanPubL-1.0
MulanPubL-2.0
NCSA
OFL-1.1
OSL-3.0
PostgreSQL
UPL-1.0
Unlicense
WTFPL
Zlib
全部语言
Java
JavaScript
HTML
CSS
Python
Shell
C
C++
PHP
C#
TypeScript
Go
Objective-C
Android
Kotlin
Ruby
Assembly
Swift
NodeJS
Perl
Dart
Lua
Matlab
其他
Rust
PowerShell
HTML/CSS
微信
Scala
Groovy
C/C++
XSLT
Verilog
R
QML
Docker
Pascal
CoffeeScript
FORTRAN
Erlang
ActionScript
Emacs Lisp
Smalltalk
SQL
Delphi
TeX/LaTeX
VHDL
ASP
Visual Basic
M
Clojure
Common Lisp
Haskell
Awk
LiveScript
Elixir
Scheme
Julia
易语言
OCaml
Puppet
YAML
AutoHotkey
Ada
Pawn
Standard ML
D
XML
Arduino
Logos
VimL
Prolog
汇编
Haxe
ColdFusion
Vala
Crystal
Scilab
Coq
Racket
Lisp
Slash
Eiffel
eC
DOT
Zephir
Nemerle
Stars
Stars
最新推荐
最近更新
西门吹雪/pikachu
85
去吧皮卡丘,为什么取个名字叫皮卡丘,大概是这样萌一些。小哥哥是很可爱的。然后本项目是个爬虫项目,使用时候就像派出小精灵一样,派出皮卡丘,就会为你抓回对应的数据。
Java
Web爬虫
|
接近4年前
Microgoople/cockroach
85
又一个 java 爬虫
Java
Web爬虫
|
4年多前
crawlab-team/crawlab
83
Distributed web crawler admin platform for spiders management regardless of languages and frameworks.
Go
Web爬虫
|
2年多前
terrydash/avmoo_spider_by_dotnetspider
80
一个基于dotnetspider的爬取大姐姐的爬虫
C#
Web爬虫
|
7年前
takemefly/golddata-spider
78
1、规则简洁灵活易读易写 2、可反复采集数据而不产生重复 3、可同时将数据及数据关系采集融合 4、支持ajax 5、文档和培训视频齐全 。其核心代码从GoldData平台分离而来
Groovy
Web爬虫
|
5年前
夕阳雨晴/zhihu-spider
74
Spring Boot项目框架,结合多种开源技术,知乎信息中转持久化的数据流平台,并提供HTML+JSON和RabbitMQ等消息接口,从而使有兴趣的伙伴开发并使用其熟悉的语言环境,实现信息爬取,从而持久化到此项目中来,完成最开始的开发目标。
Java
Web爬虫
|
6年多前
andeyalee/surfer
70
surfer [high level concurrency downloader] 是一款Go语言编写的高并发爬虫下载器,拥有surf与phantom两种下载内核,支持固定UserAgent自动保存cookie与随机大量UserAgent禁用cookie两种模式,高度模拟浏览器行为,可实现模拟登录等功能。
Go
Web爬虫
|
4年多前
mz/spider-utils-for-php
67
简单、易用、灵活的网络类,spider/network for PHP , too simple .
PHP
Web爬虫
|
3年多前
思朗科博/Sman
66
一个轻量级网络多线程爬虫框架
Java
Web爬虫
|
接近5年前
Jtyoui/sogou
63
最新代码链接:码云上不在更新
Java
Web爬虫
|
5年多前
Algebra-FUN/WeReadScan
62
扫描“微信读书”已购图书并下载本地PDF的爬虫
Python
Web爬虫
|
6个月前
fffonion/xeHentai
61
绅士站爬虫 镜像自 https://github.com/fffonion/xeHentai
Python
Web爬虫
|
2年多前
博众科技/feapder
60
feapder是一款支持分布式、批次采集、任务防丢、报警丰富的python爬虫框架
Python
Web爬虫
|
6天前
无极小子/SeimiCrawler
60
分布式敏捷的爬虫框架
Java
Web爬虫
|
接近6年前
宇润/nCov-Crawler
59
基于 Swoole + imi 框架的新型冠状病毒肺炎疫情实时动态爬虫抓取项目,可查看各省市趋势图:https://test.yurunsoft.com/ncov/
PHP
Web爬虫
新冠病毒相关开源
|
4年多前
1
2
3
4
5
6
7
...
14
15
今日热门
本周热门
鬼画符/templatespider
2.9K
扒网站工具,看好哪个网站,指定好URL,自动扒下来做成模版。所见网站,皆可为我所用!
terrydash/avmoo_spider_by_dotnetspider
80
一个基于dotnetspider的爬取大姐姐的爬虫
DTC2/ECommerceCrawlers
436
实战多种网站、电商数据爬虫。包含:淘宝商品、微信公众号、大众点评、闲鱼、阿里任务、百度贴吧、豆瓣电影、包图网、全景网、豆瓣音乐、某省药监局、搜狐新闻、机器学习文本采集、fofa资产采集、汽车之家️️️
ssssssss-team/spider-flow
7.6K
新一代爬虫平台,以图形化方式定义爬虫流程,不写代码即可完成爬虫。
AJay13/ECommerceCrawlers
4.2K
实战多种网站、电商数据爬虫。包含:淘宝商品、微信公众号、大众点评、招聘网站、闲鱼、阿里任务、scrapy博客园、微博、百度贴吧、豆瓣电影、包图网、全景网、豆瓣音乐、某省药监局、搜狐新闻、机器学习文本采集、fofa资产采集、汽车之家、国家统计局、百度关键词收录数、蜘蛛泛目录、今日头条、豆瓣影评️️️。微信爬虫展示项目:
zorlan/蓝天采集器
807
蓝天采集器是一款开源免费的爬虫系统,仅需点选编辑规则即可采集数据,可运行在本地、虚拟主机或云服务器中,几乎能采集所有类型的网页,无缝对接各类CMS建站程序,免登录实时发布数据,全自动无需人工干预!是网页大数据采集软件中完全跨平台的云端爬虫系统
meetqy/sitemap-nodejs
56
输入网站地址,自动爬取网站当中所有的链接,并生成sitemap。
terrydash/avmoo_spider_by_dotnetspider
80
一个基于dotnetspider的爬取大姐姐的爬虫
Vanishi/DS
297
一个Qt开发的可以替代爬虫的网页数据采集软件,它最重要的特点就是,降低了采集网页数据的门槛,由至少必须掌握一门编程语言降低到只要会操作电脑即可。
bilibala/YiSpider
308
一款分布式爬虫平台,帮助你更好的管理和开发爬虫。 内置一套爬虫定义规则(模版),可使用模版快速定义爬虫,也可当作框架手动开发爬虫
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
回到顶部