204 Star 365 Fork 218

cloudskyme / zongtui-webcrawler

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
贡献代码
同步代码
取消
提示: 由于 Git 不支持空文件夾,创建文件夹后会生成空的 .keep 文件
Loading...
README
MIT

#zongtui-webcrawler

众推,基于机器学习和深度学习的开源项目,主要处理网络爬虫、文本挖掘等相关的内容!

1)实现基于hadoop思维的分布式网络爬虫,在完善和深入。 2)实现各种包括去重分析、关键字提取、情感分析、文本分类处理等。

核心设计思路是可以接入任何一种爬虫,并且可以针对此种爬虫的问题进行扩展。

欢迎加入讨论:众推 194338168

rule是规则解析 core是核心调度 plugin是插件 sourceer是数据源,也就是爬虫 store是存储

以下为爬虫列表: http://www.oschina.net/search?scope=project&q=%E7%BD%91%E7%BB%9C%E7%88%AC%E8%99%AB

项目中所用的编译版本为JDK1.7。

大数据博客整理: https://github.com/jxqlovejava/PopularBlogSites/blob/master/README.md

The MIT License (MIT) Copyright (c) 2015 cloudskyme Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files (the "Software"), to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software, and to permit persons to whom the Software is furnished to do so, subject to the following conditions: The above copyright notice and this permission notice shall be included in all copies or substantial portions of the Software. THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.

简介

基于hadoop思维的分布式网络爬虫。 展开 收起
Java
MIT
取消

发行版

暂无发行版

贡献者

全部

近期动态

加载更多
不能加载更多了
Java
1
https://gitee.com/zongtui/zongtui-webcrawler.git
git@gitee.com:zongtui/zongtui-webcrawler.git
zongtui
zongtui-webcrawler
zongtui-webcrawler
master

搜索帮助

14c37bed 8189591 565d56ea 8189591