You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
webmagic/webmagic-avalon.md

30 lines
1.6 KiB
Markdown

11 years ago
WebMagic-Avalon项目计划
=======
WebMagic-Avalon项目的目标是打造一个可配置、可管理的爬虫以及一个可分享配置/脚本的平台,从而减少熟悉的开发者的开发量,并且让**不熟悉Java技术的人**也能简单的使用一个爬虫。
## Part1:webmagic-scripts
目标:使得可以用简单脚本的方式编写爬虫,从而为一些常用场景提供可流通的脚本。
例如我需要抓github的仓库数据可以这样写一个脚本(javascript)
[https://github.com/code4craft/webmagic/tree/master/webmagic-scripts](https://github.com/code4craft/webmagic/tree/master/webmagic-scripts)
这个功能目前实现了一部分,但最终结果仍在实验阶段。欢迎大家积极参与并提出意见。
## Part2:webmagic-pannel
一个集成了加载脚本、管理爬虫的后台。计划中。
## Part3:webmagic-market
一个可以分享、搜索和下载脚本的站点。计划中。
## 如何参与
11 years ago
webmagic目前由作者业余维护仅仅为了分享和个人提高没有任何盈利也没有商业化打算。
欢迎以下几种形式的贡献:
1. 为webmagic项目本身提出改进意见可以通过邮件组、qq、oschina或者在github提交issue(推荐)的方式。
2. 参与WebMagic-Avalon计划的建设讨论包括产品设计、技术选型等可以直接回复这个issue。
3. 参与webmagic代码开发请fork一份代码修改后提交pull request给我。请使用尽量新的版本并说明修改内容。pull request接受后我会将你加为committer共同参与开发。