guozhongCrawler的是一个无须配置、便于二次开发的爬虫开源框架,它提供简单灵活的API,只需少量代码即可实现一个爬虫。其设计灵感来源于多个爬虫国内外爬虫框架的总结。采用完全模块化的设计,功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化),支持多线程抓取,分布式抓取,并支持自动重试,定制执行js、自定义cookie等功能。在处理网站抓取多次后被封IP的问题上,guozhongCrawler采用动态轮换IP机制有效防止IP被封。另外,源码中的注释及Log输出全部采用通俗易懂的中文。让初学者能有更加深刻的理解
最近更新: 10年多前nlp项目基础框架:爬虫,针对动态网页(JS)的专有爬虫
最近更新: 10年多前用于各种分类问题,包括bayes、svm等各种分类器。
最近更新: 10年多前现在微信越来越火,基于微信的公众号和服务号越来越丰富,虽然微信帮助文档已经提供了相关的接口,但是接口比较多,通过代码自己调用比较麻烦,所以为减轻开发者独自创造轮子,将微信API进行了统一封装!
最近更新: 10年多前基于Apache Nutch和Htmlunit的扩展实现AJAX页面爬虫抓取解析插件,镜像自:https://github.com/xautlx/nutch-htmlunit
最近更新: 10年多前XML文件配置的hadoop平台的数据分析系统雏形,暂时支持hive和mr程序,不断完善中,后期打算支持shell和python脚本,代码质量有待改善。
最近更新: 10年多前