论文部分内容阅读
为了简化Crawler的开发流程及更新代价,本文提出Crawler的通用内核crlib,crlib抽象出Crawler的基本功能,以动态库的形式嵌入具体Crawler实例当中.crlib不仅提供了可定制的应用接口,还提供了可交互式的对Crawler工作流程进行控制的消息接口,该接口标准化了Crawler各组件之间的通信机制.