Asyncload是一款异步并行加载工具(依赖字节码技术)。
背景
前段时间在做应用的性能优化时,分析了下整体请求,profile看到90%的时间更多的是一些外部服务的I/O等待,cpu利用率其实不高,在10%以 下。 单次请求的响应时间在50ms左右,所以tps也不会太高,测试环境压力测试过程,受限于环境因素撑死只能到200tps,20并发下。
I/O
目前一般的I/O的访问速度: L1 > L2 > memory -> disk or network 常见的IO:
nas上文件 (共享文件存储)
output/xxx (磁盘文件)
memcache client / cat client (cache服务)
database (oracle , mysql) (数据库)
dubbo client (外部服务)
search client (搜索引擎)
思路 正因为考虑到I/O阻塞,长的外部环境单个请求处理基本都是在几十ms,最终的出路只能异步+并行,从而诞生了该开源产品
项目介绍
名称:asyncload
译意: async cocurrent load
语言: 纯java
开发定位: 业务层异步并行加载工具包,减少页面响应时间
工作原理
原理描述:
针对方法调用,基于字节码增强技术,运行时生成代理类,快速返回mock对象,后台异步进行调用
通过管理和调度线程池,将后台异步调用进行加速处理,达到一个平衡点
业务执行过程需要获取mock对象的真实数据时,阻塞等待原始结果返回,整个过程透明完成很明显,经过异步并行加载后,一次request请求总的响应时间就等于最长的依赖关系请求链的相应时间。
相关文档
See the wiki page for : wiki文档 wiki文档列表
Home
Introduction
QuickStart
ChangeLog
用户手册