基于微服务的预分配额度限流设计研究

作     者：郑旭 范红杰 柳军飞 ZHENG Xu;FAN Hongjie;LIU Junfei

作者机构：北京大学软件与微电子学院北京100871 中国政法大学科学技术教学部北京102249 北京大学软件工程国家工程研究中心北京100871 

基　　金：长沙市科技重大专项项目(kh2202006) 

出 版 物：《计算机科学》 (Computer Science)

年 卷 期：2024年第51卷第6期

页      码：346-353页

摘      要：在分布式架构下,同时存在于多个节点的限流器需要很好地协作才能达到单体限流的效果。在真实的业务场景中,线上请求分布不规律,线下业务吞吐量大。在此情况下,某一些关键节点因为超负荷运作而响应缓慢,从而导致请求链路整体的延迟增加,甚至造成整个应用的反应迟缓。针对现有微服务限流所存在的问题,文中提出了一种基于预分配额度进行主动推送配额更新的限流算法。该算法采用服务器主动向客户端广播的模式,服务器既可以接受客户端请求,也可以主动更新持有该资源配额的节点在处理请求后的最新结果。在服务器端分配所有节点配额时,可以采用灵活的分配算法进行分配。在估算限流节点配额时,采用滑动窗口的模式记录下一段时间内的请求数量和拥有的资源配额,通过自定义的算法来预估下一个周期的配额。同时,文中基于该算法实现了一个限流模型。实验结果证明,该模型可以及时地响应配额的变化,很好地实现节点之间的公平性。相比Doorman系统,所提模型可以更好地适应线上线下流量场景和精准限流。

主 题 词：限流 微服务 令牌桶 推送机制 分布式系统 

学科分类：1305[艺术学-设计学类] 13[艺术学] 08[工学] 081104[081104] 0804[工学-材料学] 081101[081101] 0811[工学-水利类] 

D　O　I：10.11896/jsjkx.231100125

馆 藏 号：203127164...