服务器集群容量评估方法、装置、电子设备及存储介质
技术领域
本公开实施例涉及计算机
技术领域
,尤其涉及一种服务器集群容量评估方法、装置、电子设备及存储介质。背景技术
在互联网业务中,会根据业务增长进行服务架构的扩展,同时,为了保证服务的稳定性,还需要对服务器集群的容量进行管理。当前,为了能在重大活动或特殊时间节点预测服务流量压力,评估服务器集群的容量,以指导服务扩容或缩容等资源调整,通常通过服务器集群压力测试,评估服务器集群的容量及性能。
但是,压力测试的方式获取服务器集群容量评估的操作成本高,测试过程易对服务性能造成影响,引起线上故障,且时效性低。
发明内容
本公开实施例提供了一种服务器集群容量评估方法、装置、电子设备及存储介质,能够高效的对服务器集群容量进行实时评估。
第一方面,本公开实施例提供了一种服务器集群容量评估方法,包括:
获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载;
根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值;
基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
第二方面,本公开实施例还提供了一种服务器集群容量评估装置,包括:
数据获取模块,用于获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载;
峰值估算模块,用于根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值;
容量评估模块,基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开实施例任一所述的服务器集群容量评估方法。
第四方面,本公开实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例任一所述的服务器集群容量评估方法。
本公开实施例的技术方案,通过实时的获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间及服务器中央处理器平均负载;然后,根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前待评估服务器集群的服务每秒请求量峰值;最终,基于服务每秒请求量、服务每秒请求量峰值、服务平均响应时间、预设服务平均响应时间阈值及服务器中央处理器平均负载这些服务容量评估参数,按照预设服务器集群容量评估逻辑,得到待评估服务器集群的当前容量评估结果,解决了现有技术中心对服务器集群性能进行评估成本高以及时效性低的问题,能够高效且动态化的对服务器集群容量进行实时评估,降低对服务器集群性能进行评估成本,以高效指导服务器资源管理。
附图说明
结合附图并参考以下
具体实施方式
,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例一所提供的一种服务器集群容量评估方法的流程图;
图2为本公开实施例一所提供的在指定历史时间段内服务每秒请求量数据动态曲线;
图3为本公开实施例一所提供的在指定历史时间段内服务器中央处理器平均负载数据动态曲线;
图4为本公开实施例一所提供的同时间段内服务每秒请求量数据与服务器中央处理器平均负载数据线性拟合结果示意图;
图5为本公开实施例二所提供的一种服务器集群容量评估方法的流程图;
图6为本公开实施例三所提供的一种服务器集群容量评估方法的流程示意图;
图7为本公开实施例四所提供的一种服务器集群容量评估装置结构示意图;
图8为本公开实施例五所提供的一种电子设备结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
实施例一
图1为本公开实施例一所提供的一种服务器集群容量评估方法流程示意图,本公开实施例适用于评估服务器集群运行状态的情况,尤其适用于需要根据服务器集群运行状态进行服务资源管理的情形。该方法可以由服务器集群容量评估装置来执行,该装置可以通过软件和/或硬件的形式实现,该装置可配置于电子设备中,例如配置于移动终端或服务器设备中。
如图1所示,本实施例提供的服务器集群容量评估方法,包括:
S110、获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载。
服务器集群是指处理同一服务的多个服务器,集群可以利用多个计算机进行并行计算从而获得很高的计算速度,也可以用多个计算机做备份。对于客户端而言,一个服务集群相当于只有一个服务器。通常,对服务器集群的性能的评估从不同角度来说可以包括服务每秒请求量(QPS,quest per second)、服务平均响应时间(COST)及服务器中央处理器平均负载等参数(CPU_rate),特别是针对CPU密集型服务。
其中,服务平均响应时间在一定程度上反映了服务的质量,通常为了保证服务质量,让用户有良好的服务体验会设置一个服务平均响应时间的上限值。服务每秒请求量,则展现了服务集群的处理能力,服务器集群每秒钟能够处理的请求量越大越好,但是,每秒钟处理的服务请求量达到一定水平之后,会导致服务平均相应时间会变长,且服务器的中央处理器(CPU,Central Processing Unit)的负载过大。即服务请求量过大导致服务响应耗时达到某一水平,则认为服务器集群已经无法以常态性能工作,或当CPU负载达到某一水平时,整体服务的性能因硬件瓶颈受限也无法以正常性能工作,而在集群规模一定的情况下,服务能承载的请求量一定存在上限。因此,要综合服务每秒请求量、服务平均响应时间及服务器中央处理器平均负载多方面的因素对服务集群的容量进行评估。
服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载等数据的获取,可以从服务器集群运行监控数据中直接读取,或者,先经过数据处理功能对需要获取的数据进行整合后,在整合后的数据集中读取相应的数据。
S120、据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前待评估服务器集群的服务每秒请求量峰值。
对应一个服务器集群来说,通常是通过压力测试的方式来获知其性能极限的方法,但是,随着时间变化及服务逻辑优化调整以及架构变更,压力测试无法动态实时获知集群的极限性能,且压测工作耗时长,风险高。
在本实施例中,根据服务器中央处理器平均负载与服务每秒请求量数据的关系,建立了两者之间的函数关系,且可以根据动态采集到的新数据,更新两者间的函数关系。进而根据服务器中央处理器平均负载与服务每秒请求量数据间建立的线性关系,估算当前待评估服务器集群的服务每秒请求量峰值。
具体的,可以参考图2和图3所示的,截取到的在同一个时间段内的服务器集群每秒请求量数据曲线图和服务器中央处理器平均负载(也即CPU使用率)数据曲线图。可以从图中观察到,服务器中央处理器平均负载数据的变化趋势,是与服务每秒请求量数据的变化趋势保持一致的,即QPS和CPU_rate间存在明显的关联关系,可描述为在一定时间范围内,CPU_rate会随着QPS的升高而升高,且两者整体趋势保持一致。因此,本实施例中,通过服务器中央处理器平均负载与服务每秒请求量数据来进行曲线拟合,确定两者间的拟合关系,即函数关系。
在数据拟合过程中,可以获取当前时刻之前的第一历史时间段内的服务器中央处理器平均负载数据与服务每秒请求量数据用于两个的关系拟合。其中,第一历史时间段可以是当前时刻前七天、14天或其他时间长度,可以根据数据计算量及计算效率等指标综合确定。在一个具体的实例中,以图2和图3中的数据为例进行拟合计算,原始的数据有288组,其中,用于线性拟合的训练数据包括230组数据,用于进行拟合结果测试的有58组数据,拟合结果可参考图4中所示的最佳拟合线(best line),在图4中横坐标为CPU-rate,纵坐标为QPS。最佳拟合线的截距为40845.11716930033,回归系数为2554071.37846435,评估模型得分0.9855894892189563。通过该最佳拟合线,评估CPU-rate为30%时,QPS为807067.0;评估CPU-rate为40%时,QPS为1062474.0;评估CPU-rate为50%时,QPS为1317881.0;评估CPU-rate为60%时,QPS为1573288.0。从而,可以根据上述拟合关系,将服务器中央处理器平均负载取值为预设上限负载值时的服务每秒请求量,作为服务每秒请求量峰值。预设上限负载值通常取值为70%或其他数值。若在服务器中设置有GPU等处理器时,预设上限负载值还可以适应性的取更高的数值。
S130、基于服务每秒请求量、服务每秒请求量峰值、服务平均响应时间、预设服务平均响应时间阈值及服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到待评估服务器集群的当前容量评估结果。
具体的,服务集群容量评估过程可以是,首先,计算服务每秒请求量与服务每秒请求量峰值的比值,得到第一服务容量评估参数;然后,计算服务平均响应时间与预设服务平均响应时间阈值的比值,得到第二服务容量评估参数;最后,分别计算第一服务容量评估参数、第二服务容量评估参数及服务中央处理器平均负载与对应的参数权重系数的乘积,并将得到的乘积结果的累加和作为待评估服务器集群的当前容量评估结果。用数学公式表示,在t时刻的服务器集群容量使用水位值可表示为: 其中,QPSt表示为t时刻的服务每秒请求量,QPSpeak表示t时刻的服务每秒请求量峰值,COSTt表示t时刻的服务平均响应时间,COSTthread表示预设服务平均响应时间阈值,CPU.ratet表示t时刻的服务器中央处理器平均负载,A、B及C分别表示第一服务容量评估参数、第二服务容量评估参数及服务中央处理器平均负载与对应的参数权重系数,Levelt的取值范围为0-100%。
进一步的,A、B及C的取值是根据经验值进行设定并选择的结果。服务每秒请求量、服务响应平均耗时以及服务器中央处理器平均负载,对服务器集群容量过载的影响程度各不相同。具体的,对于CPU密集型服务,存在如下情况:
在不考虑缓存的情况下,QPS数值上涨,理论上CPU-rate数值上涨;QPS数值上涨,CPU-rate数值上涨在合理范围内,COST数值不一定涨;在服务集群下游发生异常(如线程阻塞/堆积)时,QPS数值不涨,COST数值上涨,CPU-rate数值上涨;在服务集群下游发生异常,但是线程未阻塞,QPS数值不涨,COST数值上涨,CPU-rate数值不涨。
正常情况下CPU-rate数值异常上涨,会普遍高于常态2-3倍,如正常响应50ms,异常时可能到300ms;其次,QPS数值也可能出现临时异常波动,在权重系数初调过程中,可以将波动较大的因素权重调低,尽可能减少异常干扰。基于以上假设,可设置多个参数权重系数组别,在实际线上回归过程中互为对照组,在运行一段时间根据拟合情况确定最终系数。即分别按照各组参数权重系数值下的服务器集群容量评估逻辑对服务器集群容量进行评估;将预设时间段内,各组参数权重系数值下的服务器集群容量评估逻辑的评估结果相互作为对照组,进行回归测试,根据回归测试结果确定最终的参数权重系数值。示例性的,参数权重系数取值可设置如下组别,A,B,C=[[0.25,0.25,0.5],[0.3,0.2,0.5],[0.3,0.15,0.55],[0.4,0.1,0.5],[0.3,0.1,0.6],[0.6,0.1,0.3],[0.7,0.1,0.2]]。
在一种优选的实施方式中,预设服务平均响应时间阈值是可以阶段性的进行调整的,可以通过获取当前时刻之前的第二历史时间段内的服务平均响应时间数据,并进行统计分析,得到服务平均响应时间数据的分布特征;然后,根据分布特征确定新的预设服务平均响应时间阈值,并将新确定的数值作为当前的预设服务平均响应时间阈值。例如,根据服务平均响应的阈值计算理论,确定服务平均响应时间符合正态分布理论,以一段时间(如当前时间的近7天)的历史服务平均响应时间监控数据作代入计算,按照天级更新,那么,预设服务平均响应时间阈值则等于在统计时间段内服务平均响应时间的算术平均值,与三倍的服务平均响应时间标准差之和。
当然,也可以以服务既定的响应超时阈值作为预设服务平均响应时间阈值。但是,考虑到各种不同服务定义的响应超时阈值非统一标准,且存在主观偏差,无法体现服务极限性能,还是以上述优选实施方式计算服务平均响应耗时阈值更佳。
本公开实施例的技术方案,可以通过实时的获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间及服务器中央处理器平均负载;然后,根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前待评估服务器集群的服务每秒请求量峰值;最终,基于服务每秒请求量、服务每秒请求量峰值、服务平均响应时间、预设服务平均响应时间阈值及服务器中央处理器平均负载这些服务容量评估参数,按照预设服务器集群容量评估逻辑,得到待评估服务器集群的当前容量评估结果,解决了现有技术中心对服务器集群性能进行评估成本高以及时效性低的问题,能够高效且动态化的对服务器集群容量进行实时评估,降低对服务器集群性能进行评估成本,以高效指导服务器资源管理。在整个服务器集群容量评估过程中,实时的获取相关数据进行容量评估,可以小时级别,甚至分钟级别地感知服务集群请求压力,当服务器集群容量水位值高于警戒值时,可以及时进行报警,通知容量风险,现全自动化,无需人力介入参与。相较于通过经验分析评估服务集群负载风险的情况,以数据作为评估依据,准确性高,且评估结果皆在一个统一的标准下。
实施例二
本公开实施例与上述实施例中所提供的服务器集群容量评估方法中各个可选方案可以结合。本实施例所提供的服务器集群容量评估方法,进一步描述了通过对未来时刻服务请求量进行预测,并根据预测结果与容量评估结果进行服务器集群资源调整的过程。
图5为本公开实施例二所提供的一种服务器集群容量评估方法的流程示意图。如图5所示,本实施例提供的服务器集群容量评估方法,包括:
S210、将当前时刻之前的第三历史时间段内的服务每秒请求量数据输入至预设请求量预测模型中,得到预设时刻的服务每秒请求量的结果。
具体的,预设请求量预测模型可以是Prophet预测模型,该模型是一个时序预测模型。具体的,模型公式可以表示为y(t)=g(t)+s(t)+h(t)+ε(t)。其中,g(t)属于趋势项,s(t)属于季节项,h(t)属于节假日项,ε(t)即误差项或者称为剩余项,表示模型未预测到的波动。在预测任一未来的预设时刻的服务每秒请求量时,需要将已知的时间序列的时间戳、相应的服务每秒请求量值,以及需要预测的时间序列的长度输入到预测模型中;然后预测模型会根据输入的数据输出未来的时间序列走势。
示例性的,假设,在2020年12月13日,以历史24个月的天级别服务每秒请求量监控数据为训练样本,进行模型训练,预测未来7天的服务每秒请求量峰值。即将过去的两年中,每天的日期及对应的每天服务每秒请求量输入至预测模型中,需要预测的时间序列长度为7天,那么得到如表1所示的输出结果。
表1天级别的未来7天服务每秒请求量预测结果
其中,ds表示日期,yhat表示在对应时间序列的预测值,yhat_lower,表示预测值的下界,yhat_upper表示预测值的上界。
再如,在2020年12月22日,以历史14天的小时级别服务每秒请求量监控数据为训练样本,进行模型训练,来预测未来6小时的服务每秒请求量峰值以及请求量趋势。即将过去的14天中,每天中各个小时内的服务每秒请求量输入至预测模型中,需要预测的时间序列长度为6小时,那么得到如表2所示的输出结果。
表2小时级别的未来6小时服务每秒请求量预测结果
通过,服务每秒请求量的预测,可以了解未来某一时刻服务集群面临的服务压力,从而能够及时的调整服务集群的容量,避免服务器集群提供的服务出现故障。
S220、获取动态的服务器集群容量评估结果中,预设服务每秒请求量参考时刻的待评估服务器集群的服务每秒请求量峰值。
为了能够进一步的指导服务器集群资源的调整,可以选取一个参考时间的服务每秒请求量峰值作为参考,以确定是否要进行服务器资源调整。例如,现在是某年某月某日的下午五点,通过步骤S210预测了今天晚上8点的服务每秒请求量,可作为今天晚上8点的服务每秒请求量峰值。可以以估算出的,昨天、前天或其他历史同一时间的服务器集群能够承受的服务每秒请求量峰值作为参考,从而确定在即将到来的晚上8点,服务器集群能否承接预测到的服务每秒请求量。或者,还可以以与晚上八点临近的时刻的服务每秒请求量作为参考。假设现在是今天晚上的6点10分,可以将当前的时刻对应的估算出的服务每秒请求量峰值作为参考。
S230、计算所述服务每秒请求量峰值与所述预设时刻的服务每秒请求量的差值,并根据所述差值对所述待评估服务器集群进行服务器资源调整。
具体的,由于在服务器集群的运行过程中,均会采用负载均衡算法,使各服务器能够平均地承担服务请求,在服务器资源调整时,可以通过作为参考的服务每秒请求量峰值,以及待评估服务器集群中已有服务器数量,确定每个服务器能够承接的服务每秒请求量的上限阈值。然后,通过预测到的服务每秒请求量及每个服务器能够承接的服务每秒请求量的上限阈值,确定需要的服务器数量。若需要的服务器数量大于已有服务器数量,则需要对待评估服务器集群进行扩容,若需要的服务器数量小于已有服务器数量,则可以对待评估服务器集群进行缩容,或者不做处理,从而完成服务器集群的服务器资源调整。
本公开实施例的技术方案,通过预测未来一个预设时刻的服务每秒请求量,并将该预测的服务每秒请求量与设定的参考时刻对应估算的服务每秒请求量峰值进行比较,进而根据比较结果及时的调整服务器资源,可以实现服务器集群实时容量风险评估以及扩缩容指导。特别是在重大活动或特殊节假日时间节点对服务请求量及服务集群容量的预估,可以在服务维护和资源管理方面给出数据指导,还可以在日常,进行常态服务资源结构优化,提供冗余资源挖潜指导。解决了现有技术中心对服务器集群性能进行评估成本高以及时效性低的问题,能够高效且动态化的对服务器集群容量进行实时评估,降低对服务器集群性能进行评估成本,以高效指导服务器资源管理。
实施例三
本公开实施例与上述实施例中所提供的服务器集群容量评估方法中各个可选方案可以结合。本实施例所提供的服务器集群容量评估方法,进一步说明了服务器集群运行数据存储于管理的具体过程,实现了从数据获取到服务器容量评估的整体运行方案。
图6为本公开实施例三所提供的一种服务器集群容量评估方法的流程示意图。如图6所示,本实施例提供的服务器集群容量评估方法,包括:
S310、从服务器集群运行监控数据中获取服务器集群运行数据存储到预设数据库中。
具体的,在服务器运行的过程中,可以通过Metrics监控服务器集群运行数据,并将服务器集群运行数据存储到预设数据库中。在该预设数据库中,所存储的运行数据是服务集群在运行过程中可以监控到的所有参数,如服务内容、服务请求量、服务平均响应时间、服务器集群中服务器数量及CPU-rate等数据。
S320、在所述预设数据库中提取预设字段数据,并对提取到的数据进行预处理,得到服务器集群容量评估数据集。
在该步骤中,相当于在预设数据库的基础上,再建立一个个性化的数据库,用于存储从预设数据库中读取到的各个字段下的参数。示例性的,读取的数据字段包括如表3所示:
表3读取数据字段示意
进一步的,在读取到数据后,需要对数据进行预处理,如转换数据格式,将数据的格式统一为服务器集群容量评估过程中使用的格式,删除重复或无效数据等。
S330、在所述服务器集群容量评估数据集中,获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载。
S340、根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值。
S350、基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
步骤S330-S350可参考实施例一和实施例二中的相关内容。
在一个具体的实例中,还可以实现资源评估、资源冗余回收及资源再利用的完整闭环。具体的,通过对大量常态有冗余资源的服务容量进行度量,在保留一定余量的情况下进行冗余资源回收,作为机动资源。同时,结合实时容量评估对存在资源缺口的服务进行回填,实现“资源再利用”,提升整体资源利用率,降低资源碎片化,缓解常态资源不足的问题。
本公开实施例的技术方案,通过实时监控服务器集群的运行数据,并对运行数据静提取与处理,进而基于处理后数据进行服务器集群容量评估,提供了从数据获取、数据存储管理、查询展示、评估逻辑建立、模型评估以及平估结果产出的整套解决方案。解决了现有技术中心对服务器集群性能进行评估成本高以及时效性低的问题,能够高效且动态化的对服务器集群容量进行实时评估,降低对服务器集群性能进行评估成本,以高效指导服务器资源管理。
实施例四
图7为本公开实施例四所提供的一种服务器集群容量评估装置结构示意图。本实施例提供的服务器集群容量评估装置适用于评估服务器集群运行状态的情况。
如图7所示,服务器集群容量评估装置包括:数据获取模块410、峰值估算模块420和容量评估模块430。
其中,数据获取模块410,用于获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载;峰值估算模块420,用于根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值;容量评估模块430,基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
本公开实施例的技术方案,通过实时的获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间及服务器中央处理器平均负载;然后,根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前待评估服务器集群的服务每秒请求量峰值;最终,基于服务每秒请求量、服务每秒请求量峰值、服务平均响应时间、预设服务平均响应时间阈值及服务器中央处理器平均负载这些服务容量评估参数,按照预设服务器集群容量评估逻辑,得到待评估服务器集群的当前容量评估结果,解决了现有技术中心对服务器集群性能进行评估成本高以及时效性低的问题,能够高效且动态化的对服务器集群容量进行实时评估,降低对服务器集群性能进行评估成本,以高效指导服务器资源管理。
在一些可选的实现方式中,所述峰值估算模块420具体用于:
获取当前时刻之前的第一历史时间段内的服务器中央处理器平均负载数据与服务每秒请求量数据;
建立所述服务器中央处理器平均负载数据与所述服务每秒请求量数据间的拟合关系;
基于所述拟合关系,将服务器中央处理器平均负载取值为预设上限负载值时的服务每秒请求量,作为所述服务每秒请求量峰值。
在一些可选的实现方式中,服务器集群容量评估装置还包括服务平均响应时间阈值确定模块,用于:
获取当前时刻之前的第二历史时间段内的服务平均响应时间数据,并进行统计分析,得到服务平均响应时间数据的分布特征;
根据所述分布特征确定所述预设服务平均响应时间阈值。
在一些可选的实现方式中,所述容量评估模块430具体用于:
计算所述服务每秒请求量与所述服务每秒请求量峰值的比值,得到第一服务容量评估参数;
计算所述服务平均响应时间与所述预设服务平均响应时间阈值的比值,得到第二服务容量评估参数;
分别计算所述第一服务容量评估参数、所述第二服务容量评估参数及所述服务中央处理器平均负载与对应的参数权重系数的乘积,并将得到的乘积结果的累加和作为所述待评估服务器集群的当前容量评估结果。
在一些可选的实现方式中,服务器集群容量评估装置还包括,参数权重系数确定模块,用于:
获取预设数量组参数权重系数值;
分别按照各组参数权重系数值下的服务器集群容量评估逻辑对服务器集群容量进行评估;
将预设时间段内,各组参数权重系数值下的服务器集群容量评估逻辑的评估结果相互作为对照组,进行回归测试,根据回归测试结果确定最终的参数权重系数值。
在一些可选的实现方式中,服务器集群容量评估装置还包括服务资源调整模块,用于:
将当前时刻之前的第三历史时间段内的服务每秒请求量数据输入至预设请求量预测模型中,得到预设时刻的服务每秒请求量的结果;
计算所述服务每秒请求量峰值与所述预设时刻的服务每秒请求量的差值,并根据所述差值对所述待评估服务器集群进行服务器资源调整。
在一些可选的实现方式中,服务器集群容量评估装置还包括参数管理模块,用于:
从服务器运行监控数据中获取服务器运行数据存储到预设数据库中;
在所述预设数据库中提取预设字段数据,并对提取到的数据进行预处理,得到服务器集群容量评估数据集,其中,所述预设字段包括数据采集时间、服务每秒请求量、服务平均响应时间、服务中央处理器平均负载;
相应的,所述数据获取模块410还用于:
在所述服务器集群容量评估数据集中,获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间、服务器中央处理器平均负载。
本公开实施例所提供的服务器集群容量评估装置,可执行本公开任意实施例所提供的服务器集群容量评估方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本公开实施例的保护范围。
实施例五
下面参考图8,其示出了适于用来实现本公开实施例的电子设备(例如图8中的终端设备或服务器)500的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图8示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(Read-Only Memory,ROM)502中的程序或者从存储装置506加载到随机访问存储器(Random Access Memory,RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置506被安装,或者从ROM502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的服务器集群容量评估方法中限定的上述功能。
本公开实施例提供的电子设备能够实现的功能与上述实施例提供的服务器集群容量评估方法属于同一公开构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例与上述实施例具有相同的有益效果。
实施例六
本公开实施例提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所提供的服务器集群容量评估方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read-Only Memory,EPROM)或闪存(FLASH)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(Hyper Text TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载;
根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值;
基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元、模块的名称在某种情况下并不构成对该单元、模块本身的限定,例如,数据生成模块还可以被描述为“视频数据生成模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FieldProgrammable Gate Array,FPGA)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、专用标准产品(Application Specific Standard Parts,ASSP)、片上系统(System on Chip,SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,【示例一】提供了一种服务器集群容量评估方法,该方法包括:
获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载;
根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值;
基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
根据本公开的一个或多个实施例,【示例二】提供了一种服务器集群容量评估方法,还包括:
在一些可选的实现方式中,所述根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值,包括:
获取当前时刻之前的第一历史时间段内的服务器中央处理器平均负载数据与服务每秒请求量数据;
建立所述服务器中央处理器平均负载数据与所述服务每秒请求量数据间的拟合关系;
基于所述拟合关系,将服务器中央处理器平均负载取值为预设上限负载值时的服务每秒请求量,作为所述服务每秒请求量峰值。
根据本公开的一个或多个实施例,【示例三】提供了一种服务器集群容量评估方法,还包括:
在一些可选的实现方式中,种服务器集群容量评估方法,还包括:
获取当前时刻之前的第二历史时间段内的服务平均响应时间数据,并进行统计分析,得到服务平均响应时间数据的分布特征;
根据所述分布特征确定所述预设服务平均响应时间阈值。
根据本公开的一个或多个实施例,【示例四】提供了一种服务器集群容量评估方法,还包括:
在一些可选的实现方式中,所述基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果,包括:
计算所述服务每秒请求量与所述服务每秒请求量峰值的比值,得到第一服务容量评估参数;
计算所述服务平均响应时间与所述预设服务平均响应时间阈值的比值,得到第二服务容量评估参数;
分别计算所述第一服务容量评估参数、所述第二服务容量评估参数及所述服务中央处理器平均负载与对应的参数权重系数的乘积,并将得到的乘积结果的累加和作为所述待评估服务器集群的当前容量评估结果。
根据本公开的一个或多个实施例,【示例五】提供了一种服务器集群容量评估方法,还包括:
在一些可选的实现方式中,所述第一服务容量评估参数、所述第二服务容量评估参数及所述服务中央处理器平均负载分别对应的参数权重系数的确定过程,包括:
获取预设数量组参数权重系数值;
分别按照各组参数权重系数值下的服务器集群容量评估逻辑对服务器集群容量进行评估;
将预设时间段内,各组参数权重系数值下的服务器集群容量评估逻辑的评估结果相互作为对照组,进行回归测试,根据回归测试结果确定最终的参数权重系数值。
根据本公开的一个或多个实施例,【示例六】提供了一种服务器集群容量评估方法,还包括:
在一些可选的实现方式中,服务器集群容量评估方法,还包括:
将当前时刻之前的第三历史时间段内的服务每秒请求量数据输入至预设请求量预测模型中,得到预设时刻的服务每秒请求量的结果;
计算所述服务每秒请求量峰值与所述预设时刻的服务每秒请求量的差值,并根据所述差值对所述待评估服务器集群进行服务器资源调整。
根据本公开的一个或多个实施例,【示例七】提供了一种服务器集群容量评估方法,还包括:
在一些可选的实现方式中,在获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间、服务器中央处理器平均负载之前,所述方法还包括:
从服务器集群运行监控数据中获取服务器集群运行数据存储到预设数据库中;
在所述预设数据库中提取预设字段数据,并对提取到的数据进行预处理,得到服务器集群容量评估数据集,其中,所述预设字段包括数据采集时间、服务每秒请求量、服务平均响应时间、服务中央处理器平均负载;
相应的,所述获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间、服务器中央处理器平均负载,包括:
在所述服务器集群容量评估数据集中,获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间、服务器中央处理器平均负载。
根据本公开的一个或多个实施例,【示例八】提供了一种服务器集群容量评估装置,包括:
数据获取模块,用于获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间和服务器中央处理器平均负载;
峰值估算模块,用于根据服务器中央处理器平均负载与服务每秒请求量的实时函数关系,估算当前所述待评估服务器集群的服务每秒请求量峰值;
容量评估模块,基于所述服务每秒请求量、所述服务每秒请求量峰值、所述服务平均响应时间、预设服务平均响应时间阈值及所述服务器中央处理器平均负载,按照预设服务器集群容量评估逻辑,得到所述待评估服务器集群的当前容量评估结果。
根据本公开的一个或多个实施例,【示例九】提供了一种服务器集群容量评估装置,还包括:
在一些可选的实现方式中,所述峰值估算模块具体用于:
获取当前时刻之前的第一历史时间段内的服务器中央处理器平均负载数据与服务每秒请求量数据;
建立所述服务器中央处理器平均负载数据与所述服务每秒请求量数据间的拟合关系;
基于所述拟合关系,将服务器中央处理器平均负载取值为预设上限负载值时的服务每秒请求量,作为所述服务每秒请求量峰值。
根据本公开的一个或多个实施例,【示例十】提供了一种服务器集群容量评估装置,还包括:
在一些可选的实现方式中,服务器集群容量评估装置还包括服务平均响应时间阈值确定模块,用于:
获取当前时刻之前的第二历史时间段内的服务平均响应时间数据,并进行统计分析,得到服务平均响应时间数据的分布特征;
根据所述分布特征确定所述预设服务平均响应时间阈值。
根据本公开的一个或多个实施例,【示例十一】提供了一种服务器集群容量评估装置,还包括:
在一些可选的实现方式中,所述容量评估模块具体用于:
计算所述服务每秒请求量与所述服务每秒请求量峰值的比值,得到第一服务容量评估参数;
计算所述服务平均响应时间与所述预设服务平均响应时间阈值的比值,得到第二服务容量评估参数;
分别计算所述第一服务容量评估参数、所述第二服务容量评估参数及所述服务中央处理器平均负载与对应的参数权重系数的乘积,并将得到的乘积结果的累加和作为所述待评估服务器集群的当前容量评估结果。
根据本公开的一个或多个实施例,【示例十二】提供了一种服务器集群容量评估装置,还包括:
在一些可选的实现方式中,服务器集群容量评估装置还包括,参数权重系数确定模块,用于:
获取预设数量组参数权重系数值;
分别按照各组参数权重系数值下的服务器集群容量评估逻辑对服务器集群容量进行评估;
将预设时间段内,各组参数权重系数值下的服务器集群容量评估逻辑的评估结果相互作为对照组,进行回归测试,根据回归测试结果确定最终的参数权重系数值。
根据本公开的一个或多个实施例,【示例十三】提供了一种服务器集群容量评估装置,还包括:
在一些可选的实现方式中,服务器集群容量评估装置还包括服务资源调整模块,用于:
将当前时刻之前的第三历史时间段内的服务每秒请求量数据输入至预设请求量预测模型中,得到预设时刻的服务每秒请求量的结果;
计算所述服务每秒请求量峰值与所述预设时刻的服务每秒请求量的差值,并根据所述差值对所述待评估服务器集群进行服务器资源调整。
根据本公开的一个或多个实施例,【示例十四】提供了一种服务器集群容量评估装置,还包括:
在一些可选的实现方式中,服务器集群容量评估装置还包括参数管理模块,用于:
从服务器集群运行监控数据中获取服务器集群运行数据存储到预设数据库中;
在所述预设数据库中提取预设字段数据,并对提取到的数据进行预处理,得到服务器集群容量评估数据集,其中,所述预设字段包括数据采集时间、服务每秒请求量、服务平均响应时间、服务中央处理器平均负载;
相应的,所述数据获取模块410还用于:
在所述服务器集群容量评估数据集中,获取当前待评估服务器集群的服务每秒请求量、服务平均响应时间、服务器中央处理器平均负载。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。