具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

图1是根据一示例性实施例示出的一种服务调度方法的流程图，如图1所示，该方法用于微服务架构中的负载均衡器，该负载均衡器与微服务中的各个微服务实例通信连接，可以包括以下步骤：

在步骤S110中，接收终端发送的服务调用请求。

在本公开提供的实施例中，在微服务架构中设置有负载均衡器，该负载均衡器与微服务中的各个微服务实例进行通信连接，并且该负载均衡器可以接收来自终端发送的服务器请求，以便将该服务器请求发送给微服务中相应的实例进行处理。其中，该服务调用请求可以包括服务IP地址，服务端口号，服务ID等。

在步骤S120中，获取各个微服务实例的负载信息。

由于一般微服务中的微服务实例会有多个，每个微服务实例当前处理的请求数不同，且不同的微服务实例的处理能力可能也不一样，因此本公开实施例需要获取各个微服务实例的负载信息，以便选择适合的微服务实例来处理本次服务调用请求，避免因选择的微服务实例处理能力不足或者负载过大等原因导致的影响微服务的不能正常运行的问题出现。在实际应用中，微服务实例启动时，可以自动向分布式系统zookeeper注册微服务信息，标识微服务实例已启动，可处理终端发送的服务调用请求。微服务实例关闭时，可以自动向分布式系统zookeeper注销已注册的微服务实例信息，标识微服实例务已关闭，无法处理终端发送的服务调用请求。因此，负载均衡器可以从分布式系统zookeeper获取各个微服务实例的负载信息。为了方案描述清楚和完整，将在下面实施例对各个微服务实例的负载信息进行详细阐述。

在步骤S130中，根据负载信息确定各个微服务实例中的目标微服务实例，并将服务调用请求发送给目标微服务实例。

本公开实施例中的负载信息，可以是各个微服务实例当前处理的服务调用请求数、历史时期处理的成功率的大小以及处理耗时等上述的一种或者几种。其中，该负载信息用于表征所述各个微服务实例的处理服务调用请求的能力及当前服务调用请求的处理状态，例如，通过服务调用请求处理的成功率和服务调用请求处理的耗时信息可以体现微服务实例的处理能力，通过当前处理的服务器请求数可以体现各个微服务实例当前服务器请求的处理状态。

本公开实施例提供的服务调度方法，通过在微服务架构中设置负责均衡器，在负载均衡器接收到服务器发送的服务器请求时，通过获取各个微服务实例的负载信息来确定各个微服务实例中的目标微服务实例，并将接收到的服务调用请求发送给该目标微服务实例进行处理。这样可以有效的从多个微服务实例中选择服务调用请求处理状态和处理能力比较好的微服务实例，进而可以避免因选择处理能力不足的微服务实例而导致影响微服务正常运行的情况发生。

为了详细阐述如何获取各个微服务的负载信息，在本公开提供的又一实施例中，基于上述实施例，如图2所示，步骤S120还可以包括以下步骤：

在步骤S121中，获取各个微服务实例在预设历史时间段内的接收到的服务调用请求数和成功处理的服务调用请求数。

本公开实施例为了确定微服务中各个微服务实例处理服务调用请求的处理能力，可以选择预设历史时间段内接收到的服务调用请求数和成功处理的服务调用请求数。其中，该预设历史时间段可以根据需要进行设定，例如可以是过去的一个小时、一天或者几天等。一般微服务实例在接收到要处理的服务调用请求时，会对其进行处理，处理结果一般为成功处理和未成功处理(即处理失败)，如果是未成功处理，可以通过重新处理或者调度给其他实例进行处理。

在步骤S122中，根据接收到的服务调用请求数和成功处理的服务调用请求数，确定各个微服务实例处理服务调用请求的成功率。

本公开实施例在确定各个微服务实例处理服务调用请求的成功率时，可以将预设历史时间段内成功处理的服务调用请求数除以接收到的服务器请求数，得到的数值作为各个微服务实例在预设历史时间段内处理微服务调用请求的成功率。这里的接收到的服务调用请求数是指预设历史时间段内一个微服务实例接收到的服务调用请求的总数量。

步骤S123，获取各个微服务实例当前处理的服务器请求数；

步骤S124，对于每一微服务实例，将该微服务实例当前处理的服务器请求数和所述成功率作为该微服务实例的负载信息。

本公开实施例将各个微服务实例当前处理的服务器请求数和成功率作为负载信息，其中，当前处理的微服务调用请求数可以用来体现各个微服务实例当前服务调用请求的处理状态，即各个微服务实例当前正在处理多少个服务器请求；而服务器请求处理的成功率可以用来体现各个微服务实例的处理服务调用请求的能力。这样通过获取各个微服务实例的负载信息来确定出的目标微服务实例可以很好的处理当前接收到的服务调用请求，避免因自身处理能力不足或者负载压力过大而导致的无法正常处理而影响微服务的正常运行的问题。

为了进一步体现如何从各个微服务实例中确定出目标微服务实例，结合上述实施例，在本公开提供的又一实施例中，如图3所示，步骤S130还可以包括如下步骤：

在步骤S131中，根据各个微服务实例处理服务调用请求的成功率大小对各个微服务实例进行排序，得到排序结果。

在步骤S132中，根据各个微服务实例当前处理的服务调用请求数和排序结果，从各个微服务实例中选择目标微服务实例。

本公开实施例中在获取到各个微服务实例处理服务调用请求的成功率大小时，会按照其大小顺序进行排序，即将成功率大的排在前面，成功率小的排在后面，在从各个微服务实例中选择目标微服务实例时，优先选择成功率较大的微服务实例，这样可以有效提高服务调用请求的处理效率。

另外，本公开实施例还会考虑各个微服务实例当前处理的服务调用请求数，这样可以避免选择出的目标微服务虽然处理的服务调用请求在以往处理的成功率较高，但是当前处理的服务调用请求较多而导致的负载压力较大而导致的不能及时处理服务调用请求的情况发生。

在本公开提供的又一实施例中，还进一步考虑了将微服务处理服务调用请求的耗时信息作为负载信息进行了考虑，使得确定出的目标微服务实例更加有效，因此，如图4所示，上述步骤S130具体可以包括以下步骤：

在步骤S133中，获取各个微服务处理服务调用请求时分别对应的耗时信息。

这里的耗时信息可以是各个微服务在预设历史时间段内处理服务调用请求时产生的耗时信息，耗时时间越短，可以反映出微服务实例的处理能力越强，因此，将微服务实例处理服务调用请求的耗时信息作为负载信息进行考虑，也进一步反映微服务实例的处理能力。

在步骤S134中，根据各个微服务实例处理服务调用请求的成功率大小和耗时信息对各个微服务实例进行排序，得到排序结果。

在步骤S135中，根据各个微服务实例当前处理的服务调用请求数和排序结果，从各个微服务实例中选择目标微服务实例。

本公开实施例通过将各个为服务实例在处理服务调用请求时产生的耗时信息和各个微服务实例处理服务调用请求的成功率大小共同作为负载信息，可以更加全面的体现微服务实例的处理能力。在从各个微服务实例中选择目标微服务实例时，优先选择成功率较大和耗时较短的微服务实例，这样可以有效提高服务调用请求的处理效率。另外，本公开实施例还会考虑各个微服务实例当前处理的服务调用请求数，这样可以避免选择出的目标微服务虽然处理的服务调用请求在以往处理的成功率较高，但是当前处理的服务调用请求较多而导致的负载压力较大而导致的不能及时处理服务调用请求的情况发生。

结合上述实施例，为了进一步阐述如何从各个微服务实例中选择目标微服务实例，在本公开提供的又一实施例中，如图5所示，上述步骤S132或S135还可以包括以下步骤：

在步骤S141中，根据各个微服务实例当前处理的服务调用请求数及预设历史时间段内处理的服务调用请求数，获取各个微服务中每个微服务的负载占用率。

在步骤S142中，根据负载占用率从各个微服务中选择第一预设数量的微服务实例，并根据排序结果从各个微服务中选择第二预设数量的微服务实例。

在步骤S143中，从第一数量的微服务实例和第二预设数量的微服务实例中选择二者重合部分的微服务实例，并从重合部分的微服务实例中确定出目标微服务实例。

本公开实施例在获取到各个微服务实例当前处理的微服务数时及预设历史时间段内处理的服务调用请求数，可以通过当前处理的微服务数除以预设历史时间段内处理的服务调用请求数，来得到各个微服务中每个微服务的负载占用率。实施例中预设历史时间段内处理的服务调用请求数可以是各个微服务实例在预设历史时间段内处理的服务调用请求的平均数。由于历史时间段内微服务实例一般都是正常运行的，因此可以将历史时间段内微服务实例的处理的请求数作为参考，例如可以将其作为满负荷运行的情况，那么通过当前处理的微服务数除以预设历史时间段内处理的服务调用请求数，就可以看作是各个微服务中每个微服务的负载占用率。如果当前的微服务实例处理的请求数大于历史时间段内的请求数，很可能说明该微服务实例已经满负荷运行了；如果当前的微服务实例处理的请求数远小于历史时间段内的请求数，说明该微服务实例的负载占有率很低。

本公开实施例根据得到的负载占用率从各个微服务中选择第一预设数量的微服务实例，可以按照占有率的从低到高排序从各个微服务实例中选择第一预设数量的微服务实例，相当于根据各个实例的当前服务调用请求的处理状态从其中选择第一预设数量的微服务实例；然后根据上述成功率大小或者根据成功率大小和耗时信息而得到的排序结果从其中选择第二预设数量的微服务实例，相当于根据微服务的处理能力从其中选择处理能力比较好的第二预设数量的微服务实例。最后中二者重叠部分选择目标微服务实例(如果重叠部分为多个，可以再从中确定一个)，相当于从当前处理服务器请求状态比较好的实例及同时处理能力比较好的实例中选择目标微服务实例，使得选择得到的微服务实例可以很好的处理该负载均衡器发送的服务器请求，避免因处理的微服务实例的处理能力和状态影响服务调用请求的处理。

图6是根据一示例性实施例示出的一种服务调度装置框图。参照图6，该装置包括服务调用请求接收单元10，负载信息获取单元20、实例确定单元30和实例发送40。

服务调用请求接收单元10，被配置为接收终端发送的服务调用请求；

负载信息获取单元20，被配置为获取所述各个微服务实例的负载信息，所述负载信息用于表征所述各个微服务实例的处理服务调用请求的能力及当前服务调用请求的处理状态；

实例确定单元30，被配置为根据所述负载信息确定所述各个微服务实例中的目标微服务实例；

实例发送40，被配置为将接收到的所述服务调用请求发送给所述目标微服务实例。

可选地，其特征在于，所述负载信息获取单元，包括：

第一服务调用请求数获取模块，被配置为获取所述各个微服务实例在预设历史时间段内的接收到的服务调用请求数和成功处理的服务调用请求数；

成功率确定模块，被配置为根据所述接收到的服务调用请求数和成功处理的服务调用请求数，确定所述各个微服务实例处理服务调用请求的成功率；

第二服务调用请求数获取模块，被配置为获取所述各个微服务实例当前处理的服务器请求数，并将所述各个微服务实例当前处理的服务器请求数和所述成功率作为所述负载信息。

可选地，所述实例确定单元，包括：

排序模块，被配置为根据所述各个微服务实例处理服务调用请求的成功率大小对所述各个微服务实例进行排序，得到排序结果；

选择模块，被配置为根据所述各个微服务实例当前处理的服务调用请求数和所述排序结果，从所述各个微服务实例中选择目标微服务实例。

可选地，所述负载信息还包括耗时信息；所述实例确定单元，包括：

耗时信息获取模块，被配置为获取所述各个微服务处理服务调用请求时分别对应的耗时信息；

排序模块，被配置为根据所述各个微服务实例处理服务调用请求的成功率大小和所述耗时信息对所述各个微服务实例进行排序，得到排序结果；

排序模块，被配置为根据所述各个微服务实例当前处理的服务调用请求数和所述排序结果，从所述各个微服务实例中选择目标微服务实例。

可选地，所述选择模块，包括：

占有率获取模块，被配置为根据所述各个微服务实例当前处理的服务调用请求数及预设历史时间段内处理的服务调用请求数，获取所述各个微服务中每个微服务的负载占用率；

实例选择模块，被配置为根据所述负载占用率从所述各个微服务中选择第一预设数量的微服务实例，并根据所述排序结果从所述各个微服务中选择第二预设数量的微服务实例；

实例确定模块，被配置为从所述第一数量的微服务实例和所述第二预设数量的微服务实例中选择二者重合部分的微服务实例，并从所述重合部分的微服务实例中确定出所述目标微服务实例。

关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

本公开实施例提供的服务调度方法，通过在微服务架构中设置负责均衡器，在负载均衡器接收到服务器发送的服务器请求时，通过获取各个微服务实例的负载信息来确定各个微服务实例中的目标微服务实例，并将接收到的服务调用请求发送给该目标微服务实例进行处理。这样可以有效的从多个微服务实例中选择服务调用请求处理状态和处理能力比较好的微服务实例，进而可以避免因选择处理能力不足的微服务实例而导致影响微服务正常运行的情况发生。

图7是根据一示例性实施例示出的一种用于服务调度装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。

参照图7，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电力组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。

处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或5G)，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述数据处理方法。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

本公开实施例还提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行上述一种服务调度方法。

根据本公开实施例还提供一种应用程序/计算机程序产品，在本公开提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的服务调度方法的步骤。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本公开实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、DSL(Digital Subscriber Line，数字用户线))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD(Digital Versatile Disc，数字多功能光盘))、或者半导体介质(例如SSD(Solid StateDisk，固态硬盘))等。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。