具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明的目的是为了解决现有技术中存在的智能驾驶人工智能治理框架建立过程中风险及其治理优先级不明晰的问题，而建立了一种同时具有原创性、科学性和实用性等优点的面向智能驾驶人工智能的风险治理优先级评估方法和系统，能够克服单一维度评估的主观性和不合理性，实现风险要素清晰、全面评估。

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

基于如图2所示的实施架构，本发明提供了一种面向智能驾驶人工智能的风险治理优先级评估方法，如图1所示，该风险治理优先级评估方法包括：

步骤100：获取技术要求。具体的，基于构建的面向智能驾驶人工智能治理的风险库，梳理智能驾驶人工智能的算法和数据的技术要求。其中，技术要求分类如下表3所示。

步骤101：基于技术要求确定不满足技术要求的后果。具体的，根据技术要求，对不满足技术要求导致的潜在后果进行梳理。例如定位算法的技术要求中，其定位精度需要保证一定的水平，否则会导致车辆的避障能力出现障碍、从而引发事故的后果。

步骤102：根据后果辨析得到风险要素。基于步骤101中的例子，可辨析出“算法精度风险”。进一步为了评估的严谨性，可以对风险要素进行定义，例如，算法精度风险，可定义为“智能驾驶算法的输出值和真实值或最优值之间存在较大偏差的风险”。

步骤103：构建风险要素治理优先级评估的层次结构。具体的，以面向智能驾驶的人工智能风险治理优先级为目标层，以风险类别为准则层，以风险要素为指标层构建层级结构。风险要素包括算法风险要素和数据风险要素。风险类别包括算法风险和数据风险。

步骤104：采用专家打分法确定层级结构的紧急程度权重和重要程度权重。

步骤105：根据层级结构的紧急程度权重和层级结构的重要程度权重确定风险要素的治理优先级。治理优先级包括：第一优先级、第二优先级和第三优先级。

进一步，上述步骤104的具体实施过程为：

步骤1041：采用专家打分法确定准则层的重要程度权重。具体的：

构造判断矩阵，用两两对比的方式，针对算法、数据两类风险治理的重要程度，采用1～9标度方法建立成对的比较矩阵，通过专家打分进行两两重要性比较。

重要度比较所采用的1～9标度方法，如表1所示，其中b_ij表示i相对j的风险重要程度，对于介于表1中判断之间的情况，标度值可以采用中间数字来表示。

表1风险指标重要度表

其全部比较结果可用比较矩阵B_i表示：

其中，b_ij表示准则层中算法风险i相对数据风险j的风险重要程度。j与i比较时，可以用i与j比较标度值的倒数来表示。i与j相等时，b_ij＝1。

步骤1042：基于准则层的重要程度权重确定准则层相对于目标层的重要程度权重。具体的：

针对比较矩阵B_i，计算准则层相对于目标层的重要程度权重为：

式中：b_ii为准则层相对于目标层的权重。b_ij表示准则层中算法风险i相对数据风险j的风险重要程度，b_ij也为判断矩阵A中的元素。

步骤1043：采用专家打分法确定指标层相对于准则层的重要程度权重。

具体的：

构造判断矩阵，用两两对比的方式，针对数据、算法风险各自指标层的多个风险要素治理的重要程度，采用1～9标度方法建立成对的比较矩阵，通过专家打分进行两两重要性比较，并对判断矩阵进行一致性检验。

其全部比较结果可用比较矩阵C_i表示：

其中c_ij表示i相对j的风险重要程度，j与i比较时，可以用i与j比较标度值的倒数来表示，n代表特定准则层(数据或算法)下风险要素的总数。

针对比较矩阵C_i，计算各个风险要素相对于准则层的权重：

式中：c_ii为各个风险要素相对于准则层的重要程度权重。

步骤1044：基于准则层相对于目标层的重要程度权重和指标层相对于准则层的重要程度权重确定指标层相对于目标层的重要程度权重。具体的：

对步骤1043中的判断矩阵进行一致性检验。

对判断矩阵进行一致性检验，计算一致性指标CI(ConsistencyIndex)公式如下：

其中，λ_max为判断矩阵A的最大特征值。然后，计算一致性比例CR(ConsistencyRatio)：

其中，RI是随机一致性指标，可查表2获得。

表2 RI查询表

当CR≤0.10时，认为判断矩阵的一致性是可以接受的，否则应当再次进行专家打分，对判断矩阵做适当修正，直到通过一致性检验。

指标层相对于目标层的重要程度权重为：w_ii＝b_ii×c_ii

式中：w_ii为各个风险要素相对于目标层的重要程度权重。b_ii为准则层算法、数据两个风险类别相对于目标层的重要程度权重。c_ii为各个风险要素相对于准则层的重要程度权重。

步骤1045：对指标层相对于目标层的重要程度权重进行标准化处理得到层级结构的重要程度权重。层级结构的重要程度权重即为风险要素相对于目标层的重要程度权重。具体的：

对重要程度权重进行标准化处理公式为：

式中：w_nii为标准化后各个风险要素相对于目标层的重要程度权重。μ为各个风险要素相对于目标层的重要程度权重的平均值。σ为各个风险要素相对于目标层的重要程度权重的标准差。

步骤1046：采用专家打分法确定准则层的紧急程度权重。具体的，构造判断矩阵，用两两对比的方式，针对算法、数据两类风险治理的紧急程度，采用1～9标度方法建立成对的比较矩阵，通过专家打分进行两两紧急程度比较，方法同步骤1041。

步骤1047：基于准则层的紧急程度权重采用专家打分法确定指标层相对于准则层的紧急程度权重。具体的，确定指标层相对于准则层的紧急程度权重。构造判断矩阵，用两两对比的方式，针对数据、算法风险各自指标层的多个风险要素治理的紧急程度，采用1～9标度方法建立成对的比较矩阵，通过专家打分进行两两紧急程度比较，方法同步骤1042。

步骤1048：基于准则层的紧急程度权重和指标层相对于准则层的紧急程度权重确定指标层相对于目标层的紧急程度权重。具体的，对步骤1047中的判断矩阵进行一致性检验，方法同步骤1043。确定指标层相对于目标层的紧急程度权重：w_ei＝b_ei×c_ei。

式中，w_ei为各个风险要素相对于目标层的紧急程度权重，b_ei为准则层算法、数据两个风险类别相对于目标层的紧急程度权重，c_ei为各个风险要素相对于准则层的紧急程度权重。

步骤1049：对指标层相对于目标层的紧急程度权重进行标准化处理得到层级结构的紧急程度权重。层级结构的紧急程度权重即为风险要素相对于目标层的紧急程度权重。具体的：

对紧急程度权重进行标准化处理：

式中：w_nei为标准化后各个风险要素相对于目标层的紧急程度权重。μ为各个风险要素相对于目标层的紧急程度权重的平均值。σ为各个风险要素相对于目标层的紧急程度权重的标准差。

基于上述步骤104中确定得到的层级结构的重要程度权重，步骤105中确定风险要素的治理优先级的具体实施过程为：

步骤1051：根据层级结构的紧急程度权重和层级结构的重要程度权重确定风险要素的重要程度等级和风险要素的紧急程度等级。重要程度等级包括重要和次重要。紧急程度等级包括紧急和次紧急。具体的：

获取第一预设值和第二预设值。第一预设值和第二预设值在本发明中均为0。

层级结构的重要程度权重大于第一预设值时，风险要素的重要程度等级为重要。

层级结构的重要程度权重小于等于第一预设值时，风险要素的重要程度等级为次重要。

层级结构的紧急程度权重大于第二预设值时，风险要素的紧急程度等级为紧急。

层级结构的紧急程度权重小于等于第二预设值时，风险要素的紧急程度等级为次紧急。

步骤1052：根据风险要素的重要程度等级和风险要素的紧急程度等级构建重要紧急矩阵。

步骤1053：根据重要紧急矩阵确定风险要素的治理优先级。其中重要紧急为第一优先级，重要次紧急和紧急次重要为第二优先级，次重要次紧急为第三优先级。

下面以一个具体实施案例对本发明上述提供的面向智能驾驶人工智能的风险治理优先级评估方法的具体实施过程进行说明。

步骤一：构建面向智能驾驶人工智能治理的风险库，建立风险要素治理优先级评估的层次结构，包括以下步骤：

11)、梳理智能驾驶人工智能的数据的技术要求，根据数据技术要求，对不满足技术要求导致的潜在风险要素进行辨析。如表3所示。

表3智能驾驶人工智能数据风险辨析表

12)、梳理智能驾驶人工智能的算法的技术要求，根据算法技术要求，对不满足技术要求导致的潜在风险要素进行辨析。如表4所示。

表4智能驾驶人工智能算法风险辨析表

13)定义所辨析的风险要素，其中如表5所示。

表5智能驾驶人工智能风险要素定义表

步骤二：构建风险要素治理优先级评估的层次结构

21)、目标层为评估目标，即面向智能驾驶人工智能的风险治理优先级，准则层为数据风险和算法风险，指标层为步骤13)中定义的各类风险要素，所构建层次结构如图3所示。

211)确定准则层重要程度权重，通过专家打分法构建判断矩阵，重要度比较采用1～9标度方法，其含义如表1所示。其全部比较结果可用上述比较矩阵B_i表示。判断矩阵B_i如表6所示。

表6准则层重要程度权重判断矩阵表

计算得到数据风险相对于目标层的重要程度权重b_i1＝0.40，算法风险相对于目标层的重要程度权重b_i2＝0.60。

212)确定指标层相对于准则层的重要程度权重。采用1～9标度方法建立成对的判断矩阵，其含义如表1所示。通过专家打分进行两两重要性比较，其全部比较结果可用上述判断矩阵C_i表示。其中，风险要素的编号详见如图3所示的风险治理优先级评估的层次结构。数据风险如表7所示，算法风险如表8所示。

表7数据风险指标层重要程度权重判断矩阵表

表8算法风险指标层重要程度权重判断矩阵表

针对比较矩阵C_i，采用上述计算C_ii的公式计算各个风险要素相对于准则层的权重。计算得到各风险相对于准则层的重要程度权重如表9所示。

表9各风险相对于准则层的重要程度权重表

对步骤212)中的判断矩阵进行一致性检验。

数据风险指标层重要程度权重判断矩阵一致性检验结果如下：

CR≤0.10，表明判断矩阵的一致性可以接受。

算法风险指标层重要程度权重判断矩阵一致性检验结果如下：

CR≤0.10，表明判断矩阵的一致性可以接受。

214)确定指标层相对于目标层的重要程度权重。

215)对重要程度权重进行标准化处理，计算结果如表10所示。

表10指标层相对于目标层的重要程度权重计算表

22)计算各风险要素的紧急程度权重

221)确定准则层紧急程度权重，通过专家打分法构建判断矩阵，紧急度比较采用1～9标度方法，其含义如表1所示。其全部比较结果可用比较矩阵B_e表示。判断矩阵B_e如表11所示：

表11准则层紧急程度权重判断矩阵表

计算得到数据风险相对于目标层的紧急程度权重b_e1＝0.435，算法风险相对于目标层的紧急程度权重b_e2＝0.565。

222)确定指标层相对于准则层的紧急程度权重。采用1～9标度方法建立成对的判断矩阵，其含义如表1所示。通过专家打分进行两两紧急性比较，其全部比较结果可用判断矩阵C_e表示。其中数据风险如表12所示，算法风险如表13所示。

表12数据风险指标层紧急程度权重判断矩阵表

表13算法风险指标层紧急权重判断矩阵表

针对判断矩阵C_e，计算各个风险要素相对于准则层的紧急程度权重，计算得到各风险相对于准则层的紧急程度权重如表14所示。

表14各风险相对于准则层的紧急程度权重表

213)对步骤222)中的判断矩阵进行一致性检验。

数据风险指标层紧急程度权重判断矩阵的一致性检验结果如下：

CR≤0.10，表明判断矩阵的一致性可以接受。

算法风险指标层紧急程度权重判断矩阵的一致性检验结果如下：

CR≤0.10，表明判断矩阵的一致性可以接受。

214)确定指标层相对于目标层的紧急程度权重w_ei。

215)对紧急程度权重进行标准化处理，计算结果如表15所示。

表15指标层相对于目标层的紧急程度权重计算表

步骤三：构建重要紧急矩阵，对各风险要素的治理优先级进行排序，包括以下步骤：

31)根据各风险要素标准化后的重要程度/紧急程度权重确定其重要程度/紧急程度等级，其中重要程度权重大于0为重要，小于0为次重要。紧急程度权重大于0为紧急，小于0为次紧急。

32)根据各风险要素的重要程度/紧急程度等级构建重要紧急矩阵。

根据上述步骤建立的重要紧急矩阵如图4所示。

33)根据重要紧急矩阵判断治理优先级：其中重要紧急为第一优先级，重要次紧急和紧急次重要为第二优先级，次重要次紧急为第三优先级，如表16所示。

表16面向智能驾驶人工智能的风险治理优先级评估结果表

综上，与现有技术相比，本发明还具有以下优点：

1、原创性：我国目前亟需建立面向智能驾驶的人工智能治理框架，而相应风险治理优先级的评估方法作为建立上述框架的重要前提，目前仍然尚待深入。本发明基于层次分析法，结合专家知识，从重要性、紧急性两个维度开展了，创新性地建立了一套面向智能驾驶人工智能治理的风险要素辨析与评估方法，可有效赋能我国智能驾驶人工智能治理框架的研究和建设。

2、科学性：本发明提出的一种面向智能驾驶人工智能的风险治理优先级评估方法，基于智能驾驶算法、数据的技术要求进行风险要素的辨析，构建风险库。从重要性、紧急性两个角度评估优先级权重，从而构建重要紧急矩阵，最终确定治理优先级，能够实现风险要素清晰、全面，优先级评估科学、合理。

3、实用性：本发明提出的一种面向智能驾驶人工智能的风险治理优先级评估方法，是一套系统化流程，能够高效评估风险要素的治理优先级，在面向智能驾驶人工智能治理方面具有广泛的适用性。

此外，对应于上述提供的面向智能驾驶人工智能的风险治理优先级评估方法，本发明还提供了一种面向智能驾驶人工智能的风险治理优先级评估系统，如图5所示，该风险治理优先级评估系统包括：技术要求获取模块1、后果确定模块2、风险要素辨析模块3、层次结构构建模块4、权重确定模块5和治理优先级确定模块6。

其中，技术要求获取模块1用于获取技术要求。

后果确定模块2用于基于技术要求确定不满足技术要求的后果。

风险要素辨析模块3用于根据后果辨析得到风险要素。

层次结构构建模块4用于构建风险要素治理优先级评估的层次结构。

权重确定模块5用于采用专家打分法确定层级结构的紧急程度权重和重要程度权重。

治理优先级确定模块6用于根据层级结构的紧急程度权重和层级结构的重要程度权重确定风险要素的治理优先级。治理优先级包括：第一优先级、第二优先级和第三优先级。

进一步，上述采用的层次结构构建模块4优选包括：层次结构构建单元。

其中，层次结构构建单元用于以面向智能驾驶的人工智能风险治理优先级为目标层，以风险类别为准则层，以风险要素为指标层构建层级结构。风险要素包括算法风险要素和数据风险要素。风险类别包括算法风险和数据风险。

进一步，上述采用的权重确定模块5优选包括：第一重要程度权重确定单元、第二重要程度权重确定单元、第三重要程度权重确定单元、第四重要程度权重确定单元、第五重要程度权重确定单元、第一紧急程度权重确定单元、第二紧急程度权重确定单、第三紧急程度权重确定单元和第四紧急程度权重确定单元。

其中，第一重要程度权重确定单元用于采用专家打分法确定准则层的重要程度权重。

第二重要程度权重确定单元用于基于准则层的重要程度权重确定准则层相对于目标层的重要程度权重。

第三重要程度权重确定单元用于采用专家打分法确定指标层相对于准则层的重要程度权重。

第四重要程度权重确定单元用于基于准则层相对于目标层的重要程度权重和指标层相对于准则层的重要程度权重确定指标层相对于目标层的重要程度权重。

第五重要程度权重确定单元用于对指标层相对于目标层的重要程度权重进行标准化处理得到层级结构的重要程度权重。层级结构的重要程度权重即为风险要素相对于目标层的重要程度权重。

第一紧急程度权重确定单元用于采用专家打分法确定准则层的紧急程度权重。

第二紧急程度权重确定单元用于基于准则层的紧急程度权重采用专家打分法确定指标层相对于准则层的紧急程度权重。

第三紧急程度权重确定单元用于基于准则层的紧急程度权重和指标层相对于准则层的紧急程度权重确定指标层相对于目标层的紧急程度权重。

第四紧急程度权重确定单元用于对指标层相对于目标层的紧急程度权重进行标准化处理得到层级结构的紧急程度权重。层级结构的紧急程度权重即为风险要素相对于目标层的紧急程度权重。

进一步，上述采用的治理优先级确定模块6具体包括：等级确定单元、重要紧急矩阵构建单元和治理优先级确定单元。

等级确定单元用于根据层级结构的紧急程度权重和层级结构的重要程度权重确定风险要素的重要程度等级和风险要素的紧急程度等级。重要程度等级包括重要和次重要。紧急程度等级包括紧急和次紧急。

重要紧急矩阵构建单元用于根据风险要素的重要程度等级和风险要素的紧急程度等级构建重要紧急矩阵。

治理优先级确定单元用于根据重要紧急矩阵确定风险要素的治理优先级。

其中，等级确定单元优选包括：预设值获取子单元、第一重要程度等级确定子单元、第二重要程度等级确定子单元、第一紧急程度等级确定子单元和第二紧急程度等级确定子单元。

预设值获取子单元用于获取第一预设值和第二预设值。

第一重要程度等级确定子单元用于层级结构的重要程度权重大于第一预设值时，风险要素的重要程度等级为重要。

第二重要程度等级确定子单元用于层级结构的重要程度权重小于等于第一预设值时，风险要素的重要程度等级为次重要。

第一紧急程度等级确定子单元用于层级结构的紧急程度权重大于第二预设值时，风险要素的紧急程度等级为紧急。

第二紧急程度等级确定子单元用于层级结构的紧急程度权重小于等于第二预设值时，风险要素的紧急程度等级为次紧急。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。