泊车信息获取方法及装置、泊车方法及装置

文档序号:9196 发布日期:2021-09-17 浏览:33次 英文

泊车信息获取方法及装置、泊车方法及装置

技术领域

本申请涉及自动驾驶

技术领域

,尤其涉及一种泊车信息获取方法及装置、泊车方法及装置。

背景技术

在自动驾驶领域中,自主泊车越来越成为智能车辆的标配,自动驾驶车辆基于所获取的泊车信息,规划出泊车路径并控制车辆运动,最终将车辆泊入闲车位。

泊车信息的获取,往往要求自动驾驶车辆的摄像头的视觉感知功能完成包括停车位检测、空车位判断、障碍物识别在内的多个任务,也就是需要在车载计算平台上同时运行多个神经网络模型,由此带来对计算资源的较高要求,然而,车载计算平台往往计算资源有限,不能支持多个神经网络模型实时运行,在实际应用中不得不对各个神经网络模型进行大量裁剪,由此导致所获取的泊车信息的准确度下降。

发明内容

本申请提供了一泊车信息获取方法及装置、泊车方法及装置,目的在于解决对各个神经网络模型进行大量裁剪,由此导致所获取的泊车信息的准确度下降的问题。

为了实现上述目的,本申请提供了以下技术方案:

一种泊车信息获取方法,包括:

获取待泊车车辆所处位置的鸟瞰图;

将所述鸟瞰图输入至预先构建的信息获取模型中,得到泊车信息;其中,所述信息获取模型基于多任务神经网络预先建立得到,所述多任务神经网络包括共享编码层和多个任务神经网络,所述多个任务神经网络共享所述共享编码层。

上述的方法,可选的,所述信息获取模型的构建过程,包括:

获取训练图像集;所述训练图像集中包括多张训练图像,每张训练图像为携带标注信息的鸟瞰图,所述标注信息包括:鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点标注信息,以及,每个库位的库位属性;

对所述训练图像集中的每张训练图像进行数据增强处理,得到每张训练图像的第一训练图像;

将各张训练图像和各张第一训练图像组成目标图像集;

依据所述目标图像集中的各张图像,对多任务神经网络进行训练,得到信息获取模型。

上述的方法,可选的,所述依据所述目标图像集中的各张图像,对多任务神经网络进行训练,得到信息获取模型,包括:

依据所述目标图像集中的各张图像,确定多个训练集;其中,每个训练集中包括所述目标图像集中至少一张图像;

从多个训练集中选取一个训练集作为目标训练集;

将所述目标训练集中的各张图像输入至多任务神经网络的共享编码层,得到所述目标训练集的第一结果数据;

将所述第一结果数据分别输入至每个任务神经网络的解码层,经每个任务神经网络的解码层中的每个网络层进行处理,得到每个任务神经网络的解码层输出的所述目标训练集的第二结果数据;其中,针对每个任务神经网络的解码层,所述解码层的第N个网络层的输入数据为,对所述解码层的第N-1个网络层的输出结果、和每个其他任务神经网络的解码层中的第N-1个网络层的计算结果进行融合处理后的结果;每个其他任务神经网络模型的解码层中的第N-1个网络层的计算结果为,对其他任务神经网络的解码层中的第N-1个网络层的输出结果进行第一计算的结果;N为大于1的正整数;

依据各个第二结果数据以及所述目标训练集中的各张图像的标注信息,计算所述多任务神经网络在当前迭代的损失函数值;

依据所述多任务神经网络在当前迭代的损失函数值,更新所述多任务神经网络的网络参数,得到新的多任务神经网络,并在未满足预设的迭代条件时,返回执行所述从多个训练集中选取一个训练集作为目标训练集的步骤,直至满足所述迭代条件,将当前的多任务神经网络作为信息获取模型。

上述的方法,可选的,所述依据各个第二结果数据以及所述目标训练集中的各张图像的标注信息,计算所述多任务神经网络在当前迭代的损失函数值,包括:

依据各个第二结果数据以及所述目标训练集中的各张图像的标注信息,计算每个任务神经网络在当前迭代的损失函数值;

获取每个任务神经网络在上一次迭代的损失下降速率;

针对每个任务神经网络,依据所有的任务神经网络在上一次迭代的损失下降速率,计算所述任务神经网络在当前迭代的权重;

依据每个任务神经网络在当前迭代的损失函数值和权重,计算所述多任务神经网络在当前迭代的损失函数值。

上述的方法,可选的,所述获取待泊车车辆所处位置的鸟瞰图,包括:

获取分别安装于待泊车车辆不同部位的多个图像采集装置采集的图像;

对多个图像采集装置采集的多张图像进行整合处理,得到所述待泊车车辆的鸟瞰图。

上述的方法,可选的,所述图像采集装置采集为鱼眼摄像头。

上述的方法,可选的,所述对多个图像采集装置采集的多张图像进行整合处理之前,还包括:

对多个图像采集装置采集的每张图像进行图像预处理。

上述的方法,可选的,所述对多个图像采集装置采集的每张图像进行图像预处理,包括:

对多个图像采集装置采集的每张图像进行去畸变处理;

获取每个图像采集装置的设备参数;

针对去畸变处理后的每张图像,利用所述图像对应的设备参数,对所述图像进行坐标变换。

上述的方法,可选的,所述泊车信息包括:所述鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性,所述将所述鸟瞰图输入至预先构建的识别模型中,得到泊车信息之后,还包括:

对所述泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标;

对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标;

依据每个库位的第二库角点坐标和所述泊车信息中的每个库位的库位属性,以及所述鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径。

一种泊车方法,包括:

获取待泊车车辆的泊车信息,所述获取泊车信息的方法如权1~8任意一项所述;

依据所述泊车信息确定停车路径;

控制所述待泊车车辆依据所述停车路径进行泊车。

上述的方法,可选的,所述泊车信息包括:所述鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性,所述依据所述泊车信息确定停车路径,包括:

对所述泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标;

对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标;

依据每个库位的第二库角点坐标和所述泊车信息中的每个库位的库位属性,以及所述鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径。

一种泊车信息获取装置,包括:

第一获取单元,用于获取待泊车车辆所处位置的鸟瞰图;

输入单元,用于将所述鸟瞰图输入至预先构建的信息获取模型中,得到泊车信息;其中,所述信息获取模型基于多任务神经网络预先建立得到,所述多任务神经网络包括共享编码层和多个任务神经网络,所述多个任务神经网络共享所述共享编码层。

一种泊车装置,包括:

第二获取单元,用于获取待泊车车辆的泊车信息,所述获取泊车信息的方法如上所述;

确定单元,用于依据所述泊车信息确定停车路径;

控制单元,用于控制所述待泊车车辆依据所述停车路径进行泊车。

与现有技术相比,本申请包括以下优点:

本申请提供了一种泊车信息获取方法及装置、泊车方法及装置,该泊车信息获取方法包括:获取待泊车车辆所处位置的鸟瞰图;将鸟瞰图输入至预先构建的信息获取模型中,得到泊车信息;其中,信息获取模型基于多任务神经网络预先建立得到,多任务神经网络包括共享编码层和多个任务神经网络,多个任务神经网络共享该共享编码层。可见,本申请方案中,预先基于多任务神经网络构建信息获取模型,将鸟瞰图输入至信息获取模型,可以直接得到泊车信息,由于只需运行信息获取模型,占用的计算资源较少,因此无需对信息获取模型进行大量裁剪,从而提高了泊车信息的准确度,以及泊车信息的获取效率。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本申请提供的一种泊车信息获取方法的方法流程图;

图2为本申请提供的一种泊车信息获取方法的再一方法流程图;

图3为本申请提供的一种泊车信息获取方法的示例图;

图4为本申请提供的一种泊车信息获取方法的又一方法流程图;

图5为本申请提供的一种泊车信息获取方法的再一示例图;

图6为本申请提供的一种泊车信息获取方法的另一方法流程图;

图7为本申请提供的一种泊车信息获取方法的又一示例图;

图8为本申请提供的一种泊车信息获取方法的另一示例图;

图9为本申请提供的一种泊车信息获取方法的另一方法流程图;

图10为本申请提供的一种泊车方法的方法流程图;

图11为本申请提供的一种泊车方法的示例图;

图12为本申请提供的一种泊车信息获取方法的结构示意图;

图13为本申请提供的一种泊车方法的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意,本申请公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意,本申请公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。

本申请实施例提供了一种泊车信息获取方法,该方法可以应用在多种系统平台,其执行主体可以为车载计算平台的处理器,所述方法的方法流程图如图1所示,具体包括:

S101、获取待泊车车辆所处位置的鸟瞰图。

本实施例中,当待泊车车辆到达停车场后,获取待泊车车辆所处位置的鸟瞰图。

参阅图2,获取待泊车车辆所处位置的鸟瞰图的过程,包括:

S201、获取分别安装于待泊车车辆不同部位的多个图像采集装置采集的图像。

本实施例中,待泊车车辆的不同部位安装有图像采集装置,每个图像采集装置用于采集自身所覆盖区域的图像,可选的,图像采集装置可以是鱼眼摄像头。

本实施例中,获取待泊车车辆上每个图像采集装置所采集的图像。

S202、对多个图像采集装置采集的多张图像进行整合处理,得到待泊车车辆的鸟瞰图。

本实施例中,对各个图像采集装置采集的多张图像进行整合处理,得到待泊车车辆的鸟瞰图,具体的,可以是对各个图像采集装置采集的多张图像进行拼接处理,从而得到待泊车车辆的鸟瞰图。

本实施例中,对各个图像采集装置采集的多张图像进行拼接处理的过程,具体包括以下步骤:

确定每张图像的匹配点,匹配点为各张图像中相重叠的视野范围内的有效特征点,依据每张图像的匹配点,将各张图像进行拼接,从而得到涵盖待泊车车辆周围360度的鸟瞰图。本实施例中,参阅图3,图3示出了对多个图像采集装置采集的多张图像进行整合处理所得到的待泊车车辆的鸟瞰图。

可选的,对多个图像采集装置采集的多张图像进行整合处理之前,还可以对多个图像采集装置采集的每张图像进行图像预处理,可选的,图像预处理包括去畸变处理和坐标变换,从而对图像预处理后的每张图像进行整合处理,得到待泊车车辆的鸟瞰图。

本实施例中,对多个图像采集装置采集的每张图像进行图像预处理的过程,具体包括以下步骤:

对多个图像采集装置采集的每张图像进行去畸变处理;

获取每个图像采集装置的设备参数;

针对去畸变处理后的每张图像,利用该图像对应的设备参数,对该图像进行坐标变换。

本实施例中,由于图像采集装置所采集的图像可能会存在畸变,包括但不限于径向畸变或切向畸变,因此需要对所采集的每一张图像进行去畸变处理,以提高后续拼接精度。

本实施例中,由于图像采集装置安装于待泊车车辆的不同部位,导致不同图像采集装置在不同角度下成像,也就是说,不同图像采集装置所采集得到的图像对应不同图像坐标系。

本实施例中,获取安装于待泊车车辆不同部位的每个图像采集装置的设备参数,针对去畸变处理后的每张图像,利用该图像对应的图像采集装置的设备参数,对该图像进行坐标变换,从而实现将各张图像从不同图像坐标系变换为同一图像坐标系。

可选的,对多个图像采集装置采集的每张图像进行图像预处理之后,还可以对图像预处理后的每张图像进行亮度均衡处理和色彩均衡处理。

S102、将鸟瞰图输入至预先构建的信息获取模型中,得到泊车信息;其中,信息获取模型基于多任务神经网络预先建立得到,多任务神经网络包括共享编码层和多个任务神经网络,多个任务神经网络共享该共享编码层。

本实施例中,预先构建信息获取模型,信息获取模型基于多任务神经网络预先建立得到,多任务神经网络包括共享编码层和多个任务神经网络,多个任务神经网络共享该共享编码层。

本实例立中,将鸟瞰图输入至预先构建的信息获取模型中,经信息获取模型进行处理,得到信息获取模型输出的泊车信息,其中,泊车信息包括:鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性。

参阅图4,信息获取模型的构建过程,具体包括以下步骤:

S401、获取训练图像集。

本实施例中,获取训练图像集,其中,训练图像集中包括多张训练图像,每张训练图像为携带标注信息的鸟瞰图,标注信息包括:鸟瞰图中每个像素点对应的道路元素类别,鸟瞰图中每个库位的库角点标准信息,以及,鸟瞰图中每个库位的库位属性。

本实施例中,道路元素类别包括但不限于:道路、路沿、车位线、轮挡和障碍物;每个库位的库角点标注信息包括该库位的四个库角点的库角点标注信息;库位属性包括但不限于库位占用属性、库位线形状属性、库位材质属性、库位标记磨损属性和库角点属性,其中,库位占用属性用于指示库位的占用情况,包括空库位和占用库位,库位线形状属性用于指示库位线的形状,包括但不限于T型、L型、I型和U型,库位材质属性用于指示库位的材质,包括但不限于水泥、石砖、草砖、草地、柏油、油漆和金属,库角点属性用于库角点是否被遮挡,包括无遮挡和遮挡。

可选的,每个库位的库角点标注信息为按照逆时针方向顺序标注得到,库角点标注信息可以以数字表示,参阅图5,图5示出了库位的库角点标注信息以及库位占用属性,其中,该库位的右前角点的库角点标注信息为1,左前角点的库角点标注信息为2,左后角点的库角点标注信息为3,右角点的库角点标注信息为4,库位占用属性为空库位。

S402、对训练图像集中的每张训练图像进行数据增强处理,得到每张训练图像的第一训练图像。

本实施例中,采用数据增强处理方法,对训练图像集中的每张训练图像进行数据增强处理,得到每张训练图像的第一训练图像。具体的,数据增强处理方法可以是随机旋转处理、随机平移处理、随机噪声处理、随机亮度处理、随机对比度处理或随机色彩处理,从而实现增强用于模型训练的图像。

需要说明的是,对训练图像集中的每张训练图像进行数据增强处理,可以是对训练图像集中的每张训练图像进行多次数据增强处理,从而对得到每张训练图像的多张第一训练图像。

S403、将各张训练图像和各张第一训练图像组成目标图像集。

本实施例中,将各张训练图像和各张第一训练图像组成目标图像集。

S404、依据目标图像集中的各张图像,对多任务神经网络进行训练,得到信息获取模型。

本实施例中,预先构建多任务神经网络,多任务神经网络包括共享编码层和多个任务神经网络,每个任务神经网络包括编码层和解码层,多个任务神经网络共享该共享编码层,每个任务神经网络的解码层包括多个网络层。

本实施例中,依据目标图像集中的各张图像,对多任务神经网络进行训练,从而得到信息获取模型。

参阅图6,依据所述目标图像集中的各张图像,对多任务神经网络进行训练,得到信息获取模型的过程,具体包括以下步骤:

S601、依据目标图像集中的各张图像,确定多个训练集。

本实施例中,对目标图像集中的各张图像按预设规则进行划分,组成多个训练集,每个训练集中包括目标图像集中的至少一张图像。

S602、从多个训练集中选取一个训练集作为目标训练集。

本实施例中,从多个训练集中选取一个训练集作为目标训练集,其中,对于首次选取目标训练集,可以从多个训练集中随机选取一个训练集,对于非首次选取目标训练集,需要从剩余未被选取的训练集中选取。

S603、将目标训练集中的各张图像输入至多任务神经网络的共享编码层,得到目标训练集的第一结果数据。

本实施例中,将目标训练集中的各张图像输入至多任务神经网络的共享编码层,经多任务神经网络的共享编码层进行处理,得到共享编码层输出的目标训练集的第一结果数据,其中,共享编码层为多任务神经网络中各个任务神经网络共享的编码层。

其中,本实施例所提及的多任务神经网络的网络结构如图7所示,其中,共享基网络模型,即为多任务神经网络的共享编码层,任务A子模块为任务神经网络A的解码层,任务B子模块为任务神经网络B的解码层,任务C子模块为任务神经网络C的解码层,在不同任务子模块之间存在可学习的参数(用P表示),这些参数用于决定不同任务之间的知识是否需要、及以何种程度进行传递,其中,PAB表示任务A子模块向任务B子模块传递输出结果时,所需要对输出结果进行第一计算对应的预设数值,同理,PBA表示任务B子模块向任务A子模块传递输出结果时,所需要对输出结果进行第一计算对应的预设数值,以此类推。

S604、将第一结果数据分别输入至每个任务神经网络的解码层,经每个任务神经网络的解码层中的每个网络层进行处理,得到每个任务神经网络的解码层输出的目标训练集的第二结果数据。

本实施例中,每个任务神经网络的解码层包括多个网络层,需要说明的是,多任务神经网络中的各个任务神经网络的解码层所包括的网络层的层数相同。

本实施例中,将共享编码层输出的第一结果数据分别输入至每个任务神经网络的解码层,经每个任务神经网络的解码层中的各个网络层进行处理,得到每个任务神经网络的解码层输出的目标训练集的第二结果数据,其中,针对每个任务神经网络的解码层,解码层的第N个网络层的输入数据为,对解码层的第N-1个网络层的输出结果、和每个其他任务神经网络的解码层中的第N-1个网络层的计算结果进行融合处理后的结果;每个其他任务神经网络模型的解码层中的第N-1个网络层的计算结果为,对其他任务神经网络的解码层中的第N-1个网络层的输出结果进行第一计算的结果;N为大于1的正整数。也就是说,解码层中的各个网络层的输入与该解码层中的上一网络层的输出结果和其他解码层中的网络层的输出结果有关。

可选的,对其他任务神经网络的解码层中的第N-1个网络层的输出结果进行第一计算可以是,将输出结果乘以预设数值。需要说明的是,预设数值依据输出该输出结果的其他任务神经网络和待输入的任务神经网络设置,也就是说,不同任务神经网络对应的预设数值不同,同一任务神经网络输出至不同任务神经网络的输出结果对应的预设数值不同。

对上述提及的将第一结果数据分别输入至每个任务神经网络的解码层,经每个任务神经网络的解码层中的每个网络层进行处理,得到每个任务神经网络的解码层输出的目标训练集的第二结果数据的过程,进行举例说明如下:

多任务神经网络包括任务神经网络A、任务神经网络B和任务神经网络C,任务神经网络A的解码层中包括2个网络层,任务神经网络B的解码层中包括2个网络层,任务神经网络C的解码层中包括2个网络层,将多任务神经网络的共享编码层输出的第一结果数据分别输入至,任务神经网络A的解码层中的第一个网络层、和任务神经网络B的第一个网络层、以及任务神经网络C的第一个网络层,任务神经网络A、B和C的解码层的第一个网络层对第一结果进行处理并输出。

针对任务神经网络A的第二个网络层,对任务神经网络B的第一个网络层输出的结果乘以预设第一数值PBA,得到第一子结果,并对任务神经网络C的第一个网络层输出的结果乘以预设第二数值PCA,得到第二子结果,对任务神经网络A第一个网络层输出的结果、第一子结果和第二子结果进行融合处理,得到第一融合结果,并将第一融合结果输入至任务神经网络A的第二个网络层。

针对任务神经网络B的第二个网络层,对任务神经网络A的第一个网络层输出的结果乘以预设第三数值PAB,得到第三子结果,并对任务神经网络C的第一个网络层输出的结果乘以预设第四数值PCB,得到第四子结果,对任务神经网络B第一个网络层输出的结果、第三子结果和第四子结果进行融合处理,得到第二融合结果,并将第二融合结果输入至任务神经网络B的第二个网络层。

针对任务神经网络C的第二个网络层,对任务神经网络A的第一个网络层输出的结果乘以预设第五数值PAC,得到第五子结果,并对任务神经网络B的第一个网络层输出的结果乘以预设第六数值PBC,得到第六子结果,对任务神经网络C第一个网络层输出的结果、第五子结果和第六子结果进行融合处理,得到第三融合结果,并将第三融合结果输入至任务神经网络C的第二个网络层。

任务神经网络A的第二个网络层对输入的第一融合结果进行处理并输出目标训练集的第二结果数据。

任务神经网络B的第二个网络层对输入的第二融合结果进行处理并输出目标训练集的第二结果数据。

任务神经网络C的第二个网络层对输入的第三融合结果进行处理并输出目标训练集的第二结果数据。

S605、依据各个第二结果数据以及目标训练集中的各张图像的标注信息,获取多任务神经网络在当前迭代的损失函数值。

本实施例中,损失函数值与各个任务神经网络的解码层输出的第二结果数据、以及目标训练集中的各张图像的标注信息相关,依据各个第二结果数据以及目标训练集中的各张图像的标注信息,通过预设的损失函数计算公式,计算多任务神经网络在当前迭代的损失函数值。

本实施例中,依据各个第二结果数据以及目标训练集中的各张图像的标注信息,计算多任务神经网络在当前迭代的损失函数值的过程,具体包括:

依据各个第二结果数据以及目标训练集中的各张图像的标注信息,计算每个任务神经网络在当前迭代的损失函数值;

获取每个任务神经网络在上一次迭代的损失下降速率;

针对每个任务神经网络,依据所有的任务神经网络在上一次迭代的损失下降速率,计算该任务神经网络在当前迭代的权重;

依据每个任务神经网络在当前迭代的损失函数值和权重,计算多任务神经网络在当前迭代的损失函数值。

本实施例中,依据当前输出的各个第二结果数据以及目标训练集中的各张图像的标注信息,通过预设的任务神经网络损失函数计算公式,计算每个任务神经网络在当前迭代的损失函数值。

本实施例中,获取每个任务神经网络上一次迭代的损失函数值和上上一次迭代的损失函数值,依据每个任务神经网络上一次迭代的损失函数值和上上一次迭代的损失函数值,通过预设的损失下降速率公式,计算每个任务神经网络在上一次迭代的损失下降速率,其中,损失下降速率公式为:

其中,λi(t-1)表示任务神经网络i在第t-1次迭代时,任务神经网络i的损失下降速率;Li(t-1)表示任务神经网络i在第t-1次迭代时,任务神经网络i的损失函数值,Li(t-2)表示任务神经网络i在第t-2次迭代时,任务神经网络i的损失函数值。

本实施例中,针对每个任务神经网络,依据该任务神经网络在上一次迭代的损失下降速率,以及多任务神经网络中其他任务神经网络在上一次迭代的损失下降速率,通过预设的权重计算公式,计算该任务神经网络的权重,其中,权重计算公式为:

其中,ωi(t)表示任务神经网络i在第t次迭代的权重,λi(t-1)表示任务神经网络i在第t-1次迭代时,任务神经网络i的损失下降速率,n表示任务神经网络的数量,T表示预设阈值。

本实施例中,依据每个任务神经网络在当前迭代的损失函数值和权重,计算多任务神经网络在当前迭代的损失函数值,具体的,将计算每个任务神经网络在当前迭代的损失函数值和权重的乘积,并对各个乘积进行累加,得到多任务神经网络在当前迭代的损失函数值。例如多任务神经网络包括任务神经网络A、任务神经网络B和任务神经网络C,任务神经网络A在当前迭代的损失函数值为LA,权重为ωA(t),任务神经网络B在当前迭代的损失函数值为LB,权重为ωB(t),任务神经网络C在当前迭代的损失函数值为LC,权重为ωC(t),则多任务神经网络在当前迭代的损失函数值。L=ωA(t)LAB(t)LBC(t)LC

S606、依据多任务神经网络在当前迭代的损失函数值,更新多任务神经网络的网络参数,得到新的多任务神经网络。

本实施例中,依据多任务神经网络在当前迭代的损失函数值,对多任务神经网络的网络参数进行更新,得到新的多任务神经网络。

S607、判断是否满足预设的迭代条件,若否,依据新的多任务神经网络,返回执行步骤S602,若是,执行步骤S608。

判断是否满足预设的迭代条件,其中迭代条件可以是迭代次数达到设定阈值,或者模型的损失函数值小于预设数值。

判断是否满足预设的迭代条件,也就是判断多任务神经网络的迭代次数是否达到设定阈值,或判断多任务神经网络的损失函数值是否小于预设数值,若多任务神经网络的迭代次数达到设定阈值,或多任务神经网络的损失函数值小于预设数值,则依据新的多任务神经网络,反馈执行步骤S602,否则,执行步骤S608。

S608、将当前的多任务神经网络作为信息获取模型。

本实施例中,若满足预设的迭代条件,则将当前的多任务神经网络作为信息获取模型。

可选的,本实施例中,还可以对信息获取模型进行模型评估,依据评估结果,调整信息获取模型的超参数,以实现对信息获取模型的优化。

可选的,本实施例中提及的多任务神经网络可以包括两个任务任务神经网络,分别为检测任务神经网络和分割任务神经网络,检测任务神经网络用于输出鸟瞰图上每个库位的四个库角点坐标以及每个库位的库位属性,分割任务神经网络用于输出鸟瞰图中每个像素点对应的道路元素类别。

可选的,检测任务神经网络的网络结构可以是CenterNet结构,分割任务神经网络的网络结果可以是Deeplabv3p结构,其中,将检测任务神经网络的编码层和分割任务神经网络的编码层作为多任务神经网络的共享编码层,将检测任务神经网络中的特有结构(包括生成热力图heatmap、中心点回归、角点回归的分支)作为解码层,将分割任务神经网络中的特有结构(包括不同尺度上进行上采样的部分)作为解码层。

参阅图8,对信息获取模型的构建过程,进行举例说明如下:

首先进行数据采集,也是预先对安装于待泊车车辆不同部位的鱼眼摄像头进行摄像头标定,获得摄像头内外参数,通过安装于待泊车车辆不同部位的鱼眼摄像头获取车库的图像,依据摄像头内外参数,对图像进行图像去畸变、坐标变换和拼接处理,得到鸟瞰图,对鸟瞰图进行数据标注后,得到目标图像,然后构建单任务神经网络,也就是构建检测任务神经网络和分割任务神经网络,每个任务神经网络均为编码-解码(Encoder-Decoder)结构,并统计检测任务神经网络的角点检测偏移量、库位分类准确率、车位检出率和检准率指标,统计分割任务神经网络的平均交并比(mIoU)和像素准确率指标,以及统计两个网络的浮点运算量和推理速度指标。其中,所统计的指标用于作为和多任务网络模型进行对比的基线,基于检测任务神经网络和分割任务神经网络,构建多任务神经网络,其中,多任务神经网络的共享编码层为检测任务神经网络和分割任务神经网络共享的编码层,将每个任务神经网络的解码层作为多任务神经网络的任务子模块。接着进行数据增强,也就是对目标图像进行数据增强,得到训练集,依据训练集,进行模型训练,也就是以训练集对多任务神经网络进行训练,并对训练后的模型进行模型评估,获取多任务神经网络的损失函数值,依据损失函数值,对多任务神经网络的参数进行调整,并在迭代次数达到阈值时,停止对模型训练,最后将训练后的多任务神经网络部署到车载计算平台上,以便于后续利用训练后的多任务神经网络,对鸟瞰图进行处理,得到泊车信息。

本实施例提供的泊车信息获取方法,预先基于多任务神经网络构建信息获取模型,将所获取鸟瞰图输入信息获取模型,可以直接得到鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性,由于将多个任务神经网络模型融合成一个多任务神经网络,只需在车载计算平台运行信息获取模型,占用的计算资源较少,因此无需对信息获取模型进行大量裁剪,从而提高了泊车信息的准确度,以及提高了泊车信息的获取效率。

参阅图9,本申请实施例提供的泊车信息获取方法,在步骤S102之后,还可以包括以下步骤:

S901、对泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标。

S902、对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标。

S903、依据每个库位的第二库角点坐标和泊车信息中的每个库位的库位属性,以及鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径。

本实施例中,泊车信息中每个库位的库角点坐标是基于图像坐标系的。

本实施例中,需要对泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标,以实现将每个库位的库角点坐标从图像坐标系变换为车辆坐标系下的坐标,并对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标,从而得到稳定的车辆坐标系下的输出结果。

本实施例中,依据每个库位的第二库角点坐标和泊车信息中的每个库位的库位属性,以及鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径,具体的,依据每个库位的第二库角点坐标和泊车信息中的每个库位的库位属性,以及鸟瞰图中每个像素点对应的道路元素类别,通过预设的路径规划策略,规划出停车路径。

本实施例中,还可以将停车路径发送至车载计算平台的显示器,以在显示器中显示停车路径。

参阅图10,本申请实施例还提供了一种泊车方法,具体包括以下步骤:

S1001、获取待泊车车辆的泊车信息。

本实施例中,获取待泊车车辆的泊车信息,获取泊车信息的方法如上所述,具体过程请参见实施例图1至图8所示的各个步骤,此处不再赘述。

S1002、依据泊车信息确定停车路径。

本实施例中,泊车信息包括:鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性,依据泊车信息确定停车路径。

本实施例中,依据泊车信息确定停车路径的过程如下所示:

对泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标;

对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标;

依据每个库位的第二库角点坐标和泊车信息中的每个库位的库位属性,以及鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径。

本实施例中,通过对库角点坐标进行坐标变换,以实现将库角点坐标从图像坐标系中变换至车辆坐标系,并对坐标变换后得到的第一库角点坐标进行滤波处理,得到第二库角点坐标,并依据每个库位的第二库角点坐标和泊车信息中的每个库位的库位属性,以及鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,从而得到停车路径。

S1003、控制待泊车车辆依据停车路径进行泊车。

本实施例中,依据所确定的停车路径,控制待泊车车辆进行泊车,以使待泊车车辆泊入库位中。

本实施例提供的泊车方法,由于所获取的泊车信息的准确度和效率较高,因此基于该泊车信息进行路径规划,可以提高路径规划的准确度和效率,从而提高了泊车的效率和准确度。

参阅图11,对泊车过程,进行举例说明如下:

1、获取环视鱼眼摄像头采集的图像,其中,环视鱼眼摄像头为安装于待泊车车辆四周的鱼眼摄像头。

2、对图像进行摄像头遮挡检测和分类,过滤不符合要求的图像。

3、对图像进行预处理,包括去畸变处理和坐标变换处理。

4、拼接预处理后的图像,生成鸟瞰图BEV。

5、将鸟瞰图输入至训练后的多任务神经网络中,经过一个基网络(BEV道路信息检测和分割基网络)提取图像特征,图像特征再经过两个子任务网络模块(库位点检测和库位分类任务、以及道路分割任务)处理,得到在图像坐标系下每个库位的的库角点坐标、每个库位的库位属性、鸟瞰图中每个像素点对应的道路元素类别。

6、对在图像坐标系下每个库位的的库角点坐标进行坐标变换和时序跟踪,得到车辆坐标系下的库角点坐标,并结合连续帧进行跟踪滤波,得到稳定的车辆坐标系下输出。

7、将车辆坐标系下的结果输出给融合、决策和规划控制模块,分别用于融合超声波雷达感知结果、进行路径规划和控制。同时输出给车内座舱域控制器,完成人机交互等显示、互动功能。

8、执行过程中,场景筛选和数据回传模块对全过程进行监控,接收到触发信号时,会将触发前后的数据进行记录并通过网络上传到服务器中进行分析及学习。

需要说明的是,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。

应当理解,本申请公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本申请公开的范围在此方面不受限制。

与图1所述的泊车信息获取方法相对应,本申请实施例还提供了一种泊车信息获取装置,用于对图1中方法的具体实现,其结构示意图如图12示,具体包括:

第一获取单元1201,用于获取待泊车车辆所处位置的鸟瞰图;

输入单元1202,用于将所述鸟瞰图输入至预先构建的信息获取模型中,得到泊车信息;其中,所述信息获取模型基于多任务神经网络预先建立得到,所述多任务神经网络包括共享编码层和多个任务神经网络,所述多个任务神经网络共享所述共享编码层。

本实施例提供的泊车信息获取装置,预先基于多任务神经网络构建信息获取模型,将所获取鸟瞰图输入信息获取模型,可以直接得到泊车信息,由于将多个任务神经网络模型融合成一个多任务神经网络,只需在车载计算平台运行信息获取模型,占用的计算资源较少,因此无需对信息获取模型进行大量裁剪,从而提高了泊车信息的准确度,以及提高了泊车信息的获取效率。

在本申请的一个实施例中,基于前述方案,还可以配置为:

第三获取单元,用于获取训练图像集;所述训练图像集中包括多张训练图像,每张训练图像为携带标注信息的鸟瞰图,所述标注信息包括:鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性;

数据增强单元,用于对所述训练图像集中的每张训练图像进行数据增强处理,得到每张训练图像的第一训练图像;

组成单元,用于将各张训练图像和各张第一训练图像组成目标图像集;

训练单元,用于依据所述目标图像集中的各张图像,对多任务神经网络进行训练,得到信息获取模型。

在本申请的一个实施例中,基于前述方案,训练单元用于依据所述目标图像集中的各张图像,对多任务神经网络进行训练,得到信息获取模型,包括训练单元具体用于:

依据所述目标图像集中的各张图像,确定多个训练集;其中,每个训练集中包括所述目标图像集中至少一张图像;

从多个训练集中选取一个训练集作为目标训练集;

将所述目标训练集中的各张图像输入至多任务神经网络的共享编码层,得到所述目标训练集的第一结果数据;所述多任务神经网络包括多个任务神经网络,所述共享编码层为所述多任务神经网络中各个任务神经网络共享的编码层;

将所述第一结果数据分别输入至每个任务神经网络的解码层,经每个任务神经网络的解码层中的每个网络层进行处理,得到每个任务神经网络的解码层输出的所述目标训练集的第二结果数据;其中,针对每个任务神经网络的解码层,所述解码层的第N个网络层的输入数据为,对所述解码层的第N-1个网络层的输出结果、和每个其他任务神经网络的解码层中的第N-1个网络层的计算结果进行融合处理后的结果;每个其他任务神经网络模型的解码层中的第N-1个网络层的计算结果为,对其他任务神经网络的解码层中的第N-1个网络层的输出结果进行第一计算的结果;N为大于1的正整数;

依据各个第二结果数据以及所述目标训练集中的各张图像的标注信息,计算所述多任务神经网络在当前迭代的损失函数值;

依据所述多任务神经网络在当前迭代的损失函数值,更新所述多任务神经网络的网络参数,得到新的多任务神经网络,并在未满足预设的迭代条件时,返回执行所述从多个训练集中选取一个训练集作为目标训练集的步骤,直至满足所述迭代条件,将当前的多任务神经网络作为信息获取模型。

在本申请的一个实施例中,基于前述方案,训练单元用于依据各个第二结果数据以及所述目标训练集中的各张图像的标注信息,计算所述多任务神经网络在当前迭代的损失函数值,包括训练单元具体用于:

依据各个第二结果数据以及所述目标训练集中的各张图像的标注信息,计算每个任务神经网络在当前迭代的损失函数值;

获取每个任务神经网络在上一次迭代的损失下降速率;

针对每个任务神经网络,依据所有的任务神经网络在上一次迭代的损失下降速率,计算所述任务神经网络在当前迭代的权重;

依据每个任务神经网络在当前迭代的损失函数值和权重,计算所述多任务神经网络在当前迭代的损失函数值。

在本申请的一个实施例中,基于前述方案,第一获取单元1201用于获取待泊车车辆所处位置的鸟瞰图,包括第一获取单元1201具体用于:

获取分别安装于待泊车车辆不同部位的多个图像采集装置采集的图像;

对多个图像采集装置采集的多张图像进行整合处理,得到所述待泊车车辆的鸟瞰图。

在本申请的一个实施例中,基于前述方案,所述图像采集装置采集为鱼眼摄像头。

在本申请的一个实施例中,基于前述方案,第一获取单元1201还用于:

对多个图像采集装置采集的每张图像进行图像预处理。

在本申请的一个实施例中,基于前述方案,第一获取单元1201用于对多个图像采集装置采集的每张图像进行图像预处理,包括第一获取单元1201具体用于:

对多个图像采集装置采集的每张图像进行去畸变处理;

获取每个图像采集装置的设备参数;

针对去畸变处理后的每张图像,利用所述图像对应的设备参数,对所述图像进行坐标变换。

在本申请的一个实施例中,所述泊车信息包括:所述鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性,基于前述方案,还可以配置为:

坐标变换单元,用于对所述泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标;

滤波单元,用于对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标;

规划单元,用于依据每个库位的第二库角点坐标和所述泊车信息中的每个库位的库位属性,以及所述鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径。

与图10所述的泊车方法相对应,本申请实施例还提供了一种信息获取装置,用于对图10中方法的具体实现,其结构示意图如图13示,具体包括:

第二获取单元1301,用于获取待泊车车辆的泊车信息,所述获取泊车信息的方法实施例图1至图8所述;

确定单元1302,用于依据所述泊车信息确定停车路径;

控制单元1303,用于控制所述待泊车车辆依据所述停车路径进行泊车。

本实施例提供的泊车装置,由于所获取的泊车信息的准确度和效率较高,因此基于该泊车信息进行路径规划,可以提高路径规划的准确度和效率,从而提高泊车的效率和准确度。

在本申请的一个实施例中,所述泊车信息包括:所述鸟瞰图中每个像素点对应的道路元素类别,每个库位的库角点坐标,以及,每个库位的库位属性,基于前述方案,确定单元1302用于依据所述泊车信息确定停车路径,包括确定单元1302具体用于:

对所述泊车信息中的每个库位的库角点坐标进行坐标变换,得到每个库位的第一库角点坐标;

对每个库位的第一库角点坐标进行滤波处理,得到每个库位的第二库角点坐标;

依据每个库位的第二库角点坐标和所述泊车信息中的每个库位的库位属性,以及所述鸟瞰图中每个像素点对应的道路元素类别,进行停车路径规划,得到停车路径。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本申请公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

以上描述仅为本申请公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

完整详细技术资料下载
上一篇:石墨接头机器人自动装卡簧、装栓机
下一篇:基于改进的深度卷积神经网络的图像超分辨率重建方法

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!